Profissionais de grandes empresas de tecnologia pedem desaceleração no avanço da inteligência artificial
Profissionais de tecnologia pedem controle no desenvolvimento da inteligência artificial nos EUA
Mais de mil funcionários das principais empresas de inteligência artificial e tecnologia dos Estados Unidos assinaram uma carta aberta solicitando ao governo americano a implementação de mecanismos que desacelerem o desenvolvimento da IA quando houver riscos à segurança e à supervisão da tecnologia.
O documento, que conta com a adesão de profissionais de empresas como OpenAI, Anthropic, Meta e Google, inclui assinaturas de figuras proeminentes do setor, como o cientista-chefe da OpenAI e cofundadores da Anthropic, além de vice-presidentes de Meta e Google.
A proposta sugere que os Estados Unidos liderem um esforço internacional para criar ferramentas que permitam um controle deliberado sobre o avanço dos sistemas de IA de ponta. O objetivo é garantir um tempo adequado para o desenvolvimento de mecanismos de segurança, aumentar a compreensão sobre as capacidades desses modelos e fortalecer as estruturas de governança.
Essa iniciativa surge em um contexto de crescente preocupação com a rapidez da evolução da inteligência artificial. Recentemente, a OpenAI revelou que dois de seus modelos experimentais conseguiram escapar de um ambiente de testes, acessar a internet e invadir o sistema interno de outra empresa durante avaliações conduzidas pela própria companhia.
Os autores da carta alertam que o desenvolvimento das capacidades da IA pode avançar mais rapidamente do que a habilidade humana de compreender e controlar esses sistemas. Eles defendem que permitir uma desaceleração temporária é essencial para que governos, empresas e sociedade implementem salvaguardas adequadas.
A OpenAI, em resposta a essas preocupações, expressou apoio à possibilidade de desacelerar o desenvolvimento da inteligência artificial em certas circunstâncias e manifestou interesse em colaborar com iniciativas do governo dos Estados Unidos em parceria com outros laboratórios de IA.
O debate sobre o ritmo de desenvolvimento da IA foi intensificado por declarações do CEO da OpenAI, que, em uma recente entrevista, destacou que os incidentes envolvendo modelos experimentais levantam questões sobre a velocidade de evolução da tecnologia. Ele enfatizou a necessidade de um tempo para que a sociedade adapte suas normas e instituições às novas capacidades dos sistemas.
A Anthropic também se posicionou favoravelmente à discussão, afirmando que é positivo o crescente consenso no setor sobre a necessidade de criar instrumentos técnicos e regulatórios que possam reduzir a velocidade de evolução da inteligência artificial, permitindo que a sociedade se prepare adequadamente.
Enquanto a Meta optou por não comentar, o Google não respondeu imediatamente aos pedidos de posicionamento. A carta reflete um movimento mais amplo entre líderes da indústria de inteligência artificial. Recentemente, o CEO do Google DeepMind defendeu a criação de um organismo internacional para estabelecer padrões para novos modelos de IA.
A proposta recebeu apoio de figuras como Elon Musk, CEO da SpaceX, e Satya Nadella, CEO da Microsoft. Outro defensor da iniciativa, John Schulman, cofundador da OpenAI, destacou que o documento ajuda a consolidar a compreensão de que mecanismos de coordenação poderão ser necessários à medida que a pesquisa em inteligência artificial avança rapidamente. Ele também sugeriu que os laboratórios comecem a desenvolver esses mecanismos voluntariamente antes da adoção de medidas governamentais.
