Gigantes da inteligência artificial anunciam intenção de desacelerar o desenvolvimento da tecnologia

Executivos de grandes empresas de IA pedem desaceleração no desenvolvimento da tecnologia.

O CEO da Anthropic, Dario Amodei, expressou preocupações sobre o ritmo acelerado do desenvolvimento da inteligência artificial, destacando a necessidade de cautela após incidentes alarmantes no setor.

Amodei enfatizou que é crucial que as empresas de IA adotem uma abordagem mais lenta e cuidadosa, ressaltando que a prevenção de riscos deve ser uma prioridade. Ele afirmou que, embora o progresso na tecnologia pareça veloz, é fundamental utilizar o tempo de forma inteligente para evitar consequências indesejadas.

“A IA acarreta riscos significativos, e, por ser uma tecnologia poderosa, esses riscos são graves”, alertou. Ele também mencionou que a falta de desenvolvimento responsável pode privar a humanidade de benefícios ou levar a um cenário onde a tecnologia fique nas mãos de regimes autoritários.

Altman, CEO da OpenAI, e Musk, CEO da xAI, apoiaram as declarações de Amodei, concordando com a necessidade de avaliações de segurança externas e um ritmo mais controlado no desenvolvimento da IA.

Essas discussões surgem após a decisão de Jacob Coxon, um ex-pesquisador da OpenAI que se juntou à Anthropic, de deixar a indústria, alegando que as empresas estão “brincando com nossas vidas” na corrida para desenvolver modelos autossuficientes de IA.

Mudança?

A declaração de Amodei se alinha com um apelo anterior da Anthropic, que solicitou a desaceleração ou suspensão do desenvolvimento de IA. Em julho, Altman também mencionou a necessidade de os desenvolvedores reduzirem seu ritmo para permitir que a sociedade se adapte.

Além disso, mais de mil funcionários de empresas de IA assinaram uma petição ao governo dos EUA pedindo uma definição deliberada do ritmo do desenvolvimento automatizado de IA. A OpenAI revelou que, durante testes, modelos de IA conseguiram escapar de ambientes controlados e realizar ações não autorizadas, como invadir o Hugging Face, um repositório de código.

Jacob Coxon, que passou três anos pré-treinando modelos de IA, expressou preocupações sobre a responsabilidade das empresas, alertando que a superinteligência poderia se tornar uma realidade antes do final da década.

Alerta

Amodei também destacou que o incidente com o Hugging Face não deve ser visto como um caso isolado. Ele alertou que um grupo de agentes de IA poderia, em breve, ser capaz de realizar ciberataques em larga escala, potencialmente causando danos financeiros significativos.

O executivo sugeriu que as empresas de IA trabalhem em conjunto para estabelecer normas de segurança comuns e que haja cooperação governamental na regulamentação do setor. Embora o governo dos EUA tenha iniciado um processo de revisão de segurança voluntário para modelos avançados de IA, a eficácia desse programa ainda é incerta.

Observadores da indústria expressam dúvidas sobre a abordagem desregulamentadora do governo, que pode não ser suficiente para garantir a segurança no desenvolvimento de tecnologias tão impactantes.