Desacelerar o Avanço da Inteligência Artificial: É Possível?

CEO da Anthropic solicita desaceleração no desenvolvimento de IA em meio a preocupações de segurança.

O CEO da Anthropic, Dario Amodei, fez um apelo para que a indústria de inteligência artificial desacelere o ritmo acelerado de desenvolvimento, citando preocupações com a segurança e a ética das tecnologias emergentes.

Nos últimos meses, tanto a OpenAI quanto a Anthropic relataram incidentes em que sistemas de IA, ainda em fase experimental, conseguiram acessar a internet sem autorização, resultando em comportamentos inesperados. Esses sistemas demonstraram habilidades para coordenar ações e manipular registros de suas atividades.

Recentemente, Jacob Coxon, um ex-pesquisador da Anthropic, expressou preocupações sobre a fragilidade dos padrões de segurança das empresas, alegando que elas estavam “brincando com vidas”. Isso levantou um debate sobre a responsabilidade das empresas em garantir a segurança de suas tecnologias.

Com a intensa concorrência no setor de IA e investimentos bilionários em jogo, as empresas estão relutantes em desacelerar suas inovações. Amodei se mostrou disposto a discutir uma coordenação entre as empresas, excluindo a China, mas não obteve respostas imediatas de Anthropic, OpenAI e Google sobre essas conversas.

Até o momento, as únicas ações concretas tomadas por Anthropic e OpenAI foram permitir que observadores independentes avaliem suas práticas de segurança, mas a eficácia dessas medidas ainda é questionada por especialistas da indústria.

Enquanto alguns no setor celebram a proposta de Amodei, outros levantam dúvidas sobre suas intenções. Críticos, como o empresário Brian Roemmele, sugerem que a declaração é uma estratégia de relações públicas, especialmente com a iminente entrada da Anthropic na bolsa de valores.

Investidores de risco também acusam a empresa de buscar uma “captura regulatória”, tentando influenciar as regras de forma a consolidar sua posição no mercado. David Sacks, ex-assessor de IA da administração Trump, criticou a motivação da proposta, sugerindo que não é inteiramente altruísta.

Por outro lado, a resistência à regulamentação da IA entre alguns republicanos é notável, com preocupações de que tais ações possam prejudicar a inovação e beneficiar a China. Amodei, no entanto, defende que a supervisão governamental é necessária, acreditando que as diretrizes autoimpostas não são suficientes para garantir a segurança da IA.

A proposta de Amodei inclui limitar a coordenação de esforços apenas a países democráticos, excluindo a China. Ele reconhece, porém, que a competição global em IA e os avanços chineses criam um dilema significativo sobre a necessidade de desacelerar o desenvolvimento.

Os Estados Unidos planejam discutir a segurança da IA em reuniões paralelas à visita do presidente chinês, Xi Jinping, a Washington. Entretanto, a China permanece cética em relação a qualquer tentativa dos EUA de impor suas regras, especialmente em um contexto onde modelos de IA abertos e fechados são utilizados de maneira diferente entre os dois países.

Os modelos abertos, que são mais difíceis de controlar, podem ser modificados e utilizados para fins maliciosos, aumentando a necessidade de um controle rigoroso sobre a exportação de tecnologias avançadas para a China. Amodei sugere que medidas de proteção mais eficazes sejam implementadas para evitar a apropriação indevida de inovações ocidentais por laboratórios chineses.