Líder da Claude propõe interrupção no avanço da IA devido a riscos de perda de controle humano
Proposta da Anthropic sugere pausa no desenvolvimento de IA para evitar riscos de controle.
A empresa de inteligência artificial Anthropic propôs uma pausa global no desenvolvimento de sistemas de IA cada vez mais avançados, em resposta a preocupações sobre o controle humano sobre esses modelos.
Com sede em San Francisco, a Anthropic, responsável pelos modelos de IA do Claude, ressaltou em um relatório que uma desaceleração no desenvolvimento da IA de ponta poderia ser benéfica. No entanto, alertou que se apenas uma empresa optar por diminuir o ritmo, poderá ser superada pela concorrência.
“Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”, manifestou a Anthropic.
Para que uma pausa real ocorra, seria necessário que grandes empresas de IA em diferentes países, especialmente China e Estados Unidos, concordassem em interromper simultaneamente suas atividades sob regras verificáveis.
A Anthropic enfatizou que, sem um mecanismo de coordenação global, empresas e governos enfrentariam decisões difíceis sobre segurança, enquanto lidam com pressões competitivas e geopolíticas.
A proposta enfrenta resistência em Washington e no Vale do Silício, onde funcionários do governo e executivos de grandes empresas de tecnologia argumentam que uma desaceleração poderia conceder uma vantagem competitiva à China.
Recentemente, um decreto assinado pelo presidente Donald Trump permitirá que o governo realize avaliações preliminares dos modelos de IA mais potentes das empresas americanas antes de seu lançamento.
A Anthropic planeja reunir, nos próximos meses, representantes do governo, cientistas, grupos de defesa e empresas concorrentes para discutir como esse sistema de coordenação poderia ser implementado.
O apelo por coordenação surge em um momento em que dados internos indicam que a IA está acelerando dramaticamente seu próprio desenvolvimento. A empresa alertou que essa aceleração pode criar um ciclo de retroalimentação, levando ao que pesquisadores chamam de “melhora recursiva de si mesma”, onde um sistema de IA poderia aprender a se tornar mais inteligente.
A Anthropic negou que esse cenário seja inevitável, mas ressaltou que “as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA”.
LEIA TAMBÉM:
