OpenAI e concorrentes pedem interrupção estratégica no desenvolvimento da inteligência artificial

Empresas de inteligência artificial pedem regulação para desacelerar avanços tecnológicos.

Recentemente, duas das principais empresas de inteligência artificial, OpenAI e Anthropic, manifestaram apoio a uma carta que solicita ao governo dos Estados Unidos a implementação de mecanismos para desacelerar o desenvolvimento dessa tecnologia, caso os avanços se tornem excessivamente rápidos.

O documento, que conta com a assinatura de representantes de gigantes como Google e Meta, alerta sobre o potencial da IA de evoluir além da capacidade humana de monitorar e controlar seus impactos. Essa preocupação reflete um consenso crescente entre especialistas sobre a necessidade de uma abordagem mais cautelosa no desenvolvimento da inteligência artificial.

A proposta não visa interromper as pesquisas, mas sim estabelecer diretrizes que ajudem a mitigar riscos, especialmente se futuros sistemas forem capazes de automatizar partes do processo de desenvolvimento da própria tecnologia.

Entre os principais pontos abordados na carta, destacam-se:

• Criar mecanismos internacionais para monitorar a evolução da IA;
• Desenvolver ferramentas técnicas para avaliação de riscos;
• Estabelecer regras de governança para sistemas avançados;
• Ampliar a cooperação entre governos e empresas do setor.

Essa iniciativa ganhou destaque por envolver profissionais que atuam na vanguarda da corrida pela inteligência artificial. O apoio institucional de grandes empresas representa uma mudança significativa em relação a pedidos anteriores que clamavam por uma pausa no desenvolvimento da tecnologia.

Outro ponto de preocupação é a possibilidade de que sistemas de inteligência artificial possam assumir tarefas de pesquisa e contribuir para o desenvolvimento de novos modelos de forma cada vez mais autônoma. A OpenAI, por exemplo, tem como um de seus objetivos a construção de um “pesquisador de IA automatizado”, prevendo que, até 2028, uma parte considerável de suas pesquisas será realizada por sistemas de IA em colaboração com especialistas humanos.

Andrew Yoon, membro da CivAI, uma organização dedicada à análise das capacidades e riscos da tecnologia, expressou que essa possibilidade pode acelerar o avanço da IA a um ponto em que a supervisão se torne difícil. Segundo ele, os desenvolvedores estão cada vez mais convencidos de que a pesquisa automatizada em inteligência artificial está se aproximando da realidade.

A corrida pela evolução da inteligência artificial também se insere no contexto da disputa tecnológica entre os Estados Unidos e a China, com ambos os países investindo bilhões de dólares em sistemas mais avançados. O debate sobre como equilibrar inovação e segurança se torna cada vez mais relevante à medida que novos modelos demonstram capacidades avançadas de interação e levantam preocupações sobre segurança.

Embora Sam Altman, CEO da OpenAI, não tenha assinado a carta, ele reconheceu a possibilidade de que seja necessário reduzir o ritmo dos avanços para que a sociedade possa acompanhar as mudanças. O desafio, portanto, é inovar sem perder o controle.

Para especialistas, o avanço da tecnologia traz oportunidades significativas em áreas como pesquisa científica, saúde e inovação, mas também demanda novas formas de supervisão. O pedido feito por funcionários das principais empresas de IA indica que a própria indústria está começando a discutir limites para uma corrida tecnológica que pode transformar profundamente a sociedade nos próximos anos.