Ex-pesquisador da OpenAI e Anthropic denuncia empresas por manipulação de vidas

Pesquisador de IA critica empresas do setor e alerta sobre riscos à humanidade.

Jacob Coxon, um pesquisador de inteligência artificial britânico, decidiu deixar a indústria, alegando que as empresas estão “brincando com as nossas vidas”. Sua saída ocorre em um momento crítico, onde a segurança no desenvolvimento de IA é cada vez mais questionada.

Com apenas 27 anos, Coxon trabalhou nos últimos três anos em pré-treinamento de modelos de IA, primeiro na OpenAI e, mais recentemente, na Anthropic. Ele expressou sua preocupação com o avanço irresponsável da tecnologia, que pode levar a uma superinteligência autossuficiente.

“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, afirmou Coxon.

Coxon também destacou que as pessoas envolvidas na construção de IA têm consciência dos riscos, mencionando que “acreditam sinceramente que ela pode matar todos até o fim da década”. Essa afirmação ressalta a urgência de uma abordagem mais cautelosa na pesquisa e desenvolvimento dessa tecnologia.

A saída do pesquisador acontece enquanto a Anthropic se prepara para abrir capital na Bolsa. Até o momento, as duas empresas não se pronunciaram sobre as declarações de Coxon.

Em apoio a Coxon, Evan Hubinger, diretor de segurança da Anthropic, reconheceu que a IA representa um risco significativo, estimando uma probabilidade de “mais de 10%” de que a tecnologia possa causar danos a seres humanos na próxima década.

A indústria de IA está se aproximando de um ponto crítico, conhecido como “autoaperfeiçoamento recursivo”, onde sistemas de IA poderiam criar e treinar novas gerações de IA com mínima intervenção humana. Coxon enfatizou que, sem uma regulação governamental ou uma desaceleração coordenada, é impossível desenvolver uma IA responsável que supere a capacidade humana.

“Na Anthropic, eles compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar lá primeiro”, disse Coxon, criticando a falta de responsabilidade no setor.

Em fevereiro, a Anthropic retirou de sua política de segurança o compromisso de interromper o desenvolvimento de modelos de IA caso os riscos não fossem controlados. Isso gerou ainda mais preocupações entre especialistas e profissionais da área.

No final de julho, mais de mil funcionários do setor, incluindo o CEO da Anthropic, Dario Amodei, pediram ao governo dos Estados Unidos que implementasse medidas de segurança. Recentemente, o diretor científico da OpenAI, Jakub Pachocki, também destacou a necessidade de cautela e coordenação internacional diante do avanço da IA.