Pesquisadores da Anthropic alertam para risco de extinção humana devido à inteligência artificial

Pesquisadores alertam sobre riscos da inteligência artificial, que pode ameaçar a humanidade.

Pesquisadores da Anthropic têm expressado preocupações crescentes sobre os perigos associados ao avanço da inteligência artificial (IA). Eles afirmam que a tecnologia pode se tornar tão sofisticada e arriscada que poderia levar à extinção humana na próxima década.

As declarações vieram após a saída de Jacob Coxon, um pesquisador da empresa, que revelou suas preocupações em uma publicação amplamente compartilhada. Ele criticou tanto a Anthropic quanto a OpenAI, alegando que ambas não estão desenvolvendo modelos de IA de forma responsável, colocando em risco a vida humana.

A manifestação de Coxon gerou reações de outros membros da Anthropic, que começaram a compartilhar seus próprios avisos sobre os desafios da rápida evolução da tecnologia. Anna Wang, especialista em segurança de Inteligência Artificial Geral (IAG), mencionou que muitos na empresa desejam desacelerar o desenvolvimento para criar um plano que minimize os riscos associados a modelos avançados.

Wang destacou a falta de um plano científico viável para mitigar os riscos de uma IA que se autoaperfeiçoa. Drake Thomas, outro funcionário da Anthropic, apoiou a decisão de Coxon, enfatizando que o progresso está acontecendo de forma acelerada e que a garantia de segurança desejada para uma superinteligência artificial ainda está distante.

Pesquisador estima mais de 10% de chance de extinção

• Evan Hubinger, líder na divisão de alinhamento da Anthropic, concordou com Coxon e alertou que a indústria está perdendo terreno na abordagem do potencial catastrófico da tecnologia, afirmando que a IA poderia, de fato, representar uma ameaça à vida humana.
• Hubinger estimou que a probabilidade de uma catástrofe dessa magnitude ocorrer na próxima década é superior a 10%.
• Samuel Marks, também da Anthropic, corroborou a visão de que a IA poderia levar a consequências desastrosas, observando que a preocupação tende a aumentar entre os funcionários mais experientes.

Musk chama alertas de “psyop”

As afirmações dos pesquisadores geraram uma resposta de Elon Musk, que se mostrou cético em relação aos alertas. Ele sugeriu que a situação poderia ser uma manipulação psicológica para moldar a percepção pública.

Musk comentou que a declaração de Coxon poderia ser o início de uma operação de relações públicas destinada a promover regulamentações mais rígidas sobre a IA, embora não tenha apresentado evidências concretas para apoiar sua teoria.

Coxon respondeu a Musk, afirmando que suas crenças são genuínas e que ele é uma pessoa real, desafiando Musk a investigar suas credenciais junto a outros pesquisadores.

Anthropic defende suas medidas de segurança

Em meio às críticas, a Anthropic defendeu sua abordagem, afirmando que sempre foi transparente sobre os benefícios e riscos da IA. A empresa destacou que seus modelos estão sendo desenvolvidos com algumas das medidas de segurança mais rigorosas do setor.

No entanto, nem todos os especialistas acreditam que o maior risco seja uma superinteligência capaz de exterminar a humanidade. Gary Marcus, um renomado cientista no campo da IA, argumentou que os danos imediatos já estão ocorrendo e precisam ser tratados com urgência.

Marcus alertou sobre riscos como a criação de patógenos com auxílio de IA, guerras alimentadas por desinformação gerada por sistemas de IA e ataques a infraestruturas críticas, enfatizando que essas questões ainda não estão sob controle.

Alerta surge no mesmo dia de caso envolvendo arma biológica

A discussão sobre os riscos da IA ganhou um novo contexto quando a Anthropic divulgou um relatório sobre uma operação desmantelada que tentava construir uma arma biológica utilizando seus modelos de IA.

Embora o episódio não indique que uma IA autônoma tenha criado uma arma, ele destaca como os modelos existentes podem ser