China e Irã Usam IA em Espionagem, Revela Estudo da Anthropic
Anthropic proíbe uso de IA em pesquisas de armas biológicas e alerta sobre vigilância governamental.
A Anthropic anunciou recentemente a suspensão de operações de vigilância patrocinadas por Estados que utilizavam seus modelos de inteligência artificial (IA). A empresa expressou preocupação com o uso crescente da IA por governos para espionar minorias e dissidentes.
As atividades de vigilância foram identificadas em países como China, Irã e na região da África Ocidental, sendo detectadas e interrompidas entre os meses de janeiro e julho. O relatório da Anthropic destaca que essas campanhas visavam comunidades da diáspora e dissidentes historicamente perseguidos por esses regimes.
Entre os grupos afetados estão ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que residem no exterior. A empresa revelou que, em um caso específico, iranianos desenvolveram um método para identificar indivíduos por meio de suas contas em redes sociais.
Além disso, um contratado das autoridades de segurança nacional do Mali utilizou a IA da Anthropic para criar um software que facilitava a coleta de informações de inteligência. A empresa também denunciou que desenvolvedores chineses usaram seu modelo Claude de forma enganosa, gerando respostas para usuários enquanto extraíam dados para melhorar seus próprios sistemas.
O processo de “destilação”, que envolve o uso de um modelo de IA para treinar outro, foi mencionado como uma técnica que já havia sido utilizada por desenvolvedores chineses sem a devida autorização.
Pesquisas biológicas suspeitas
No que diz respeito às pesquisas relacionadas a armas biológicas, a Anthropic detectou e bloqueou atividades cuja intenção não foi claramente identificada. A empresa optou por não revelar a identidade dos envolvidos para evitar possíveis riscos.
“As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos”, afirmou o relatório.
As pesquisas em questão estavam focadas em vírus como o chikungunya, uma cepa altamente patogênica de gripe aviária, e uma família de vírus que inclui a varíola e o mpox, além de venenos e outras toxinas.
