EUA e China formam força-tarefa para controlar IA em situações de risco
Especialistas discutem riscos da IA em cenários de conflito nuclear entre superpotências.
Um modelo de inteligência artificial altamente avançado poderia, de maneira autônoma, interferir nas redes de comando nuclear de potências como os EUA ou a China. Esse cenário alarmante levantaria a possibilidade de um ataque cibernético que fizesse uma nação acreditar que estava sob ataque da outra, deixando ambas com apenas alguns minutos para decidir a resposta adequada.
Essa situação colocaria o mundo em uma posição crítica, semelhante a tramas vistas em filmes, mas com a rápida evolução da IA, especialistas consideram essa possibilidade cada vez mais real. A cooperação entre especialistas dos EUA e da China já está em andamento para abordar e mitigar os riscos associados a tais cenários.
Um grupo de analistas dos dois países está encarregado de avaliar os riscos e propor soluções. Em breve, Donald Trump e Xi Jinping discutirão essas questões em uma reunião na Casa Branca, o que demonstra a urgência do tema.
Algumas soluções já foram propostas
Recentemente, especialistas dos EUA e da China publicaram um artigo conjunto onde apresentam medidas para evitar que uma IA descontrolada desencadeie um conflito. As propostas incluem a criação de “linhas vermelhas” em torno dos sistemas nucleares e a implementação de protocolos de controle humano sobre ataques cibernéticos significativos.
Além disso, sugere-se estabelecer uma linha de comunicação militar direta entre os dois países para gerenciar incidentes relacionados à IA. Essas recomendações se inspiram em protocolos da Guerra Fria, que visavam evitar mal-entendidos nucleares.
Os especialistas alertam que o maior risco reside na reação automática da IA defensiva a atividades suspeitas, o que poderia ser interpretado como um ataque, levando a uma resposta imediata sem a devida investigação. A linha direta proposta permitiria um diálogo antes de qualquer retaliação, ajudando a evitar escaladas indesejadas.
Entretanto, nem todos concordam com a eficácia das estratégias sugeridas. Enquanto alguns acreditam na necessidade de convergência entre as potências, outros questionam a real utilidade dos canais de diálogo estabelecidos para enfrentar os desafios da IA.
