Especialistas dos EUA e China sugerem medidas de segurança para IA inspiradas no setor nuclear

Disputa tecnológica entre EUA e China envolve segurança em inteligência artificial.

Um sistema de inteligência artificial que interfira na rede de comando nuclear ou lance operações militares digitais pode deixar Washington ou Pequim com apenas alguns minutos para decidir se o outro governo foi responsável por um ataque, conforme alertam especialistas em segurança dos EUA e da China.

Esses especialistas, que participam de diálogos entre os dois países e orientam discussões oficiais, recomendam que os governos se preparem para cenários de riscos crescentes, dados os avanços em sistemas autônomos e poderosos.

As recomendações incluem a imposição de limites rigorosos para sistemas nucleares, a exigência de controle humano sobre ataques digitais significativos e a criação de uma linha direta para incidentes que envolvam inteligência artificial autônoma.

Essas propostas foram divulgadas recentemente, antecedendo negociações sobre IA que ocorrerão em nível governamental e uma reunião agendada para 24 de setembro entre os líderes dos EUA e da China.

Pesquisadores como Melanie Sisson e Tianjiao Jiang têm participado ativamente do diálogo sobre IA e segurança nacional, promovido desde 2019 por instituições renomadas. As discussões indicam que a rivalidade entre as duas nações em IA transcende a disputa por chips e modelos avançados, abrangendo também questões de controle de armas.

Os especialistas ressaltam a importância de evitar que acidentes sejam confundidos com ataques deliberados e a necessidade de limitar decisões militares que possam ser tomadas por máquinas.

O ministro da Segurança do Estado da China, Chen Yixin, destacou que a inteligência artificial “transforma fundamentalmente a forma da luta militar”, sublinhando que a tecnologia passou a ocupar uma posição central em conflitos modernos.

Linhas vermelhas

Sisson argumenta que apenas humanos devem ter a autoridade para iniciar ataques digitais que envolvam sistemas nucleares. A possibilidade de um sistema autônomo falhar ou extrapolar suas instruções levanta preocupações sobre a segurança e a interpretação de ações como acidentais ou intencionais.

Jiang propôs limites explícitos para impedir que a IA decida de forma independente sobre o uso de armas nucleares e defendeu a proteção de infraestruturas críticas, além de uma definição comum de “controle humano significativo”.

A proposta se baseia em um princípio que já foi endossado por líderes dos EUA e da China, enfatizando a necessidade de controle humano sobre decisões relacionadas a armas nucleares.

Pesquisadores também apontam que, apesar de um importante ponto de convergência, ambos os países estão integrando a IA em sistemas nucleares de maneira crescente.

Máquinas agem mais rápido

Jiang sugeriu a criação de uma linha direta militar entre os EUA e a China para lidar com incidentes envolvendo IA, uma vez que as respostas automatizadas podem rapidamente escalar tensões, reduzindo o tempo para intervenção humana.

A implementação dessa linha direta permitiria que um governo informasse o outro sobre operações incomuns de IA, evitando mal-entendidos que poderiam levar a retaliações precipitadas.

No entanto, especialistas expressam dúvidas sobre a eficácia de linhas diretas existentes, citando a dificuldade de comunicação entre os dois países em situações de crise.

Opiniões em Washington e Pequim

Ainda que nenhum dos governos tenha endossado publicamente as propostas, a China vem incorporando a IA em sua estrutura de controle de armas, reconhecendo os riscos associados à tecnologia militar.

O embaixador da China para desarmamento enfatizou que a IA militar pode impactar a estabilidade estratégica e aumentar os riscos de escalada de conflitos, defendendo que as armas devem permanecer sob controle humano.

Enquanto isso, Washington ainda não possui um órgão centralizado equivalente para tratar do controle de armas relacionadas à IA, com a política de segurança nacional fragmentada entre diversas agências.

Ambos os governos demonstram cautela em relação a medidas que possam desacelerar seu desenvolvimento tecnológico, refletindo a complexidade e a interdependência da atual dinâmica global de segurança.