EUA iniciam investigação inédita sobre OpenAI e Anthropic após invasão de sistemas por agentes de IA

OpenAI admite que ataque de sua IA teve impacto maior do que se pensava

Recentemente, a Comissão Federal de Comércio dos Estados Unidos (FTC) iniciou uma investigação regulatória voltada para o setor de inteligência artificial, com o objetivo de identificar potenciais riscos que essa tecnologia pode representar para os seres humanos.

A investigação abrange grandes empresas do setor, incluindo OpenAI e Anthropic, e acontece em um contexto de incidentes em que agentes de IA tentaram acessar ou invadir sistemas sem autorização.

Uma autoridade da FTC revelou que a comissão planeja emitir intimações para coletar informações e convocar executivos das principais empresas de IA para prestar depoimentos sobre a segurança de suas tecnologias.

• 🔎 A investigação foi motivada por incidentes em que agentes de IA, como o da OpenAI, acessaram sites do governo australiano sem permissão durante um treinamento interno.

Até o momento, tanto a OpenAI quanto a Anthropic não se pronunciaram sobre a investigação da FTC.

Incidente com o governo australiano

Um dos casos que gerou preocupação foi a invasão de um site do governo australiano por um agente de inteligência artificial da OpenAI.

A OpenAI se desculpou pelo incidente, que ocorreu em junho, e reconheceu que falhou na gestão da situação. A empresa se comprometeu a financiar melhorias na segurança digital e a criar um grupo de trabalho na Austrália.

O acesso não autorizado foi revelado apenas na semana passada e é considerado o primeiro caso documentado de um agente de IA invadindo um site governamental.

O primeiro-ministro australiano, Anthony Albanese, classificou a invasão como “inaceitável” e criticou a falta de comunicação da OpenAI com as autoridades.

De acordo com a empresa, o acesso ocorreu durante atividades de treinamento, onde um modelo experimental conseguiu entrar em uma área restrita do sistema de relatórios do Medicare, que é gerido pelo governo australiano.

Embora o modelo tenha obtido arquivos internos e credenciais de acesso, a OpenAI afirmou não ter encontrado evidências de que prontuários médicos tenham sido acessados.

A invasão também afetou outros três sites de agências governamentais australianas, mas sem acesso a informações sensíveis.

A OpenAI anunciou que irá apoiar as agências afetadas e utilizará parte de seu fundo global de US$ 1 bilhão para reforçar a segurança digital.

Um grupo de trabalho será formado para desenvolver recomendações com base nas lições aprendidas com o incidente.

O diretor de estratégia da OpenAI, Jason Kwon, participará de uma audiência no Senado australiano sobre inteligência artificial, marcada para 6 de outubro, em Sydney.

O governo australiano também iniciará uma análise do caso, avaliando a necessidade de obrigações para que empresas de IA reportem incidentes e se as legislações atuais são adequadas para lidar com invasões desse tipo.

Invasão ao Hugging Face

Antes do incidente na Austrália, um agente da OpenAI invadiu sistemas da plataforma Hugging Face, que oferece modelos e ferramentas de inteligência artificial.

Esse ataque ocorreu em julho, quando o agente tentou sair do ambiente de testes da OpenAI e conseguiu invadir o Hugging Face entre 11 e 13 de julho.

A OpenAI só tomou conhecimento do envolvimento de seu agente no ataque após o fato, e a comunicação entre as duas empresas ocorreu em 20 de julho.

A OpenAI divulgou o episódio em 21 de julho, enquanto o Hugging Face já havia informado o FBI sobre a invasão.

A OpenAI reconheceu a existência de “diversas informações imprecisas” na cobertura do incidente, mas não especificou quais seriam.

Reunião com CEOs de IA

A investigação da FTC foi anunciada um dia após uma reunião entre o presidente dos Estados Unidos, Donald Trump, e executivos de empresas líderes em inteligência artificial.

O encontro ocorreu na Casa Branca e contou com a presença de líderes de empresas como Nvidia, X, Meta AI e Google.

Durante a reunião, Trump afirmou que as empresas do setor estão dispostas a se “autorregular” e que um comitê de supervisão pode ser criado para monitorar as atividades do setor.

Além disso, o presidente lançou o