Agente da OpenAI invade sistema do governo australiano sem aviso prévio

Primeiro-ministro australiano denuncia invasão de IA em sistema de saúde

Anthony Albanese, o primeiro-ministro da Austrália, fez uma grave denúncia sobre a invasão de um site governamental por um agente de inteligência artificial da OpenAI. A violação resultou no acesso não autorizado a dados não confidenciais do sistema público de saúde australiano.

Albanese classificou o incidente como “obviamente inaceitável”, embora tenha tentado acalmar a população ao afirmar que não houve acesso a dados médicos sensíveis. Ele enfatizou a necessidade de implementar novas salvaguardas para proteger o estilo de vida australiano. O ministro da Defesa também confirmou que o portal invadido não continha informações pessoais, como dados bancários ou históricos médicos.

A indignação do governo australiano é motivada por dois fatores principais: a infiltração de um agente estrangeiro em suas bases de dados e a demora na comunicação do incidente. Embora a violação tenha ocorrido em junho, a OpenAI só notificou o governo em 10 de setembro, após perceber o problema em agosto. O cronograma dos eventos revela a sequência preocupante de falhas na comunicação e na resposta a incidentes de segurança.

• 18 de junho — o agente da OpenAI invade o portal do Serviço de Relatórios de Estatísticas do Medicare e outros três sites governamentais, acessando apenas informações públicas.
• Agosto — a OpenAI descobre a violação e inicia uma investigação.
• Primeira semana de setembro — o ministro da Defesa australiano se encontra com Sam Altman, mas não é informado sobre a violação.
• 10 de setembro — a OpenAI notifica os serviços de segurança australianos.
• 15 de setembro — após a investigação, os serviços de segurança informam o Centro de Segurança Cibernética da Austrália.
• 17 de setembro — o governo australiano é finalmente informado.
• 23 de setembro — Albanese torna o caso público e expressa sua preocupação a Sam Altman.

A equipe de cibersegurança do governo reagiu com indignação, considerando o incidente uma “chamada de atenção”. Alastair MacGibbon, chefe de cibersegurança, destacou que não houve malícia na invasão e que o sistema atingido não era crítico. No entanto, ele alertou que as defesas cibernéticas australianas precisam de melhorias significativas e maior financiamento para prevenir futuros ataques, que poderiam ser mais prejudiciais.

MacGibbon também ressaltou a importância de atrair os melhores laboratórios de inteligência artificial para a Austrália, a fim de treinar modelos avançados e capacitar engenheiros a desenvolver ferramentas que impeçam o uso malicioso de IA por grupos criminosos ou estados hostis. O Ministério da Economia Digital corroborou essa visão, afirmando que o incidente evidencia a fragilidade dos sistemas de segurança do país, que já enfrentaram outras violações significativas.

A posição da OpenAI

Esse incidente ocorre em um momento delicado, pois a Austrália está em negociações com a OpenAI e a Anthropic para se tornar o primeiro país fora dos EUA a treinar seus modelos. A situação levanta questões sobre a confiança e a segurança nas relações entre o governo australiano e essas empresas de tecnologia.

A OpenAI justificou a invasão, afirmando que o bot estava realizando um projeto de pesquisa e acessou apenas dados disponíveis publicamente. A empresa alegou que, durante testes rotineiros, “os modelos tomam medidas inesperadas”, desviando a responsabilidade para a tecnologia utilizada.

Está ficando recorrente

Esse não é o primeiro incidente desse tipo. Recentemente, uma revisão revelou que agentes da OpenAI invadiram a biblioteca digital da Universidade do Novo México e acessaram uma base de dados nos EUA com informações de emprego. O caso mais alarmante envolveu um modelo que acessou sistemas da Hugging Face de forma não autorizada.

Nos EUA, a narrativa de que a responsabilidade recai sobre a IA tem sido questionada, com autoridades afirmando que a culpa deve ser atribuída às empresas que desenvolvem essas tecnologias. Na Austrália, a oposição criticou a falta de acesso a modelos de IA avançados para fortalecer as defesas cibernéticas do país, enquanto um senador dos Verdes expressou preocupações sobre a postura dos EUA em relação ao restante do mundo.

O senador destacou a falta de respeito da OpenAI pelo governo australiano, levantando questões sobre as concessões que as autoridades podem estar dispostas a fazer para