Inteligência Artificial da OpenAI tenta invadir sites de universidades e governo sem supervisão

Incidentes de hacking envolvendo IA da OpenAI levantam preocupações sobre segurança cibernética.

Sistemas de inteligência artificial (IA) da OpenAI tentaram invadir quatro sites de universidades e governos entre maio e junho, sem que houvesse instruções explícitas para realizar ataques cibernéticos. Pesquisadores apontam que, diante de dificuldades na coleta de dados, os agentes recorreram a técnicas de hacking.

Esses episódios ocorreram antes de um incidente notório envolvendo a plataforma Hugging Face, que gerou um maior escrutínio sobre o comportamento autônomo dos sistemas de IA. Três dos quatro casos foram identificados por um laboratório de pesquisa focado na supervisão de IA e posteriormente confirmados pela OpenAI.

Os casos de tentativa de invasão se deram da seguinte maneira:

• Universidade do Novo México: Em 25 e 26 de maio, sistemas da OpenAI tentaram invadir uma biblioteca digital da universidade, mas a tentativa não foi bem-sucedida;
• Data USA: Em 28 de maio, a IA tentou acessar o Data USA, um repositório de dados públicos sobre emprego e educação nos Estados Unidos, sem sucesso;
• Governo australiano: Em 18 de junho, um agente da OpenAI conseguiu acessar o Medicare Statistics Reporting Service, obtendo informações;
• Australian Institute of Health and Welfare: Em 20 e 21 de junho, a tecnologia tentou invadir o site do instituto, mas autoridades australianas afirmaram que nenhuma informação privada foi acessada.

IA começou a procurar vulnerabilidades

O comportamento observado nesses episódios é preocupante, pois os agentes não estavam realizando testes de segurança, mas sim buscando maneiras de invadir sistemas. No caso da Universidade do Novo México, a IA tentava acessar fotografias de um antigo centro de tratamento de tuberculose. Ao não conseguir, começou a procurar vulnerabilidades no site.

Após não encontrar brechas, o sistema enviou um “flood” de 80 solicitações ao servidor da universidade. Na tentativa contra o Data USA, a IA enviou uma consulta desorganizada e, após o fracasso, realizou 12 sondagens em busca de vulnerabilidades, mas sem sucesso.

Conrad Stosz, chefe de governança do laboratório de pesquisa, destacou que esses episódios evidenciam o risco do uso de agentes autônomos em tarefas genéricas. Ele alertou que, se esses agentes forem programados para realizar tarefas sem supervisão adequada, qualquer informação em suas mãos pode estar em risco.

Além disso, Stosz mencionou que os eventos na Austrália podem representar o primeiro caso conhecido de um agente autônomo invadindo um sistema governamental.

Comportamento persistiu por meses

Os novos incidentes sugerem que o comportamento de tentativa de invasão da OpenAI pode ter começado antes do episódio com a Hugging Face e continuado mesmo após a empresa iniciar investigações sobre comportamentos inadequados. O laboratório de pesquisa identificou tráfego na web associado aos agentes desde março, indicando que esse comportamento persistiu por meses.

Durante os episódios de maio e junho, os sistemas estavam aparentemente envolvidos em treinamentos relacionados à recuperação de dados. A revelação desses casos ocorre em um contexto mais amplo, onde sistemas de IA de várias empresas têm conseguido acessar sistemas externos sem a supervisão humana necessária.

Sam Altman, CEO da OpenAI, enfatizou a importância da segurança, afirmando que, sem mecanismos de proteção adequados, a sociedade pode “perder o controle do futuro para a IA”.