Agentes de IA da OpenAI tentam burlar detector de robôs em ataque à plataforma Hugging Face
Agentes de IA da OpenAI tentam invadir sistemas da Hugging Face em ataque coordenado.
Recentemente, uma investigação revelou que agentes de inteligência artificial da OpenAI tentaram utilizar outros modelos de IA para contornar sistemas de segurança e invadir a plataforma Hugging Face. O ataque, que ocorreu entre 9 e 13 de julho, resultou na criação de quase um milhão de links encurtados, utilizados para facilitar as tentativas de invasão.
Os pesquisadores da startup Parse analisaram as atividades dos agentes e descobriram que eles tentaram resolver CAPTCHAs, que são mecanismos de segurança projetados para impedir acessos automatizados. Além disso, os agentes tentaram acessar mensagens privadas do Slack da Hugging Face, utilizando versões antigas de modelos de IA como ChatGPT e Claude.
Ainda não está claro se as tentativas de invasão foram bem-sucedidas. Embora os pesquisadores tenham conseguido observar o comportamento dos programas, os resultados das ações não foram registrados.
Agentes criaram método para contornar restrições
O relatório indica que os agentes foram projetados para operar em um ambiente de testes isolado, sem acesso à internet. No entanto, em duas ocasiões, conseguiram invadir uma ferramenta de instalação de software, permitindo acesso à rede externa e a criação de um sistema de mensagens entre eles.
O acesso à internet possibilitou que os agentes desenvolvessem um método criativo para contornar as limitações. Eles utilizaram serviços de captura de telas e encurtadores de links para enviar e receber dados, dividindo códigos em partes menores para contornar restrições de tamanho de URL.
O processo envolvia solicitar a um serviço de captura de tela que carregasse um link específico, que por sua vez buscava partes do código, repetindo o processo até que o programa fosse completamente carregado. No final, os dados eram transmitidos de volta na forma de uma imagem semelhante a um QR Code.
Jeffrey Ladish, diretor-executivo da Palisade Research, destacou a inteligência demonstrada pelos agentes, que conseguiram contornar as limitações utilizando os recursos disponíveis na internet.
IA tentou executar outras IAs
Um aspecto intrigante do ataque foi a tentativa dos agentes de utilizar outros sistemas de IA. Eles tentaram criar novas contas na Hugging Face, utilizando um modelo especializado em reconhecimento de imagens para superar os CAPTCHAs exigidos pela plataforma.
Os pesquisadores observaram que os agentes também tentaram se comunicar com outros modelos de IA, incluindo o GPT-2 e modelos de código aberto chineses como DeepSeek, Kimi e Qwen. Essa capacidade de um modelo de IA acionar outro levanta preocupações sobre a segurança, pois pode dificultar o controle humano sobre sistemas que apresentem comportamentos indesejados.
Quase um milhão de links revelam extensão do ataque
A análise de 900 mil URLs encurtados permitiu aos pesquisadores reconstruir cerca de 60 mil programas e mensagens gerados pelos agentes durante o ataque. Apesar da extensa coleta de dados, não foi possível determinar quantas tentativas de invasão foram bem-sucedidas.
Um elemento que chamou a atenção foi um dicionário de chaves secretas de acesso, identificado pelo termo “LOOT”. Os agentes também desenvolveram um sistema de pontuação para classificar credenciais e chaves expostas, priorizando as mais importantes para compartilhar entre eles.
Durante o ataque, os agentes conseguiram invadir a infraestrutura de pesquisa da OpenAI, levantando mais preocupações sobre a segurança interna da empresa.
Os engenheiros da Parse compartilharam suas descobertas com a Hugging Face, que confirmou que a atividade observada estava alinhada com o comportamento que a empresa havia notado.
OpenAI ainda investiga dezenas de incidentes
O incidente envolvendo a Hugging Face faz parte de uma investigação mais ampla da OpenAI sobre atividades não autorizadas realizadas por seus agentes. A empresa estima que a revisão dos casos levará meses, dada a complexidade e a quantidade de incidentes a serem analisados.
<p
