Pesquisadores afirmam ter invadido sistema da OpenAI com inteligência artificial Claude, da Anthropic
Invasão de sistemas da OpenAI revela vulnerabilidades em ferramentas de IA.
Pesquisadores da startup Hacktron AI acessaram contas do ChatGPT de funcionários da OpenAI utilizando um modelo de inteligência artificial da Anthropic. A informação foi divulgada em uma mensagem publicada no site da Hacktron.
A invasão, confirmada pela OpenAI, ocorreu durante um exercício organizado pela empresa para identificar vulnerabilidades em seus sistemas com a ajuda de especialistas externos em informática. Esse incidente levanta preocupações sobre a segurança das ferramentas de IA, que estão facilitando a realização de ciberataques sofisticados de forma mais rápida e econômica.
A Hacktron identificou uma vulnerabilidade no fórum público de ajuda da OpenAI, gerido pela plataforma Discourse, que possibilitou o controle do site. A startup informou que notificou imediatamente a OpenAI e a Discourse sobre a falha e colaborou com eles para coordenar a solução.
“Informamos de imediato a vulnerabilidade inicial à OpenAI e à Discourse e trabalhamos com eles para coordenar a solução”, explicou a Hacktron em uma postagem em um blog.
A OpenAI confirmou que a falha foi corrigida em aproximadamente 14 horas após a notificação e recompensou os pesquisadores com 6.500 dólares, cerca de 34.000 reais. Drew Pusateri, porta-voz da OpenAI, agradeceu aos pesquisadores pela comunicação e pelas descobertas.
Os pesquisadores da Hacktron relataram que inicialmente utilizaram o Claude Opus 4.8, da Anthropic, para identificar e explorar a falha, mas enfrentaram dificuldades para fazê-lo funcionar de maneira consistente. Posteriormente, recorreram ao Claude Opus 5, que gerou um ataque funcional em três horas.
Os hackers não utilizaram o Claude Mythos, um modelo avançado da Anthropic, que está restrito a um pequeno grupo de organizações de ciberdefesa avaliadas. A Anthropic descreve o Mythos como o modelo com as habilidades de cibersegurança mais robustas entre os que desenvolveu.
A Hacktron informou que continuará realizando testes semelhantes em outras empresas, evidenciando a necessidade crescente de atenção às vulnerabilidades em sistemas de inteligência artificial.
