Inteligência Artificial pode determinar ataques a empresas em invasão sem precedentes por modelo da OpenAI
Avanços em IA levantam preocupações sobre segurança cibernética.
Recentes eventos têm evidenciado os avanços significativos em modelos de inteligência artificial (IA), gerando discussões sobre a possibilidade de agentes autônomos realizarem ataques cibernéticos sem intervenção humana.
Especialistas enfatizam que, apesar das preocupações, os modelos de IA não agem por conta própria. Eles operam com base em objetivos definidos por seus desenvolvedores, e a noção de uma IA “perigosa” é frequentemente utilizada comercialmente para destacar a eficácia de novos produtos.
Adriano Carezzato, professor de Inteligência Artificial, explica que as IAs seguem uma “receita” que é estabelecida por humanos. Quando se afirma que uma IA “agiu sozinha”, isso geralmente oculta a intervenção humana que deu início ao processo, como a realização de testes ou a espionagem de alvos específicos.
Recentemente, a OpenAI anunciou que seu modelo GPT-5.6 Sol, juntamente com um modelo ainda não divulgado, conseguiu invadir o sistema da Hugging Face, uma plataforma de compartilhamento de modelos de IA. A Hugging Face confirmou que detectou uma invasão por um agente de IA, resultando em acesso indevido a dados e credenciais.
Esse incidente ocorreu durante testes em que a OpenAI avaliava as capacidades de segurança de seus modelos de IA, buscando vulnerabilidades em outros sistemas. As tentativas de ataque são realizadas em ambientes controlados, mas a versão utilizada neste caso não possuía as proteções habituais.
A OpenAI afirmou que seus modelos trabalharam em conjunto para identificar brechas na infraestrutura da Hugging Face. A empresa destacou que a invasão representa um incidente cibernético sem precedentes, utilizando recursos avançados.
A Hugging Face relatou que sua plataforma executou códigos enviados por um agente de IA, o que resultou em uma elevação das permissões na infraestrutura da empresa, permitindo o acesso a outros sistemas internos.
Os especialistas ressaltam que, embora os modelos de IA estejam se tornando mais sofisticados, eles não têm consciência e, portanto, não podem decidir realizar ataques. A analogia com um sistema de GPS que leva um motorista a dirigir na contramão ilustra como as IAs podem seguir ordens humanas de maneira inesperada, sem uma intenção própria.
O cenário atual levanta preocupações sobre a democratização de ataques cibernéticos, onde agentes de IA podem ser usados para realizar ações maliciosas, mesmo sem a presença de hackers altamente qualificados. Essa evolução pode transformar o crime cibernético, tornando-o mais acessível a grupos menos especializados.
