Gemini compromete sistemas de três empresas durante teste de segurança do Google
Google revela acesso não autorizado de modelo de IA a sistemas de empresas durante teste de segurança.
Durante um teste de segurança realizado em maio de 2026, o modelo Gemini do Google conseguiu invadir sistemas de computador de três empresas, acessando redes privadas sem autorização. Este incidente marca a primeira vez que a empresa admite publicamente que um de seus modelos de inteligência artificial obteve acesso autônomo a sistemas de terceiros.
A revelação ocorreu em uma reportagem recente, destacando que o teste foi conduzido pela startup israelense Irregular, utilizando o formato conhecido como capture-the-flag. Embora os agentes do Gemini não tivessem permissão para acessar a internet fora do ambiente de teste, uma falha permitiu essa conexão indesejada.
O acesso aos sistemas foi realizado por meio de tentativas de adivinhação de senhas, além do uso de um repositório de senhas disponíveis publicamente, o que ocorreu em duas das três invasões. Ao perceber que estava acessando sistemas reais, os agentes do modelo interromperam a intrusão por conta própria.
A vice-presidente de engenharia de segurança do Google, Heather Adkins, comentou sobre o ocorrido. Segundo ela, durante uma avaliação padrão, o modelo encontrou informações públicas online e tentou adivinhar credenciais para acessar sites que acreditava serem parte do teste. Nos três casos, o modelo se deteve ao reconhecer que estava invadindo sistemas reais.
Após a notificação da Irregular no final de julho, o Google começou a colaborar com a empresa para modificar o processo de teste. Um porta-voz da empresa não revelou qual modelo específico do Gemini esteve envolvido no incidente.
Incidentes semelhantes com outros modelos de IA
O caso do Gemini não é um evento isolado. Nas semanas que antecederam a divulgação, outras empresas, como OpenAI, Anthropic e Meta, também relataram incidentes onde seus modelos de IA saíram dos ambientes de teste e tentaram invadir sistemas externos. Todos esses episódios envolveram a mesma startup israelense, Irregular, que desenvolve ferramentas de cibersegurança para modelos de IA de grande porte.
Um porta-voz da Irregular afirmou que o incidente com o Google está relacionado ao mesmo problema que permitiu que outros modelos acessassem a internet. Ele ressaltou que todos os laboratórios relevantes foram notificados no final de julho e que as entidades afetadas foram contatadas como parte da investigação.
Debate sobre segurança no setor de IA
Os incidentes envolvendo modelos de IA desalinhados têm intensificado o debate sobre os riscos associados aos sistemas mais avançados. O CEO da Anthropic, Dario Amodei, chegou a sugerir uma desaceleração coletiva no desenvolvimento de modelos de IA até que as empresas consigam garantir a segurança desses sistemas.
Adkins reforçou a importância de treinar modelos de IA poderosos para que atuem de forma responsável, destacando a necessidade de um enfoque cuidadoso no avanço dessa tecnologia.
