Nove em cada dez empresas relatam incidentes com inteligência artificial generativa, revela estudo da ServiceNow

Nove em cada dez organizações enfrentaram incidentes de segurança com IA agêntica no último ano.

Nove em cada dez organizações relataram ter sofrido pelo menos um incidente de segurança relacionado à inteligência artificial (IA) agêntica no último ano. Desses, apenas 36% conseguiram conter a situação em menos de 24 horas, revelando um cenário preocupante em relação à segurança digital.

O estudo, que ouviu mais de 3.700 tomadores de decisão seniores em segurança e tecnologia em 20 países, aponta que a rápida adoção de agentes de IA está ultrapassando a capacidade de governança das empresas. Essa lacuna é especialmente crítica em setores como saúde, transporte aéreo, manufatura e serviços financeiros, onde a segurança é primordial.

Embora muitos líderes acreditem que suas organizações estão preparadas para lidar com IA agêntica, apenas 13% possuem programas de segurança que podem ser considerados defensáveis em áreas essenciais como superfície de ataque, responsabilização e visibilidade. A maioria das empresas não implementa salvaguardas até que um agente já esteja em operação, adotando uma abordagem reativa em vez de preventiva.

A situação se agrava com a escala da operação de IA. Atualmente, 49% das organizações operam com entre 100 e 999 agentes, enquanto 35% têm mais de mil agentes ativos. No entanto, 29% das equipes de segurança enfrentaram agentes em produção que nunca foram registrados, caracterizando uma forma de “shadow AI”.

A visibilidade em tempo real é outra preocupação, já que, embora 76% das organizações afirmem ter um mapeamento atualizado dos acessos dos agentes, apenas 19% conseguem monitorar mais de 90% de seus agentes simultaneamente.

Adicionalmente, 66% das organizações não conseguem agir automaticamente diante de comportamentos anômalos dos agentes, exigindo intervenção humana para qualquer ação, o que cria um atraso significativo em um ambiente onde a IA opera em velocidades muito superiores à capacidade de resposta das equipes.

O CISO da ServiceNow alerta que os incidentes recentes envolvendo IA devem ser vistos como um sinal de alerta sobre a implementação inadequada dessa tecnologia. Ele enfatiza a necessidade de integrar a governança desde o início da adoção de agentes de IA, permitindo que as organizações colham os benefícios da tecnologia sem perder o controle.

Para enfrentar esses desafios, a ServiceNow propõe a solução Autonomous Security, que busca transformar a abordagem reativa em uma estratégia preventiva com governança autônoma. Entre as ferramentas propostas estão um mecanismo de desligamento de emergência e o AI Passport, que visam garantir uma adoção segura da IA agêntica.

O vice-presidente executivo de cibersegurança da ServiceNow destaca que inovação e segurança devem avançar em conjunto. A proposta é incorporar a governança no momento da criação e implementação de um agente, permitindo que a segurança acompanhe a velocidade da IA, facilitando sua adoção segura.

A pesquisa foi realizada com organizações de médio e grande porte, das quais 97% reportaram receitas anuais superiores a US$ 250 milhões.