Ansiedade é a principal ameaça à segurança na era da inteligência artificial

A adoção da IA nas empresas enfrenta desafios relacionados ao comportamento humano.

A inteligência artificial (IA) se tornou uma parte essencial do cotidiano empresarial, mas os desafios não estão apenas na tecnologia, e sim nas reações humanas a ela. Apesar de 89% das organizações utilizarem pelo menos uma aplicação de IA generativa na nuvem, a aceitação varia significativamente entre as empresas.

Um estudo aponta que 31% dos colaboradores adotam comportamentos que dificultam a implementação da IA. Entre os mais resistentes, um novo tipo de risco interno emerge, associado ao medo e à incerteza. Isso não é resultado de má intenção, mas da falta de compreensão sobre o impacto da IA em suas funções e no futuro do trabalho.

A incerteza e a falta de confiança podem aumentar o risco de erros humanos, que já representa 68% das violações de segurança globalmente. À medida que as empresas adotam a IA, ações simples podem criar novas vulnerabilidades, exigindo atenção das equipes para mitigar riscos à medida que a tecnologia avança.

O perfil de cada ansioso

A dinâmica interna das empresas está mudando com a evolução da relação com a IA. Em organizações que adotam rapidamente a tecnologia, surgem padrões de comportamento que causam atritos no cotidiano:

• O sabotador – comportamento negativo motivado por desconfiança e resistência
  Colaboradores que, intencionalmente, dificultam a adoção da IA, atrasando projetos e influenciando outros a não avançar.
• O resistente – comportamento de evitação motivado por medo e insegurança
  Funcionários que evitam ferramentas de IA devido ao receio de impactos em suas funções, criando lacunas no fluxo de trabalho e reduzindo a visibilidade das operações.
• O sobrecarregado – comportamento errático por sobrecarga cognitiva
  Colaboradores que tentam acompanhar a complexidade crescente, mas acabam utilizando a IA de forma inadequada, resultando em erros amplificados por sistemas automatizados.

O medo representa um problema real de segurança, sendo previsível e, portanto, vulnerável a ataques. Em um ambiente de mudanças impulsionadas pela IA, equipes ansiosas tendem a cometer mais erros, seja por evitar ferramentas, não concluir treinamentos ou tentar resolver problemas por tentativa e erro. O estresse impacta diretamente a capacidade de execução, levando a ações mais lentas e inseguras, aumentando a probabilidade de erros.

Quando um agente de IA comete um erro, o atacante pode explorar o sistema, induzindo ações como o envio de links maliciosos. Um deslize pode abrir portas para o controle de sistemas autônomos. Além disso, a autonomia dos sistemas pode resultar em falhas não previstas, como decisões erradas ou ações baseadas em acessos excessivos, que não se encaixam nos modelos tradicionais de risco interno.

A combinação da incerteza humana com a autonomia dos agentes aumenta a superfície de ataque, crescendo mais rapidamente do que as organizações conseguem gerenciar.

O que o CISO precisa fazer agora

O risco interno associado à IA não pode ser resolvido apenas com controles técnicos. É fundamental apoiar os colaboradores nesse processo de adaptação, oferecendo clareza sobre o funcionamento da tecnologia e expectativas diárias. Diretrizes objetivas de segurança podem influenciar positivamente o comportamento das equipes em situações de incerteza.

A governança deve ser descentralizada, levando orientações diretamente às áreas operacionais. Iniciativas como programas de embaixadores de IA podem aproximar a segurança da operação, permitindo decisões mais ágeis sem perder o controle. Esses embaixadores, que dominam a tecnologia e as diretrizes, atuam nas equipes esclarecendo dúvidas e orientando decisões.

Os controles devem considerar a inevitabilidade do erro humano. Sistemas autônomos podem amplificar falhas, exigindo mecanismos de proteção que estejam prontos para lidar com desvios e instruções equivocadas. Não se pode esperar que os erros não ocorram.

Como lidar com o novo cenário

A IA está transformando as operações das organizações, mas a mudança mais significativa ocorre nas pessoas que precisam se adaptar a esse novo ritmo. Ansiedade, incerteza e hesitação influenciam comportamentos e decisões, criando brechas de segurança que não se ajustam automaticamente.

Os CISOs devem adotar uma abordagem centrada nas pessoas. Embora os controles técnicos evoluam, o impacto da IA requer uma liderança proativa. O