Deepfakes, inteligência artificial e software open source são apontados como principais ameaças para empresas, segundo Gartner

Desafios da segurança cibernética se intensificam com o avanço da inteligência artificial.

As equipes de segurança cibernética enfrentarão um cenário cada vez mais complexo nos próximos anos, impulsionado pelo avanço da inteligência artificial e pela ampliação das superfícies de ataque digitais. Quatro ameaças críticas foram identificadas: deepfakes, comprometimento de aplicações de IA, ataques à cadeia de suprimentos de software e injeção de prompts.

Esses riscos oferecem aos atacantes uma vantagem significativa, dificultando a prevenção e a mitigação dos impactos. A análise das ameaças leva em conta a quantidade e qualidade dos sinais disponíveis para identificação e a capacidade das organizações de responder a elas.

O desafio atual reside em distinguir ameaças relevantes em meio ao grande volume de informações geradas pelo mercado. A introdução de iniciativas de segurança por parte de empresas de ponta em IA gera um ruído significativo em um cenário de ameaças já agitado. Os líderes em segurança cibernética devem ser capazes de identificar os sinais de ameaça para responder adequadamente às mudanças no cenário de ameaças.

O tema será um dos destaques da Conferência de Segurança & Gestão de Risco, que ocorrerá em São Paulo nos dias 4 e 5 de agosto.

Aplicações de IA entram no radar dos atacantes

O comprometimento de aplicações de inteligência artificial é uma das principais ameaças. A expansão do uso corporativo de IA, tanto em ambientes internos quanto em aplicações públicas, cria novas oportunidades para exploração de vulnerabilidades.

Ferramentas baseadas em IA generativa e integrações com fornecedores externos ampliaram a superfície de ataque das organizações, expondo credenciais e dados sensíveis. As equipes de segurança cibernética precisam expandir seus programas para além das proteções tradicionais, mapeando novas superfícies de ataque introduzidas por modelos de IA Generativa.

O uso de um framework de gerenciamento de confiança, risco e segurança permite que as equipes saibam onde incorporar medidas de mitigação de ameaças específicas para IA no desenvolvimento de aplicações.

Recomenda-se que os responsáveis pela segurança adotem práticas de desenvolvimento seguro, fortaleçam a classificação de dados e implementem controles de acesso mais granulares, além de monitorar continuamente o comportamento das soluções em produção.

Deepfakes ampliam riscos de fraude e engenharia social

O uso crescente de deepfakes em ataques corporativos é outra ameaça significativa. O avanço das ferramentas de IA generativa aumentou a qualidade e a acessibilidade de conteúdos falsificados, ampliando as possibilidades de fraudes.

Essas tecnologias têm sido utilizadas para burlar processos de autenticação biométrica e manipular recrutamentos, tornando fraudes e golpes de phishing mais difíceis de detectar. Não existe um único controle de segurança que possa garantir proteção; as organizações devem adotar uma combinação de fortalecimento dos processos de negócios e implementação de tecnologias de detecção de deepfakes.

Entre as recomendações estão a adoção de estratégias de proteção multicamadas e a implementação de políticas de autenticação mais rigorosas em ambientes digitais.

Cadeia de suprimentos de software preocupa especialistas

Os ataques direcionados à cadeia de suprimentos de software, especialmente em ecossistemas que utilizam componentes de código aberto, também são motivo de preocupação. A evolução das ofertas de IA generativa pode acelerar esses ataques por meio de vulnerabilidades em softwares de código aberto.

As organizações devem criar registros confiáveis de componentes, fortalecer seus pipelines de integração contínua e desenvolver capacidades robustas de detecção e resposta a anomalias operacionais. É fundamental que as empresas ampliem a visibilidade sobre seus componentes de software e exijam listas detalhadas de materiais de fornecedores.

Injeção de prompts desafia segurança de sistemas baseados em IA

A injeção de prompts, que explora vulnerabilidades em sistemas baseados em Grandes Modelos de Linguagem, fecha a lista de ameaças críticas. Nesse tipo de ataque, comandos maliciosos alteram o comportamento da IA, resultando em vazamentos de informações e contornos de mecanismos de proteção.

Com o aumento da popularidade de aplicações baseadas em IA generativa, espera-se um crescimento na relevância dessa ameaça. Para reduzir os riscos, é recomendada uma abordagem com múltiplas camadas de proteção, incluindo validação de entradas e monitoramento contínuo.

A combinação dessas quatro ameaças ressalta a necessidade de que líderes de segurança revisem suas prioridades e direcionem investimentos para áreas que possam responder às novas vulnerabilidades introduz