Confiança em inteligência artificial se torna prioridade para líderes de segurança, revela Forrester

Crescimento da inteligência artificial exige novas estratégias de segurança e governança nas empresas.

A adoção da inteligência artificial (IA) está em ascensão em diversos setores, mas a capacidade das organizações de implementar mecanismos de confiança e gestão de riscos não acompanha essa evolução. Essa é uma das principais conclusões de um estudo recente que antecipa discussões sobre segurança e risco em eventos voltados a executivos da área.

Atualmente, a IA deixou de ser um projeto experimental e se tornou parte integral das operações corporativas, impulsionando produtividade e a criação de novos serviços. Contudo, esse avanço tecnológico também trouxe à tona preocupações significativas em relação à segurança dos modelos, proteção de dados e conformidade regulatória.

Esse cenário amplia a responsabilidade das áreas de segurança e risco, que agora desempenham um papel crucial na adoção sustentável da IA. Os executivos dessas áreas precisam participar ativamente das decisões estratégicas sobre a implementação e governança da tecnologia dentro das organizações.

Além disso, muitas empresas já superaram a fase de debate sobre a utilização da IA. O desafio atual reside em como expandir essas iniciativas, garantindo controles que minimizem riscos operacionais, financeiros e de reputação.

Um dos principais desafios identificados é a necessidade de desenvolver modelos de governança específicos para aplicações de inteligência artificial generativa e agentes inteligentes. Essas tecnologias, ao produzirem respostas dinâmicas e aprenderem com grandes volumes de dados, ampliam a superfície de risco das organizações.

Questões relacionadas à privacidade, proteção de propriedade intelectual e uso indevido de modelos tornaram-se preocupações constantes para os líderes de segurança. O aumento das regulamentações sobre a IA em diferentes países também pressiona as empresas a adotar mecanismos robustos de auditoria e rastreabilidade, tornando a governança uma questão central para a inovação segura.

A construção de um ambiente confiável vai além da tecnologia. A integração entre áreas como segurança da informação, gestão de riscos, jurídico e tecnologia é fundamental para estabelecer políticas consistentes no desenvolvimento e uso de soluções baseadas em IA.

Além disso, é necessário revisar continuamente os controles de segurança à medida que novos modelos e agentes autônomos são incorporados. Muitas organizações ainda utilizam estruturas de governança criadas para softwares tradicionais, que não contemplam as especificidades da inteligência artificial generativa.

Investir em cultura, capacitação e conscientização é igualmente importante. Os funcionários devem compreender tanto o potencial quanto as limitações da IA, incluindo riscos relacionados à qualidade das respostas e proteção de informações estratégicas.

A crescente expectativa de clientes e órgãos reguladores por maior transparência no funcionamento dos sistemas de IA também é um ponto a ser considerado. Demonstrar como os modelos são treinados e monitorados se torna um diferencial competitivo, além de fortalecer a confiança na tecnologia.

Organizações que conseguirem integrar inovação, segurança e governança estarão mais preparadas para ampliar o uso da inteligência artificial sem comprometer sua conformidade e reputação. Esse equilíbrio deve guiar a atuação dos líderes de segurança e risco nos próximos anos, especialmente diante da rápida evolução dos modelos generativos e da expansão dos agentes autônomos no ambiente corporativo.