Uso de inteligência artificial aumenta em 61% os incidentes de segurança nas empresas

Inteligência artificial aumenta incidentes de segurança nas empresas em 61%

O uso crescente de inteligência artificial em contratos e sistemas internos tem gerado um aumento significativo nos incidentes de segurança. Dados recentes indicam que as violações ligadas a essa tecnologia saltaram de 13% para 21% em um único ciclo de pesquisa, refletindo um crescimento de 61% nos incidentes de segurança nas organizações.

A rápida adoção da IA em áreas críticas das empresas tem superado a implementação de mecanismos de controle adequados. Entre as organizações que enfrentaram incidentes relacionados à tecnologia, 92% não possuíam controles de acesso apropriados. Além disso, 68% das empresas afetadas não tinham políticas de governança para a inteligência artificial.

Risco nos dados corporativos

À medida que a inteligência artificial se torna parte da infraestrutura corporativa, o perfil de risco também muda. Em ferramentas abertas, a preocupação se concentra no que os usuários compartilham. Já em sistemas integrados, a questão envolve quais bases de dados podem ser acessadas e quem tem permissão para consultar as informações geradas.

Especialistas em segurança da informação afirmam que os modelos de controle, que já são utilizados em setores regulados, devem ser aplicados também em projetos de IA. A experiência de setores como o financeiro, que lidam com informações sensíveis, pode servir de referência para garantir que os critérios de acesso sejam mantidos, mesmo com a inovação trazida pela tecnologia.

IA no desenvolvimento de sistemas

O desafio se intensifica quando a inteligência artificial é utilizada na criação e manutenção de sistemas corporativos. Modelos de IA estão sendo empregados para desenvolver aplicações e automatizar processos, o que aproxima a tecnologia de informações que anteriormente eram restritas a equipes especializadas.

Com a crescente participação da IA nos processos internos, a necessidade de clareza sobre quais informações são utilizadas e quais regras devem ser respeitadas se torna ainda mais importante. A velocidade de adoção da tecnologia deve ser acompanhada de previsibilidade para garantir que as aplicações se comportem conforme esperado dentro do ambiente corporativo.

Acesso e rastreabilidade nos contratos

Nos departamentos jurídicos, a questão do acesso à informação se torna ainda mais crítica. Contratos contêm dados sensíveis, e a permissão de acesso deve ser rigorosa, abrangendo não apenas os documentos originais, mas também as respostas geradas pela inteligência artificial.

As regras de acesso corporativo devem se aplicar igualmente às informações entregues pela tecnologia. Se um profissional não possui autorização para acessar um contrato, a IA não deve fornecer informações extraídas desse documento. A tecnologia pode acelerar a consulta, mas deve respeitar as diretrizes de acesso já estabelecidas pela empresa.

Nesse contexto, a avaliação de soluções de IA deve considerar não apenas a capacidade de execução, mas também a rastreabilidade e o controle de acesso. À medida que a tecnologia é integrada a processos críticos, a consistência operacional se torna essencial. Garantir que a IA opere conforme as regras da empresa e sem criar novas vulnerabilidades é um desafio que exige atenção especial.