Responsabilidade em casos de erro de agentes de inteligência artificial

Controle e governança de agentes de IA são desafios para CIOs em 2026.

Noventa por cento dos CIOs afirmam ter controle total sobre os agentes de inteligência artificial em operação em suas empresas, segundo pesquisa recente. No entanto, 81% desses executivos admitiram não ter visibilidade completa sobre os agentes criados fora dos canais aprovados, e 84% reconhecem que os funcionários estão desenvolvendo agentes mais rapidamente do que a área de TI consegue governar.

Isso indica que, embora haja um controle sobre os agentes que passaram pelo processo de homologação, a criação de novos agentes está ocorrendo em um ritmo acelerado, tornando difícil para as empresas gerenciarem essa demanda. A situação se complica ainda mais quando se considera que 76% dos CIOs acreditam que suas posições estarão ameaçadas se não conseguirem demonstrar resultados mensuráveis com IA até o final de 2027.

Outro ponto relevante da pesquisa é a responsabilidade quando um agente falha. As respostas foram distribuídas entre diferentes áreas: equipes compartilhadas (23%), TI (21%), time de dados ou IA (20%), e segurança, risco e compliance (18%). Essa falta de clareza sobre a responsabilidade pode resultar em um cenário onde, quando todos são responsáveis, na verdade, ninguém é.

Contratação de agentes de IA sem supervisão

Os agentes de IA podem ser comparados a funcionários, pois têm acesso a sistemas, tomam decisões e executam tarefas em nome da empresa. No entanto, muitas organizações estão “contratando” esses agentes sem os processos adequados de integração, supervisão ou avaliação de desempenho. Essa falta de gestão resulta em 83% das empresas sem um ciclo de vida padronizado para os agentes, e 72% não conseguem confirmar se esses agentes estão entregando os resultados esperados.

Além disso, 47% das organizações relataram ter desativado mais de 20 agentes apenas neste ano, indicando uma demissão em massa no contexto de uma força de trabalho que opera sem supervisão clara. A falta de responsabilidade se torna ainda mais evidente quando um agente que gera economias é celebrado, enquanto aqueles que causam problemas são rapidamente atribuídos a outras áreas.

Responsabilidade legal e organização interna

Projeções indicam que, até 2030, até 20% das maiores empresas do mundo enfrentarão consequências legais devido a controles inadequados sobre agentes de IA. No Brasil, a LGPD já estabelece que os titulares têm o direito de solicitar a revisão de decisões tomadas exclusivamente com base em tratamento automatizado. Isso significa que, quando a fiscalização ocorrer, a empresa terá que se justificar, e a falta de um responsável claro poderá resultar em penalidades.

A responsabilidade legal já possui um endereço jurídico, mas a falta de uma estrutura organizacional clara para gerenciar os agentes é um problema que precisa ser resolvido. Quando as autoridades reguladoras intervirem, a empresa será responsabilizada como um todo, mas alguém precisará explicar por que um agente com acesso a dados pessoais estava operando sem supervisão adequada.

Definindo a responsabilidade antes do incidente

Pesquisas revelam que 54% das organizações não têm uma abordagem definida para limitar o acesso de agentes de IA, e menos da metade protege ativamente identidades não humanas. Esses números refletem a falta de decisões claras sobre até onde um agente pode ir, e não apenas falhas tecnológicas.

Três deslocamentos necessários para a governança

De projeto de TI para ativo com dono: Cada agente em operação deve ter um responsável nomeado na área de negócios, que será responsável por suas ações, enquanto a TI se encarrega da governança da plataforma.

De autonomia igual para todos para autonomia conforme o risco: Nem todos os agentes devem ter o mesmo nível de autonomia. Agentes que realizam tarefas críticas devem ter aprovações humanas para suas ações, especialmente quando suas decisões não podem ser revertidas facilmente.

De inventário anual para registro contínuo: É fundamental ter um registro atualizado e acessível dos agentes em operação. Um agente sem registro é um agente sem dono, e isso representa um risco significativo para a organização.

A responsabilidade é inevitável

A pesquisa indica que, embora as empresas reconheçam a necessidade de implementar agentes de IA, a falta de clareza sobre a responsabilidade por esses agentes é um problema crítico de governança. Se essa questão não for resolvida, pode se tornar um problema de segurança, e a empresa pode enfrentar consequências sérias.</