Empresas precisam monitorar agentes de IA para garantir governança e segurança

Proliferação de Agentes de Inteligência Artificial nas Empresas Exige Governança Eficiente

Até 2028, estima-se que uma empresa média da Fortune 500 possa ter mais de 150 mil agentes de Inteligência Artificial (IA) operando em sua infraestrutura, um salto significativo em comparação com menos de 15 em 2025. Essa rápida transformação destaca a necessidade urgente de uma discussão mais aprofundada sobre a governança desses agentes nas organizações.

Um dado alarmante revela que apenas 13% das empresas possuem uma estrutura adequada de governança para gerenciar seus agentes de IA. Isso indica que, enquanto a criação de uma nova força de trabalho digital avança a passos largos, a administração e supervisão desses agentes ainda estão em desenvolvimento.

A proliferação descontrolada de agentes de IA, conhecida como AI Agent Sprawl, se torna uma preocupação central nesse contexto.

Nos últimos anos, as discussões sobre tecnologia e automação evoluíram. Inicialmente, a ênfase estava na identificação de processos passíveis de automação. Em seguida, o foco mudou para a aplicação da IA. Atualmente, a questão crucial é: quem está controlando esses sistemas que estão sendo implementados?

Governar agentes é um desafio

Os agentes de IA representam uma das evoluções mais significativas na automação empresarial. Eles têm a capacidade de consultar bancos de dados, acessar sistemas, utilizar APIs e interagir com outros agentes, o que pode gerar grande eficiência. No entanto, essa autonomia também acarreta riscos consideráveis.

Por exemplo, se uma equipe cria um agente para atender a uma necessidade específica, ele recebe permissões para acessar determinados sistemas. Se o projeto for encerrado ou o responsável mudar de função, o agente pode continuar ativo sem supervisão. Essa situação é preocupante, pois a facilidade de criar novos agentes pode resultar em uma falta de visibilidade sobre eles.

É essencial estabelecer uma disciplina de governança para os agentes de IA, semelhante àquela aplicada aos colaboradores humanos. Quando um funcionário entra na empresa, recebe acessos específicos. Se muda de função ou deixa a organização, essas permissões são revisadas ou encerradas. O mesmo deve ocorrer com os agentes de IA.

Cada agente deve ter um responsável designado, uma finalidade clara, permissões adequadas e um ciclo de vida definido. É crucial saber quais informações ele pode acessar, quais ações pode executar e, principalmente, quando deve ser desativado.

Com poucos agentes, essa governança parece simples. Contudo, com milhares de agentes operando, a questão se torna estratégica.

Uma pergunta importante para as empresas que estão adotando agentes de IA é: se um deles tomar uma decisão errada, será possível rastrear todo o processo que levou a essa decisão?

A incapacidade de responder a essa pergunta representa uma perda significativa de controle sobre as operações empresariais.

Entretanto, isso não significa que a governança deva se transformar em um bloqueio à inovação. Acredito que impedir a inovação como estratégia de segurança pode ser contraproducente. Um ambiente muito burocrático pode levar ao surgimento de soluções fora da visibilidade da empresa, aumentando o risco da chamada shadow AI.

Governar significa criar condições que permitam inovar com segurança. Um princípio fundamental é que a autonomia deve ser proporcional ao risco. Um agente que organiza documentos internos não deve ser tratado da mesma forma que um agente que pode interferir em pagamentos, contratos ou dados sensíveis.

O risco dos agentes que ninguém lembra que existem

Por anos, celebramos nossa capacidade de implementar novas tecnologias. Com os agentes de IA, a maturidade também se traduz em saber quando é necessário desligá-los.

Portanto, as empresas mais avançadas não serão aquelas com o maior número de agentes, mas sim aquelas que conseguem escalar essa tecnologia sem perder o controle sobre suas operações.

Em resumo, criar agentes é uma competência tecnológica, mas a governança deles é uma competência de negócios essencial para o sucesso organizacional.