IA avança mais rápido que a governança nas empresas, revela KPMG
Mais da metade das empresas ainda não implementaram governança formal de inteligência artificial.
Uma pesquisa recente revelou que mais da metade das empresas ainda carece de uma governança formal para a inteligência artificial (IA). O estudo destaca que a adoção acelerada da tecnologia está à frente da capacidade das organizações de estabelecer mecanismos adequados de supervisão e gestão de riscos.
De acordo com os dados, 52% dos participantes estão em processo de discussão ou estruturação de um modelo formal de governança para IA. Apenas 23% afirmam ter uma estrutura formalizada e em funcionamento. A pesquisa incluiu 53 profissionais das áreas de governança, riscos, compliance, auditoria interna e controles internos, abrangendo setores como energia, serviços financeiros, saúde, tecnologia e agronegócio.
Inventário e mapeamento de riscos ausentes
A falta de uma estrutura de governança vai além do aspecto formal. Um total de 59% dos entrevistados indicou que suas organizações não possuem um inventário das atividades que utilizam IA. As áreas responsáveis por governança, riscos, compliance e auditoria interna ainda não estão formalmente envolvidas no mapeamento de riscos e controles associados à tecnologia.
O nível de confiança nas decisões baseadas em IA também é preocupante. Cerca de 35% dos entrevistados afirmaram que suas empresas não confiam no uso da IA para decisões críticas. Apenas 6% expressaram total confiança na tecnologia, mesmo com controles adequados implementados. Além disso, 51% relataram que ainda não realizaram um mapeamento estruturado de riscos específicos da IA, que incluem vieses, alucinações, segurança, compliance e uso de dados sensíveis.
Especialistas destacam que a eficácia das decisões baseadas em IA depende da qualidade dos dados utilizados. Portanto, a governança de dados para IA deve incluir responsabilidades claras sobre acesso, uso, segurança, privacidade e rastreabilidade, além de garantir mecanismos de monitoramento durante todo o ciclo de vida dos modelos. Sem essa estrutura, as empresas podem aumentar o uso da tecnologia, mas enfrentarão dificuldades em explicar e controlar os resultados gerados.
Processos manuais ainda dominam os controles internos
Outro indicador de baixa maturidade nas organizações é a realização manual dos testes de controles internos. Cerca de 57% dos participantes afirmaram que suas empresas ainda dependem de processos manuais para testes de controles internos e compliance, sem a participação de agentes de IA. Este dado evidencia a necessidade de avanço na utilização da tecnologia para aprimorar processos de governança, riscos e controles.
Profissionais da área enfatizam que a escala e a confiança são inseparáveis nesse contexto. Com a crescente participação da tecnologia em processos relevantes e decisões críticas, aumenta a necessidade de controles, transparência e supervisão. A confiança em IA não pode ser alcançada sem uma governança que evolua em consonância com a tecnologia, e o foco deve ser criar condições que permitam escalar o uso da IA sem aumentar proporcionalmente a exposição a riscos.
