Empresas que adotam agentes de IA no atendimento ao cliente são alertadas sobre riscos de erros e fraudes

Desafios legais da inteligência artificial no atendimento ao consumidor

O uso de agentes de inteligência artificial (IA) no atendimento ao consumidor levanta questões complexas sobre responsabilidade e ética. Quando um cliente enfrenta problemas, como cobranças erradas, a quem recorrer se o atendimento é feito por uma máquina?

Com grandes empresas adotando esses sistemas, a responsabilidade por falhas pode não ser clara. O Brasil, que ainda está desenvolvendo sua legislação sobre o tema, precisa agir rapidamente para evitar lacunas jurídicas.

De acordo com especialistas, a empresa que utiliza a IA é geralmente a responsável pelos resultados e consequências de suas ações. Não se pode simplesmente atribuir a culpa à tecnologia. Essa realidade, no entanto, é mais complicada do que parece, pois a responsabilidade pode se estender a desenvolvedores e fornecedores de tecnologia, especialmente em casos de danos resultantes de ataques cibernéticos.

A transparência é um aspecto fundamental nesse debate. A legislação vigente já estabelece que um agente de IA deve se identificar como tal, evitando enganos que possam prejudicar o consumidor. A falta de clareza nesse aspecto pode resultar em violações éticas e legais, afetando chatbots e outros sistemas automatizados.

As empresas precisam ir além de políticas de privacidade básicas. É essencial implementar mecanismos de controle que permitam uma supervisão humana sobre as decisões automatizadas. Essa prática deve ser parte de uma estratégia de compliance operacional, não apenas documental.

O uso de IA para fraudes também está em ascensão. Golpes que utilizam tecnologias como deepfakes e bots que imitam atendentes têm se tornado mais comuns. Embora existam leis para coibir esses crimes, a rapidez com que os ataques ocorrem desafia a eficácia da legislação.

Do “Know Your Client” ao “Know Your Agent”

Um novo conceito está emergindo no compliance corporativo: o Know Your Agent (KYA). Essa abordagem questiona o quanto as empresas realmente conhecem as ações de seus agentes de IA. A falta de supervisão pode resultar em responsabilidade civil por negligência.

Contratar uma solução de IA não é suficiente; é necessário monitorar e auditar continuamente suas operações. A certificação digital dos agentes de IA torna-se uma prioridade, com diretrizes já existentes que podem ser adaptadas para atender a essa nova realidade.

Sem a regulamentação obrigatória, corre-se o risco de cada empresa adotar padrões distintos, o que gera desconfiança e insegurança no mercado. A implementação de um marco regulatório sólido é crucial para garantir a confiança dos consumidores.

Com a legislação de IA em vigor e a Autoridade Nacional de Proteção de Dados planejando fiscalizar o setor, as empresas que investirem em governança e ética em IA estarão melhor posicionadas para mitigar riscos e conquistar a confiança do mercado.