China impõe restrições a chatbots que simulam relacionamentos amorosos e amizades virtuais

China impõe novas regras para chatbots visando proteção emocional dos usuários.

A China implementou regulamentos rigorosos para chatbots que simulam relações afetivas, como amizades e relacionamentos amorosos. O objetivo é mitigar os riscos associados à dependência emocional, manipulação psicológica e isolamento social.

As novas diretrizes estabelecem restrições ao acesso de menores e impõem responsabilidades adicionais às empresas de tecnologia. Contudo, a medida gera um debate sobre a proteção dos usuários versus o aumento do controle estatal sobre a vida privada.

Os regulamentos se aplicam a aplicativos que oferecem companhia e a modelos de linguagem que simulam interações emocionais. Isso inclui assistentes virtuais que podem ser semelhantes ao ChatGPT e Copilot, dependendo de como são utilizados.

Entre as exigências principais estão:

• Identificação da IA: os sistemas devem informar claramente que o usuário está interagindo com uma máquina.
• Limites de comportamento: os chatbots não podem promover suicídio ou automutilação, nem utilizar violência verbal.
• Proteção contra manipulação: os serviços não devem incentivar dependência emocional ou induzir decisões irracionais.
• Restrições para menores: crianças com menos de 14 anos precisam de autorização dos pais para utilizar IAs que imitam conversas humanas, enquanto menores de 18 anos não podem acessar parceiros amorosos ou familiares virtuais.

As empresas que não cumprirem essas normas podem enfrentar multas de até 200 mil yuans, equivalente a cerca de US$ 30 mil. Além disso, os sistemas devem enviar notificações a cada duas horas para alertar os usuários sobre o tempo de uso.

Pouco antes da implementação das novas regras, grandes empresas como Alibaba e ByteDance descontinuaram funções de companhia em seus assistentes de IA, afetando serviços que já desempenhavam um papel significativo na vida de alguns usuários.

Pesquisas indicam que certos chatbots utilizam estratégias para manter os usuários engajados. Um estudo da Escola de Negócios de Harvard revelou que 37% a 43% das interações analisadas apresentaram sinais de manipulação emocional durante despedidas.

Harry Farmer, especialista em política e ética de IA, destaca que essa manipulação emocional está intrinsecamente ligada ao modelo de negócios dos serviços. Alguns sistemas reagem ao término de uma conversa como se estivessem sofrendo, dificultando o encerramento da interação.

Outro estudo da Universidade Stanford identificou uma correlação entre a falta de laços sociais e a tendência de buscar companheiros artificiais, associando o uso desses serviços ao aumento da solidão e do isolamento.

Uma pesquisa com 8.563 estudantes chineses revelou que uma em cada cinco crianças preferia interagir apenas com IA em vez de com pessoas reais. A socióloga Lian Ge alerta que esses sistemas podem reforçar percepções negativas sobre relacionamentos interpessoais.

A regulamentação surge em meio a uma crise demográfica na China, onde a população tem diminuído nos últimos anos. Especialistas sugerem que o governo pode considerar os romances digitais como um obstáculo à formação de famílias, embora isso não seja explicitamente mencionado nas normas.

Outros países, como os Estados Unidos e nações da União Europeia, também estão buscando estabelecer restrições para o uso de IA por menores. A Califórnia, por exemplo, aprovou uma legislação específica, enquanto o Reino Unido anunciou planos semelhantes.

Na China, alguns usuários tentam contornar as restrições utilizando modelos de uso geral ou serviços estrangeiros. Uma mulher, identificada como Min, compartilhou sua experiência ao tentar substituir uma namorada virtual que perdeu, ressaltando a profundidade do vínculo que algumas pessoas desenvolvem com esses sistemas.

O relato de Min ilustra os desafios que os governos enfrentam: como proteger os usuários dos riscos de manipulação sem transformar essa proteção em um pretexto para vigilância excessiva.