xAI de Elon Musk processa usuário por suposto uso de Grok na criação de imagens de abuso sexual infantil
Rede Social X processa usuário por uso indevido da IA Grok na criação de imagens de abuso sexual.
A startup de inteligência artificial xAI, fundada por Elon Musk, moveu uma ação judicial contra um homem da Carolina do Sul, acusado de explorar sexualmente menores de idade. O indivíduo, Terry Harwood, foi detido no início deste ano e, segundo a xAI, utilizou indevidamente a ferramenta de IA Grok para gerar imagens de abuso infantil.
O processo, protocolado em um tribunal federal no Texas, alega que Harwood infringiu os termos de uso da plataforma. Este caso é um dos primeiros em que uma empresa de inteligência artificial toma medidas legais contra um usuário por supostamente empregar a tecnologia para produzir conteúdo sexualmente explícito.
Até o momento, não foram encontrados contatos de Harwood, e a xAI não se pronunciou sobre o assunto em resposta a solicitações da imprensa.
Grok é acusado de permitir deepfakes sem consentimento
A ação judicial surge em um contexto de crescente pressão internacional sobre a xAI, que enfrenta críticas por permitir a criação de deepfakes sexualizados sem o consentimento das pessoas retratadas. Esses conteúdos são gerados por inteligência artificial e podem ser extremamente realistas.
A xAI afirma que está combatendo o uso indevido de sua plataforma através de medidas como a suspensão e o encerramento de contas, além de reportar casos suspeitos de abuso infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC).
Em 2026, a empresa suspendeu 52.222 contas e fez 73.604 denúncias ao NCMEC, o que resultou em pelo menos 244 prisões.
Grok, inteligência artificial criada por Elon Musk.
Criminoso usou fotos adulteradas
A xAI alega que Harwood tentou criar deepfakes sexualmente explícitos ao enviar imagens de adultos e menores de idade para a plataforma. Além disso, a empresa afirma que ele produziu imagens sexuais falsas de adultos sem o devido consentimento.
No processo, a xAI requer uma indenização, cujo valor não foi divulgado, e solicita que a Justiça proíba Harwood de utilizar a ferramenta Grok no futuro.
“A conduta do réu foi um plano deliberado para transformar a ferramenta da autora em um instrumento para fins criminosos, expondo vítimas reais a danos profundos e duradouros, além de causar riscos jurídicos e prejuízos à reputação da empresa”, afirmou a xAI na ação.
