Adolescentes processam empresa de Musk nos Estados Unidos por uso de imagens sexualizadas geradas por chatbot

Adolescentes processam empresa de IA por criação de deepfakes pornográficos.

Três adolescentes entraram com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial de Elon Musk, após alegações de que seu chatbot gerou imagens pornográficas delas a partir de fotos reais.

A ação foi motivada pela crescente disseminação de deepfakes de mulheres e crianças nuas, que se intensificou no final do ano passado. A divulgação dessas imagens em várias plataformas sociais provocou uma onda de indignação global e gerou investigações em diversos países, incluindo o estado da Califórnia.

O processo menciona o caso de um indivíduo já preso que utilizou o Grok para transformar fotos comuns das jovens, extraídas de redes sociais, em imagens sexualizadas de aparência hiper-realista.

Essas montagens foram compartilhadas em plataformas como X, Discord e Telegram, e posteriormente migraram para a dark web, onde foram utilizadas como moeda de troca para conteúdos de pornografia infantil. A ação foi protocolada em um tribunal federal de San José.

A mãe de uma das adolescentes relatou o desespero ao ver sua filha sofrer um ataque de pânico ao descobrir que essas imagens haviam sido criadas e divulgadas, sem qualquer esperança de serem removidas.

Uma das autoras da ação sofre de pesadelos frequentes, enquanto outra precisa de medicação para dormir e tem receio de participar de sua própria cerimônia de formatura.

As advogadas argumentam que a xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos”, sem implementar as proteções que outras grandes empresas de IA utilizam para evitar a criação de pornografia infantil.

Grok, inteligência artificial criada por Elon Musk.