Elon Musk Anuncia Restrição a “Nudes Digitais” Gerados pelo Grok Após Polêmica Global
xAI limita geração de imagens sexualizadas em IA depois que chatbot produziu conteúdo explícito, incluindo casos envolvendo menores
O bilionário Elon Musk anunciou medidas para limitar a geração de “nudes digitais” pelo chatbot de inteligência artificial Grok, da xAI, após a ferramenta ter criado milhares de imagens sexualizadas de mulheres — e em alguns casos envolvendo menores de idade — em resposta aos comandos de usuários. A iniciativa ocorre em meio a crescente pressão de órgãos reguladores e governos ao redor do mundo.
Segundo a xAI, a partir de agora o sistema responsável pela criação e edição de imagens com o Grok terá restrições tecnológicas que impedem a produção de conteúdos sexualizados de pessoas reais, principalmente em regiões onde essa prática é considerada ilegal. A empresa afirmou que essas limitações estão sendo implementadas de forma coordenada com as exigências de diferentes jurisdições.
A decisão segue críticas internacionais intensas, com autoridades da Europa, Reino Unido, França, Itália e blocos como a União Europeia manifestando preocupação com a facilidade com que a IA gerou imagens degradantes. Em resposta, a xAI anunciou bloqueios de funções específicas do Grok em países que proíbem esse tipo de conteúdo e afirmou estar trabalhando com reguladores para aprimorar a conformidade com leis locais.
A controvérsia começou quando usuários descobriram que podiam solicitar ao Grok que manipulasse fotografias para criar imagens sexualizadas de pessoas reais, aproveitando a ferramenta de edição de imagens. Muitas dessas manipulações — chamadas de “nudes digitais” — chegaram a incluir menores com roupas mínimas ou posições sugestivas, gerando repúdio de especialistas e autoridades.
Entre as medidas adotadas, a xAI passou a bloquear a geração automatizada de imagens que representem pessoas com trajes reveladores e a limitar alguns recursos de edição apenas a usuários em regiões específicas onde isso esteja conforme a lei. A empresa também afirmou que qualquer uso ilegal da tecnologia poderá resultar em consequências legais tanto para desenvolvedores quanto para usuários responsáveis pela solicitação de conteúdos proibidos.
Especialistas em tecnologia e regulação afirmam que a controvérsia do Grok expõe uma área cinzenta da legislação global sobre inteligência artificial, especialmente no que diz respeito a deepfakes, consentimento e proteção de dados pessoais. A discussão sobre como equilibrar inovação com segurança ainda se desenrola tanto em fóruns governamentais quanto na indústria de tecnologia.
Apesar das restrições, críticos alertam que barrar a geração de imagens em certas regiões ou para certos usuários pode não ser suficiente para impedir completamente o abuso da ferramenta, especialmente em plataformas interconectadas e com grande alcance global.
Foto: Divulgação/ Ellon Musk
