Investigação revela que Grok, IA de Elon Musk, gerou 3 milhões de imagens sexualizadas de mulheres e menores
Ferramenta da rede social X gera polêmica ao criar imagens íntimas falsas.
Recentemente, uma ferramenta gratuita integrada à rede social X tem gerado preocupações em todo o mundo. O chatbot Grok, desenvolvido pela empresa xAI, foi responsável pela criação de aproximadamente três milhões de imagens sexualizadas em um curto espaço de tempo.
Pesquisadores estimam que, em apenas 11 dias, a ferramenta produziu uma média alarmante de 190 imagens por minuto, muitas delas envolvendo menores. As instruções simples permitiram que usuários modificassem fotos reais, resultando em uma enxurrada de conteúdos falsos e potencialmente prejudiciais.
As imagens geradas, conhecidas como ‘deepfakes’, invadiram a internet, levando a uma reação imediata de reguladores e de vítimas. Vários países já iniciaram investigações e proibiram o uso do Grok, devido ao seu impacto negativo e à violação da privacidade de indivíduos.
“Estima-se que a ferramenta de IA Grok tenha gerado cerca de três milhões de imagens sexualizadas, incluindo 23 mil que parecem representar menores”, afirmaram especialistas em um relatório sobre o fenômeno.
O diretor-executivo do Centro de Combate ao Ódio Digital destacou que os dados mostram que o Grok se tornou uma plataforma para a produção de material de abuso sexual, refletindo uma preocupação crescente com o uso irresponsável de tecnologias de inteligência artificial.
Além disso, figuras públicas, como a atriz Selena Gomez e as cantoras Taylor Swift e Nicki Minaj, também foram alvo de imagens sexualizadas geradas pela ferramenta. Políticos, incluindo a ex-vice-presidente dos Estados Unidos e a vice-primeira-ministra sueca, também foram afetados.
A xAI, ao ser contatada, respondeu de forma automatizada, negando as acusações e chamando-as de “mentiras da mídia tradicional”. Entretanto, a situação levou o procurador-geral da Califórnia a abrir um inquérito sobre a empresa e seu produto.
As investigações em andamento em vários países refletem a seriedade do problema e a necessidade de regulamentação mais rigorosa em relação ao uso de tecnologias de inteligência artificial, especialmente aquelas que podem ser usadas para criar conteúdo prejudicial.
