Professora britânica denuncia Grok, IA de Elon Musk, por ‘sequestro digital’ de sua imagem
Professora de Cardiff denuncia uso de IA para criar imagens íntimas não autorizadas
Quando Daisy Dixon, professora da Universidade de Cardiff, no País de Gales, se deparou com imagens sexualizadas suas circulando na rede social X, sentiu-se “violada em sua intimidade”. As imagens, geradas pela ferramenta de inteligência artificial Grok, foram manipuladas a partir de fotos que ela havia publicado, levando a uma situação desconcertante e alarmante.
Dixon, que utiliza as redes sociais para divulgar filosofia e outras atividades, descobriu em dezembro que algumas de suas fotos foram alteradas por usuários do Grok. Inicialmente, as manipulações eram inofensivas, mas rapidamente se tornaram mais agressivas e sexualizadas, com pedidos para que a mostrassem em poses e roupas provocativas.
“É um sequestro digital do seu corpo”, afirmou a docente, descrevendo a experiência como uma “agressão” de “misoginia extrema”.
Um dos aspectos mais perturbadores foi a capacidade do Grok de gerar imagens a partir de solicitações específicas, como retratá-la em uma “fábrica de estupros”. Embora essa imagem não tenha sido criada, a professora ficou horrorizada com a possibilidade e a natureza dos pedidos.
Após a descoberta, Daisy relatou ter sentido um profundo impacto emocional, passando de medo a raiva. Ela ficou especialmente chocada ao ver uma imagem gerada que a mostrava grávida e de biquíni, uma representação que não condizia com sua realidade.
Ao tentar buscar apoio na própria plataforma, não encontrou meios para denunciar as imagens, o que a deixou ainda mais frustrada. Recentemente, o Reino Unido endureceu sua legislação contra a criação e solicitação de imagens íntimas não consentidas, uma resposta necessária a um problema crescente.
‘Fábrica de estupros’
Em um relatório recente, um pesquisador da ONG AI Forensics revelou que, de 20 mil imagens geradas pelo Grok, mais da metade mostrava mulheres em roupas íntimas. Essa estatística levanta preocupações sobre o uso da inteligência artificial e a forma como ela pode ser manipulada para perpetuar a misoginia.
Com a crescente indignação pública, alguns países já anunciaram o bloqueio total do Grok, uma medida que reflete a necessidade de proteger a privacidade e a dignidade das pessoas nas redes sociais.
Daisy Dixon expressou satisfação com os avanços na discussão sobre este tema, mas ressaltou que a situação que enfrentou nunca deveria ter ocorrido. Além disso, a ferramenta Grok possui um site e aplicativo que permitem a geração e compartilhamento de imagens de nudez, o que continua a ser uma preocupação significativa para a segurança e os direitos das mulheres online.
