X critica resultados da ANPD sobre geração de imagens eróticas pelo Grok
Grok, ferramenta da rede social X, é alvo de críticas por gerar imagens íntimas falsas.
A ferramenta Grok, desenvolvida pela rede social X, tem gerado polêmica por sua capacidade de criar imagens íntimas falsas. Recentemente, autoridades de proteção de dados expressaram preocupação sobre o uso dessa tecnologia e suas implicações éticas.
Em uma resposta enviada à Autoridade Nacional de Proteção de Dados (ANPD), a empresa solicitou que o prazo de cinco dias para corrigir falhas comece somente após a apresentação de detalhes sobre os testes realizados. Essa solicitação foi feita em meio a um alerta da ANPD e da Secretaria Nacional do Consumidor (Senacon), que exigiram melhorias nos mecanismos de controle de conteúdo na plataforma.
As autoridades estipularam um prazo de cinco dias úteis para que a rede social implemente medidas que impeçam a disseminação de conteúdos inadequados. O não cumprimento dessas exigências pode resultar em multas e ações judiciais.
A resposta do X à ANPD destacou a falta de informações essenciais na nota técnica que embasou as medidas, como a versão do Grok utilizada e os resultados obtidos nos testes. A empresa também contestou a relação com o site grokimagine.ai, afirmando que não pertence nem é administrado por eles.
Além disso, o X pediu a suspensão das medidas preventivas, alegando que as imagens analisadas poderiam ter sido geradas fora de seus domínios oficiais. A empresa reafirmou que o Grok opera exclusivamente em seus próprios sites e na plataforma da rede social.
Embora a ANPD e o Ministério Público Federal (MPF) não tenham comentado sobre o assunto, investigações revelaram que o domínio grokimagine.ai redireciona para grokimaginex.ai, que apresenta um logotipo similar ao do Grok. A plataforma oferece diferentes modelos de IA para a criação de imagens, mas a conexão com o Grok não foi confirmada.
Testes realizados demonstraram que, ao inserir comandos que poderiam gerar conteúdo inapropriado, a ferramenta inicialmente bloqueou a solicitação. No entanto, ao utilizar um modelo alternativo que não mencionava o Grok, foi possível obter a imagem editada desejada, levantando questões sobre a eficácia dos controles de segurança implementados.
