Governo e MPF afirmam que X não provou ações contra imagens eróticas do Grok
Ferramenta Grok da rede social X gera polêmica ao criar imagens íntimas falsas.
O uso da ferramenta Grok, desenvolvida pela xAI, tem gerado preocupações em várias partes do mundo, levando a investigações por parte de órgãos reguladores. A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) estão analisando o caso.
Desde o final do ano passado, surgiram milhares de denúncias de que a inteligência artificial da Grok tem sido utilizada para adulterar imagens de mulheres, resultando em representações nuas ou de biquíni. Esses relatos vêm de diversos países e indicam um padrão preocupante de uso indevido da tecnologia.
Até o momento, pelo menos duas brasileiras relataram terem sido vítimas de tais deepfakes, o que evidencia a gravidade do problema. A rede social, pertencente ao bilionário Elon Musk, afirmou ter removido milhares de publicações e suspendido diversas contas que violaram suas políticas.
Entretanto, as autoridades brasileiras consideram que as medidas apresentadas pela empresa não foram acompanhadas de evidências concretas ou relatórios técnicos que comprovem sua eficácia. Testes realizados pelos órgãos competentes mostraram que a plataforma ainda permite a geração e o compartilhamento de imagens sexualizadas sem o consentimento dos indivíduos envolvidos, incluindo crianças e adolescentes.
O MPF enfatizou a falta de transparência da empresa e exigiu que ela forneça relatórios mensais sobre suas ações para coibir a produção dessas imagens. A ANPD também solicitou que a rede social detalhe as providências adotadas e apresente evidências que possam ser verificadas pelas autoridades.
Novo prazo
Recentemente, a ANPD e a Senacon estipularam um prazo de cinco dias úteis para que a rede social implemente medidas eficazes para impedir a criação de conteúdos impróprios pelo Grok. As soluções adotadas devem ser apresentadas dentro desse prazo, embora o ofício não tenha especificado quando esse prazo começou a contar.
Caso a ordem não seja cumprida, a rede social poderá enfrentar sanções severas, incluindo multas. Além disso, os responsáveis poderão ser processados por desobediência. O MPF também poderá realizar investigações mais aprofundadas, que podem resultar em ações judiciais para reparar danos causados pela criação dessas imagens.
Investigações na Europa
O Grok é uma criação da xAI, empresa de inteligência artificial de Musk, que também controla a rede social X. Recentemente, Musk anunciou a fusão de suas empresas, incluindo a SpaceX, o que pode resultar na formação de um conglomerado trilionário. A SpaceX está prevista para estrear na bolsa de Nova York ainda este ano.
