MPF considera insuficientes as medidas de X contra deepfakes do Grok
MPF, ANPD e Senacon cobram ações efetivas da plataforma X para impedir conteúdos sexualizados gerados por IA.
O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram que as ações propostas pela plataforma X não são suficientes para evitar o uso indevido de sua ferramenta de inteligência artificial, Grok, na criação e disseminação de imagens sexualizadas.
No mês anterior, as três entidades emitiram recomendações à plataforma, solicitando a implementação de procedimentos técnicos e operacionais que garantam a identificação, revisão e remoção de conteúdos sexualizados gerados pelo Grok por meio de comandos dos usuários.
Em resposta às recomendações, a plataforma X alegou ter removido milhares de publicações e suspendido diversas contas por violação de suas políticas. No entanto, as instituições consideraram que as informações fornecidas careciam de evidências concretas e relatórios técnicos que comprovassem a eficácia das medidas adotadas. Testes preliminares realizados pelas equipes técnicas indicaram que as falhas persistem, com a continuidade da geração de conteúdos que desrespeitam as diretrizes estabelecidas.
As entidades exigiram que a plataforma X implemente, de maneira imediata, ações eficazes para impedir a produção de conteúdos sexualizados ou erotizados de crianças e adolescentes, bem como de adultos que não tenham dado consentimento.
Além disso, foi solicitado que a empresa informe sobre as providências já adotadas para resolver os problemas identificados nas recomendações. O MPF destacou a necessidade de relatórios mensais detalhando as ações da plataforma em relação ao tema, enfatizando a falta de transparência na resposta da empresa.
As três instituições trabalham em conjunto para investigar o uso indevido da ferramenta Grok, com cada uma conduzindo procedimentos administrativos em suas áreas de competência. A ANPD, por exemplo, exige que todos os recursos destinados a impedir o uso indevido da IA sejam aplicados em todas as versões e modalidades do Grok.
No âmbito do MPF, foi solicitado o envio de relatórios mensais a partir de fevereiro, contendo informações sobre como a plataforma está lidando com a produção de deepfakes que envolvem crianças e adolescentes, além de adultos sem consentimento. Esses relatórios devem incluir dados sobre o número de postagens nocivas removidas e contas suspensas.
O não cumprimento das determinações pode resultar em multas diárias para a empresa, além de possíveis acusações de desobediência e ações judiciais mais rigorosas. A Senacon também exigiu a comprovação das medidas já implementadas para mitigar os riscos identificados.
Foi solicitado ainda um relatório detalhado, com dados quantitativos sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao Grok. Isso inclui informações sobre o número de conteúdos removidos, prazos de resposta e critérios técnicos utilizados, além de qualquer medida corretiva adicional, como suspensão de contas.
