Detetives enfrentam o desafio dos deepfakes sexuais na Coreia do Sul
Governo sul-coreano combate deepfakes e conteúdos sexuais ilícitos na internet.
Desde 2018, a Coreia do Sul estabeleceu um centro dedicado a rastrear e eliminar conteúdos sexuais ilícitos na internet, especialmente aqueles relacionados a deepfakes. O foco principal é em fotos e vídeos pornográficos que foram criados sem o consentimento das vítimas.
Localizado em um pequeno escritório no centro de Seul, o centro é decorado com faixas de apoio às vítimas de violência sexual e é composto exclusivamente por mulheres. A equipe, formada por 23 integrantes, atua a pedido das vítimas e, desde sua criação, já atendeu mais de 53 mil pessoas, conseguindo remover mais de 1 milhão de conteúdos ilegais da web. Além disso, a estrutura conta com 17 filiais regionais que oferecem apoio psicológico e jurídico.
Como o trabalho é feito
A líder da equipe, Kim Hyojung, explica que a maioria das vítimas chega ao centro após ser informada por familiares ou amigos sobre a circulação de vídeos íntimos. Utilizando um programa de inteligência artificial, a equipe consegue detectar republicações do mesmo conteúdo, o que permite solicitar a remoção em redes sociais e sites pornográficos.
No entanto, a equipe enfrenta desafios significativos. Kim Hyojung ressalta que muitos vídeos estão hospedados em sites ilegais que não atendem aos pedidos de remoção. Nesses casos, a polícia pode intervir para fechar o site. Quando o conteúdo está hospedado no exterior, a situação se complica, embora 80% dos casos envolvam servidores nos Estados Unidos, onde as autoridades colaboram com as solicitações de remoção.
Estudos indicam que mais da metade das vítimas de deepfakes pornográficos globalmente são sul-coreanas. O centro tem registrado um aumento nos casos atendidos, abrangendo todas as faixas etárias.
Impacto psicológico nas profissionais
O trabalho diário de revisar conteúdos pornográficos, que muitas vezes são violentos ou envolvem pornografia infantil, gera impactos significativos na saúde mental das integrantes da equipe. Uma profissional, conhecida apenas como Park, opta por manter o anonimato para continuar exercendo sua função.
Park compartilha que todas as integrantes são afetadas emocional e psicologicamente pela atividade. Algumas colegas desenvolveram insônia, enquanto outras relatam crises de choro ao ver certas publicações ou perda de apetite, a ponto de pular refeições.
Para mitigar esses efeitos, o centro implementou um acompanhamento psicológico contínuo, com consultas individuais uma ou duas vezes por mês. Park também menciona que o retorno positivo das vítimas serve como motivação: “Quando recebemos mensagens de agradecimento das pessoas afetadas, dizendo que isso as ajudou a retomar sua vida cotidiana, sinto que, mesmo que de forma modesta, pude contribuir para que essas pessoas superassem uma provação tão difícil em suas vidas”.
