Ação judicial aponta TikTok por experimentos secretos que comprometem a segurança dos usuários

TikTok é alvo de ação judicial por testes de segurança ineficazes que afetaram usuários, incluindo crianças.

Recentemente, o TikTok foi acusado em uma ação judicial do Estado de Nova York de realizar experimentos com recursos de segurança que não funcionaram, impactando milhares de usuários, entre eles adolescentes e crianças.

O processo, liderado pela procuradora-geral de Nova York, descreve esses experimentos como “fantasmas” ou “placebo”. Essas alegações fazem parte de uma série de ações movidas por estados americanos que acusam a plataforma de projetar sua interface para viciar jovens e enganar os usuários sobre a segurança de suas funcionalidades.

Como funcionavam os testes placebo

Nos testes, o TikTok selecionou usuários que ativaram recursos como o “Algo Refresh”, destinado a redefinir recomendações e ajudar na filtragem de conteúdos indesejados. No entanto, muitos desses usuários acreditavam que estavam utilizando o recurso, enquanto seus feeds permaneciam inalterados. Somente aqueles que receberam a versão funcional do recurso notaram mudanças reais em seu conteúdo.

A empresa conduziu esses testes com milhares de usuários em 2023, comparando a permanência na plataforma entre aqueles que receberam o recurso e os que não receberam, com o objetivo de avaliar o impacto sobre a receita publicitária. O processo também alega que a empresa enganou os usuários sobre o funcionamento real da ferramenta, prometendo uma redefinição do algoritmo de recomendação que, na prática, era apenas temporária.

Um gerente de produto da área de bem-estar digital expressou preocupações internas sobre a natureza problemática dessa prática, afirmando que ela contradizia os princípios de transparência e controle do algoritmo, ressaltando que a utilização de um grupo placebo era conflitante com esses valores.

Adolescente morreu após receber conteúdos de suicídio

Além disso, o processo inclui detalhes sobre uma série de experimentos em que o TikTok desativou aleatoriamente recursos de segurança que limitavam a exposição a conteúdos prejudiciais. Um caso trágico envolveu um adolescente de Nova York que se suicidou após ser exposto a conteúdos sobre automutilação e suicídio. Análises internas da empresa indicaram que o jovem foi inundado com uma quantidade excessiva de conteúdos relacionados ao tema.

A ação judicial alega que, enquanto o TikTok afirma priorizar a segurança dos usuários e garantir que a plataforma é adequada para crianças e adolescentes, a empresa deliberadamente impede que determinados grupos tenham acesso a ferramentas de proteção, especialmente aqueles que buscam evitar conteúdos prejudiciais.

Posição do TikTok e histórico jurídico

O TikTok negou as alegações feitas pela procuradoria de Nova York, enfatizando que a segurança de seus usuários mais jovens é uma prioridade. A empresa declarou que realiza melhorias contínuas em sua plataforma e que, como muitas empresas, testa regularmente novos produtos e recursos para validar a experiência do usuário.

A ação foi apresentada pela procuradora Letitia James em 2024, e as alegações sobre os testes placebo foram adicionadas em uma versão atualizada da petição inicial, cujo sigilo foi posteriormente revogado por ordem judicial. Muitos documentos relacionados a processos estaduais em todo o país foram mantidos em sigilo enquanto a empresa tentava evitar a divulgação de detalhes sobre suas operações.

Em setembro de 2026, o TikTok chegou a um acordo em uma das primeiras ações estaduais, comprometendo-se a pagar até US$ 300 milhões ao Alabama e a modificar o funcionamento de sua plataforma para adolescentes naquele estado.