Invasão de vídeos gerados por IA no YouTube visa ‘hipnotizar’ crianças e pode ter consequências duradouras

Vídeos gerados por inteligência artificial no YouTube levantam preocupações sobre o impacto nas crianças.

Recentemente, vídeos no YouTube que utilizam inteligência artificial (IA) têm chamado a atenção, especialmente por apresentarem personagens que mudam de nome, voz e aparência sem explicações. Essas produções, que muitas vezes parecem extremamente realistas, têm gerado debates sobre sua influência no desenvolvimento infantil.

Um exemplo notável é o reencontro de um urso panda com um cuidador, onde a reação do animal se assemelha à de um ser humano. Outro vídeo apresenta um avatar de Jesus em uma praia, criando estátuas de si mesmo. Além disso, músicas infantis com letras confusas e misturas de idiomas têm sido observadas, levantando questões sobre a qualidade do conteúdo.

Esses vídeos, que são frequentemente recomendados pelo algoritmo do YouTube após buscas relacionadas ao universo infantil, têm gerado um grande número de visualizações. Em um teste, bastaram 15 minutos de navegação para que clipes desse tipo aparecessem, mesmo após buscas por conteúdos mais tradicionais, como jogos e vídeos de animais.

Os criadores de conteúdo têm visto uma oportunidade de negócio nesse nicho, afirmando que é possível monetizar esses vídeos. No entanto, especialistas alertam que esse tipo de material pode confundir as crianças, prejudicando sua capacidade de atenção e desenvolvimento cognitivo e social.

O fenômeno dos vídeos gerados por IA no YouTube é complexo e envolve fatores econômicos. A plataforma, por sua vez, afirma priorizar o combate a conteúdos de baixa qualidade e adotar regras mais rígidas para vídeos voltados ao público infantil.

Características dos vídeos infantis gerados por IA

Ainda não está claro o tamanho e o alcance desse fenômeno. A maioria dos vídeos analisados não apresentava avisos sobre o uso de IA, mesmo quando indicativos eram evidentes, como vozes que não correspondiam aos personagens e animações com movimentos estranhos.

Uma pesquisa realizada por acadêmicos buscou identificar a presença de conteúdos gerados por IA em vídeos infantis. A análise de cerca de 17 mil vídeos revelou que muitos eram musicais e apresentavam adaptações de histórias, vídeos educativos e conteúdos religiosos. Os vídeos de “transformação”, que recriam personagens em versões infantis, também foram notados, frequentemente repetindo imagens genéricas.

Especialistas destacam que as crianças pequenas não conseguem distinguir entre fantasia e realidade, e que a exposição a esses vídeos pode impactar seu desenvolvimento. O consumo excessivo de conteúdos gerados por IA pode sobrecarregar a capacidade de processamento de informações das crianças, prejudicando sua aprendizagem e interação social.

Telma Pantano, fonoaudióloga e psicopedagoga, observa que muitas crianças estão apresentando dificuldades em diferenciar o que é real e o que não é, refletindo uma maturação cerebral que se dá lentamente. A exposição constante a imagens prontas pode limitar a criatividade infantil, uma vez que as crianças não são incentivadas a construir suas próprias narrativas.

Desafios para pais e plataformas

Os desafios para os pais em controlar o consumo de conteúdo infantil online são significativos. Muitas vezes, a falta de tempo leva os responsáveis a permitir que as crianças assistam a vídeos sem supervisão. A dinâmica das plataformas, que prioriza o engajamento, contribui para a disseminação de vídeos de baixa qualidade.

O YouTube, por sua vez, reconhece a importância de combater conteúdos gerados por IA que não atendem aos padrões de qualidade, especialmente aqueles voltados para crianças. No entanto, a plataforma enfrenta dificuldades em identificar automaticamente esses vídeos, e muitos criadores não informam quando utilizam tecnologia de IA em suas produções.

Ainda assim, a luta contra o “AI slop” é uma prioridade para o YouTube, que busca garantir que o conteúdo destinado ao público infantil seja seguro e de qualidade. A discussão sobre o impacto desses vídeos na infância continua, com especialistas pedindo maior atenção e regulamentação sobre o que é oferecido às crianças nas plataformas digitais.