Conteúdo de baixa qualidade gerado por inteligência artificial domina redes sociais e provoca reações negativas na internet

Estudante critica conteúdo gerado por IA nas redes sociais, que se torna cada vez mais comum.

Uma imagem polêmica circulou nas redes sociais, mostrando dois meninos sul-asiáticos em uma situação peculiar. Apesar de seus traços infantis, apresentavam barbas volumosas, e um deles não tinha mãos, segurando um cartaz que pedia curtidas para seu aniversário. A cena, que parecia inverossímil, aconteceu em uma rua movimentada sob forte chuva, com um bolo de aniversário ao lado.

A imagem, que levantou suspeitas de ter sido criada por inteligência artificial (IA), rapidamente se tornou viral no Facebook, acumulando quase 1 milhão de curtidas e emojis de coração. Este fenômeno gerou discussões sobre a qualidade e a autenticidade do conteúdo que circula nas plataformas sociais.

Théodore, um estudante de 20 anos de Paris, ficou perplexo ao ver a popularidade de imagens absurdas geradas por IA, que recebiam grande engajamento sem qualquer questionamento. Em resposta, ele criou uma conta na rede social X, intitulada “Insane AI Slop”, onde começou a expor e ironizar publicações que enganavam os usuários. Sua iniciativa rapidamente atraiu a atenção de outros, que começaram a enviar exemplos do que classificavam como AI slop.

Com o tempo, alguns temas se tornaram recorrentes nas publicações: religião, militares e crianças em situações comoventes. Théodore observou que conteúdos que retratam crianças do terceiro mundo em ações impressionantes frequentemente atraem visualizações, levando criadores a produzir mais desse tipo de material.

A conta de Théodore cresceu rapidamente, ultrapassando 133 mil seguidores. Ele reflete sobre como a experiência nas redes sociais mudou drasticamente e quais impactos isso pode ter na sociedade, questionando o quanto os bilhões de usuários se importam com a qualidade do conteúdo que consomem.

A ‘terceira fase’ das redes sociais

Recentemente, Mark Zuckerberg, CEO da Meta, declarou que as redes sociais entraram em uma nova fase, agora centrada na inteligência artificial. Ele explicou que a primeira fase era dominada por conteúdo de amigos e familiares, enquanto a segunda trouxe criadores de conteúdo. Agora, com a IA facilitando a criação e remixagem de material, um novo conjunto de conteúdos está emergindo.

A Meta não apenas permite a publicação de conteúdo gerado por IA, mas também lançou ferramentas para facilitar essa criação. No entanto, ao ser questionada sobre iniciativas para coibir a disseminação de AI slop, a empresa se limitou a apontar sua aposta crescente em IA.

Neal Mohan, CEO do YouTube, também comentou sobre o uso de ferramentas de IA na plataforma, revelando que mais de 1 milhão de canais usaram essas ferramentas para criar conteúdo. Apesar de reconhecer as preocupações com a qualidade do conteúdo, ele afirmou que sua equipe está trabalhando para aprimorar os sistemas que identificam e removem material repetitivo e de baixa qualidade.

Embora a IA ofereça novas oportunidades para criadores, a proliferação de conteúdo de baixa qualidade gerado por IA, conhecido como AI slop, levanta questões sobre a atenção dos usuários e a qualidade da informação consumida. A crescente popularidade de vídeos de IA, como os do canal indiano Bandar Apna Dost, que acumula bilhões de visualizações e gera consideráveis ganhos financeiros, exemplifica essa tendência.

Por outro lado, uma reação contrária está se formando. Muitos usuários expressam sua frustração nos comentários de vídeos virais de IA, condenando o conteúdo gerado. Essa pressão popular pode indicar um desejo crescente por maior qualidade e autenticidade nas redes sociais.

Conteúdo perturbador e preocupações crescentes

Théodore, o estudante que iniciou a campanha contra o AI slop, relatou que muitos vídeos gerados por IA que encontrou no YouTube eram perturbadores e, em alguns casos, direcionados a crianças. Ele denunciou canais que apresentavam conteúdos explícitos e potencialmente prejudiciais, levando o YouTube a remover alguns deles por violarem suas diretrizes.

Essa experiência desgastante levou Théodore a perceber que a batalha contra o AI slop pode estar perdida. Mesmo em plataformas que deveriam ser acolhedoras, como o Pinterest, a frustração dos usuários com a inundação de conteúdo gerado por IA levou a novas medidas para excluir esse tipo de material.

As reações adversas ao AI slop também estão se tornando comuns em diversas plataformas, com comentários críticos frequentemente receb