Avatares de IA se tornam fontes de renda nas redes sociais, apesar de sua inexistência

Avatares de IA transformam o mercado digital com influências e riscos.

Falsos humanos, criados por ferramentas de inteligência artificial, estão se tornando uma nova tendência no Brasil e no mundo, atuando em produção em escala industrial e com roteiros adaptáveis a diferentes idiomas.

Esses avatares, embora não existam fisicamente, conquistam milhares de seguidores em plataformas como TikTok, YouTube e Instagram, onde desempenham papéis como vendedores e influenciadores, gerando receitas significativas por meio de canais automatizados.

A monetização ocorre de várias maneiras, incluindo a geração de receita através de vídeos, comissões em vendas em marketplaces e promoção de produtos digitais, além da possibilidade de revenda de perfis com alto engajamento.

Ao contrário dos chatbots, os influenciadores de IA imitam interações humanas reais em vídeos, transmissões ao vivo e anúncios, promovendo produtos e tratamentos sem comprovação científica, o que levanta preocupações sobre desinformação.

Fernando Ferreira, especialista em IA, destaca que a estratégia visa converter a atenção dos usuários em lucro, utilizando algoritmos para direcionar conteúdos a públicos específicos que buscam soluções para problemas variados.

Com ferramentas de automação cada vez mais acessíveis, a produção de avatares alcançou uma escala industrial. Ferreira observa que a automação evoluiu de simples interações para conteúdos mais personalizados, dificultando a identificação de campanhas publicitárias.

Da saúde ao entretenimento infantil

Estudos indicam que os nichos de atuação dos avatares variam, abrangendo desde conteúdos históricos até narrativas apelativas, sempre explorando emoções humanas básicas como medo, curiosidade e esperança.

Luã Cruz, diretor de litigância da Ctrl Z, aponta que a produção em massa utiliza roteiros traduzidos para diferentes idiomas, permitindo que um único conteúdo seja encenado por múltiplos avatares para alcançar diversos públicos.

No YouTube, essa estratégia também visa atender aos requisitos de monetização, utilizando conteúdos de baixa qualidade gerados por IA, conhecidos como slop, que podem conter desinformação e erros históricos.

Uma vez atingidas as metas de monetização, os canais podem ser redirecionados para novos nichos ou até vendidos para campanhas políticas, aumentando o potencial de lucro.

O impacto na saúde é preocupante, com relatos de pessoas que abandonam tratamentos tradicionais em favor de sugestões feitas por avatares, demonstrando os riscos associados a essa nova forma de influência.

A ilusão da hiper-realidade

O avanço tecnológico na criação de avatares reduziu as falhas visíveis, como vozes robotizadas ou cenários distorcidos, tornando difícil para os usuários discernirem a veracidade do conteúdo consumido em telas pequenas.

Cruz observa que, apesar de ainda serem perceptíveis algumas características robotizadas, a evolução contínua promete tornar esses avatares ainda mais convincentes, o que levanta questões sobre a responsabilidade dos usuários em verificar a autenticidade do material.

Especialistas defendem a necessidade de uma sinalização clara para conteúdos gerados por IA, além de uma ação mais rigorosa das plataformas na moderação de conteúdos monetizados, a fim de proteger os usuários de manipulações.

A responsabilidade recai sobre as empresas de tecnologia, que atualmente exigem apenas uma autodeclaração dos criadores sobre o uso de IA, sem mecanismos de verificação eficazes.

Crimes e relações no ambiente digital

Do ponto de vista legal, o uso de avatares sintéticos não isenta os criadores de responsabilidade criminal, e ações como estelionato e fraude podem ser aplicadas a esses perfis. O crime permanece crime, independentemente do meio utilizado.

A proliferação de avatares hiper-realistas também altera a percepção da realidade, criando padrões estéticos inatingíveis que podem intensificar a insegurança tanto de quem consome quanto de quem produz esse conteúdo.

Para a advogada Gisele Kauer, o problema não reside no uso de personagens de IA para lucro, mas sim na indução de usuários ao erro em busca de vantagens financeiras ilícitas.

O que dizem as plataformas

O YouTube afirma que todo conteúdo, incluindo o gerado por IA, deve seguir suas diretrizes, especialmente no que diz respeito à desinformação médica. A plataforma exige que criadores divulguem o uso de mídia alterada e aplica rótulos para alertar os espectadores.</