Especialistas da OpenAI e Meta alertam sobre a crescente dificuldade na detecção de deepfakes

TSE proíbe deepfakes na campanha, mas exige realismo para caracterizar ilicitude

O Tribunal Superior Eleitoral (TSE) reafirmou a proibição do uso de deepfakes durante as campanhas eleitorais, ao mesmo tempo em que estabeleceu critérios de realismo que podem tornar o uso de conteúdos falsificados ilícito.

Especialistas em tecnologia alertam que a crescente sofisticação dos vídeos e áudios gerados por inteligência artificial (IA) torna cada vez mais difícil distinguir entre conteúdos autênticos e falsificados. Esse fenômeno levanta preocupações sobre a verificação de provas em processos judiciais, especialmente nos Estados Unidos.

Durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, discutiu-se como lidar com os riscos associados a materiais falsificados por IA. A tecnologia de IA generativa, que cria conteúdos a partir de comandos, tem dificultado a identificação de fraudes, tanto para humanos quanto para softwares de verificação.

“As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, afirmou uma consultora de políticas de uma das empresas líderes no setor.

Desde 2023, o comitê tem debatido formas de verificar a autenticidade de materiais suspeitos de serem deepfakes e de garantir que provas produzidas com IA cumpram os mesmos critérios de confiabilidade exigidos de outros tipos de evidência.

Embora a preocupação seja crescente, os registros de casos envolvendo deepfakes nos tribunais americanos ainda são escassos. Um levantamento feito pelo Centro Federal do Judiciário revelou que apenas 15 dos 931 juízes que participaram de uma pesquisa relataram ter enfrentado um caso em que uma prova foi contestada por suspeita de ser um deepfake.

“Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”, comentou um juiz federal que preside o comitê.

Entretanto, especialistas da indústria, academia e governo afirmam que o risco de falsificações não é meramente teórico. Eles alertam que a identificação de provas fabricadas com IA se tornará cada vez mais complexa.

Um diretor de gestão de produtos de uma das grandes empresas de tecnologia declarou que conteúdos criados por modelos de IA avançados podem ser indistinguíveis para os humanos de mídias autênticas, além de serem gerados com rapidez e baixo custo.

As grandes empresas de tecnologia estão desenvolvendo ferramentas para ajudar na verificação da autenticidade de conteúdos visuais, mas novas legislações na Califórnia e na União Europeia exigem a implementação de marcas d’água para identificar materiais falsificados por IA.

Essas marcas, que indicam a origem do conteúdo, ainda enfrentam desafios, já que não existe um método universal que possa garantir a identificação precisa de todas as marcas ou a autenticidade de um conteúdo visual.

“Minha impressão é que isso certamente continuará melhorando”, observou a consultora de políticas. “Não acho que algum dia será à prova de falhas.”

Imagem ilustrativa; deepfake; crimes cibernéticos; cyberbullying.