Cientistas desenvolvem nova inteligência artificial em resposta à evolução dos deepfakes

Nova técnica promete detectar deepfakes com precisão superior a 95%

Pesquisadores de uma colaboração internacional desenvolveram um método inovador para identificar vídeos manipulados por inteligência artificial, conhecidos como deepfakes, alcançando uma taxa de acerto média superior a 95%.

A técnica, criada por cientistas da Universidade de Tóquio e do Instituto Max Planck de Informática, muda a abordagem tradicional de detecção. Em vez de focar em imperfeições visuais, o novo sistema analisa a correspondência entre expressões faciais e a fala da pessoa no vídeo.

Esse avanço é significativo, pois o sistema demonstrou capacidade de detectar manipulações que passaram despercebidas por métodos existentes, representando um progresso na luta contra a disseminação de vídeos falsificados.

O estudo foi apresentado em um artigo na Conferência IEEE/CVF sobre Visão Computacional e Reconhecimento de Padrões, destacando a relevância da pesquisa no contexto atual de crescente desinformação.

Deepfakes se tornam cada vez mais difíceis de identificar

A tecnologia de inteligência artificial generativa evoluiu a tal ponto que já produz imagens e vídeos quase indistinguíveis de gravações reais. Embora tenha aplicações benéficas, essa capacidade também aumenta os riscos de desinformação, roubo de identidade e fraudes.

Desse modo, a identificação de deepfakes se tornou uma área crucial de pesquisa em inteligência artificial, com o objetivo de desenvolver métodos confiáveis que possam mitigar esses riscos.

Método abandona busca por artefatos visuais

Os detectores de deepfake mais avançados atualmente utilizam aprendizado supervisionado, sendo treinados com grandes volumes de vídeos autênticos e manipulados. Contudo, essa abordagem pode levar ao overfitting, onde o modelo aprende características específicas de certos métodos de falsificação, tornando-se ineficaz contra novas técnicas.

Em contraste, os métodos autossupervisionados utilizam apenas vídeos autênticos para treinamento, oferecendo resistência a novas tecnologias de deepfake, mas geralmente com menor precisão. A nova técnica representa a primeira abordagem autossupervisionada que combina robustez com altas taxas de detecção, superando as limitações dos métodos supervisionados.

• O sistema foca na análise dos movimentos naturais do rosto, em vez de inconsistências visuais;
• Utiliza o modelo FLAME, que representa expressões faciais por meio de 53 parâmetros;
• Foi pré-treinado com mais de 450 horas de vídeos públicos, aprendendo a prever movimentos faciais a partir de trilhas de áudio;
• Após o pré-treinamento, o sistema pode ser personalizado para uma pessoa específica com apenas 60 segundos de vídeo.

A análise compara os movimentos faciais observados com os esperados a partir da fala. Diferenças significativas entre esses conjuntos são indicativas de manipulação, tornando a técnica eficaz na detecção de deepfakes.

“A combinação de aprendizado autossupervisionado e análise facial baseada no FLAME torna nossa abordagem particularmente robusta contra novos métodos de geração de deepfake”, afirmou um dos pesquisadores envolvidos no projeto.

Testes incluíram vídeos produzidos pelo Sora 2

Os testes realizados demonstraram que o novo método alcançou precisão média superior a 95% em diversos conjuntos de dados, superando as técnicas consideradas estado da arte. Um dos maiores desafios foi a avaliação em um conjunto de dados com vídeos gerados pelo Sora 2, modelo de geração de vídeos.

Enquanto detectores anteriores apresentaram resultados aleatórios, o novo sistema conseguiu identificar corretamente quase 95% dos vídeos manipulados, destacando seu potencial.

Sistema ainda não funciona em tempo real contra deepfakes

Ainda que os resultados sejam promissores, os pesquisadores reconhecem limitações. O método requer um longo processo de pré-treinamento em hardware avançado e, atualmente, não está disponível para aplicações em tempo real.

Apesar disso, a equipe acredita que essa abordagem representa um avanço significativo para o desenvolvimento de sistemas de detecção de deepfakes mais confiáveis, especialmente diante de técnicas de manipulação em constante evolução.