Ferramenta identifica deepfakes com 91% de precisão e fornece explicações sobre a falsidade das imagens

Nova ferramenta alemã detecta e explica deepfakes com alta precisão.

Detectar deepfakes é uma tarefa desafiadora, e explicar por que uma imagem é falsa é ainda mais complexo. Pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, desenvolveram uma ferramenta inovadora que realiza ambas as funções com uma taxa de detecção que varia entre 85% e 91%.

A ferramenta, chamada RealorRender, foi criada em colaboração com o Escritório Federal Alemão de Segurança da Informação (BSI), que também fornece financiamento para o projeto. Essa iniciativa visa combater o crescente problema das falsificações digitais.

Como funciona

A abordagem utilizada pela RealorRender é híbrida e pioneira. Em vez de depender exclusivamente de um classificador tradicional de aprendizado profundo, a ferramenta combina dois métodos distintos.

Primeiramente, um gerador de imagens de inteligência artificial tenta reconstruir a imagem que está sendo analisada. Quanto mais eficaz for essa reconstrução, maior a probabilidade de a imagem original ter sido gerada por outro sistema de IA, uma vez que a inteligência artificial tende a replicar com mais facilidade aquilo que foi criado por ela mesma.

Em seguida, um modelo de classificação avalia o erro de reconstrução e fornece uma estimativa de autenticidade em forma de porcentagem. Esse processo permite uma análise mais precisa das imagens suspeitas.

“Iniciamos com um gerador de imagens de IA para reconstruir a imagem. Depois, um modelo de IA realiza a classificação e calcula o erro de reconstrução. Finalmente, obtemos uma estimativa que indica a precisão do reconhecimento em porcentagem”, explicou um dos cientistas do projeto.

O que diferencia: a explicação

Detectar uma imagem falsa é apenas o primeiro passo. A RealorRender também fornece explicações sobre o motivo pelo qual uma imagem foi classificada como falsa, utilizando métodos de inteligência artificial explicável (XAI).

“Texturas e padrões de frequência específicos podem indicar que uma imagem é sintética. O XAI ajuda a identificar quais características o modelo considera em sua decisão”, afirmou a responsável pelo grupo de IA Explicável Aplicada do Fraunhofer IOSB.

A ferramenta utiliza duas formas de visualização: mapas de calor, que destacam as áreas da imagem que mais influenciaram a decisão do modelo, e análise por segmentos, que identifica partes semânticas específicas, como rosto, cabelo ou fundo, que evidenciam a origem artificial da imagem.

Por que isso importa

O problema que a RealorRender busca resolver é significativo. Em 2025, as fraudes envolvendo deepfakes superaram US$ 1,5 bilhão em todo o mundo. Uma investigação recente revelou a existência de mais de 276 mil deepfakes sexuais em um único site, com 96% dos casos retratando mulheres.

A capacidade humana de distinguir entre imagens autênticas e falsificações é limitada. Embora existam ferramentas automáticas para essa tarefa, elas frequentemente não oferecem explicações, o que restringe sua utilidade para jornalistas, plataformas de redes sociais e agências de segurança que necessitam justificar suas decisões de moderação.

Quem pode usar

A RealorRender está sendo integrada a um demonstrador que inicialmente ajudará o BSI na detecção de deepfakes. O processo é simples: o usuário faz o upload da imagem e recebe não apenas o resultado da detecção, mas também uma explicação e um resumo em texto.

Os pesquisadores já publicaram dois relatórios sobre o projeto, e a tecnologia possui potencial para ser utilizada por agências de segurança, plataformas de redes sociais, empresas de mídia e agências de fotografia.