Meta desativa reconhecimento de imagens de IA após recortes, afirma agência

Nova ferramenta da Meta enfrenta desafios na detecção de imagens geradas por IA.

A Meta lançou uma nova ferramenta de detecção de conteúdo gerado por inteligência artificial, mas a eficácia desse recurso foi questionada após uma análise que revelou sua dificuldade em identificar imagens editadas.

Recentemente, foi constatado que a ferramenta não conseguiu reconhecer 55% das imagens criadas pela tecnologia Muse Image após serem recortadas. Essa limitação levanta preocupações sobre a capacidade de verificar a autenticidade de imagens, especialmente em períodos eleitorais, quando a disseminação de deepfakes pode ser mais intensa.

A análise incluiu 40 imagens geradas pela ferramenta, onde a versão original foi identificada corretamente. No entanto, após edições simples, como recortes, a taxa de reconhecimento caiu drasticamente. Isso indica que a detecção de manipulações em imagens geradas por IA ainda enfrenta desafios significativos.

A Meta afirma, em seu site, que a ferramenta possui um sistema de marca d’água invisível, chamado Content Seal, que deveria permitir a identificação das imagens mesmo após edições. Contudo, a empresa reconheceu que esse sinal pode ser comprometido em casos de recortes mais severos.

O desenvolvimento desse recurso visa auxiliar os usuários na verificação da origem das imagens criadas pela IA. Entretanto, a empresa admite que a ferramenta ainda está em fase de pré-visualização e não é infalível.

Outras empresas, como Google e OpenAI, também alertaram que suas ferramentas de detecção não conseguem identificar todas as formas de manipulação. Isso reflete um desafio comum na indústria de tecnologia ao lidar com conteúdos gerados por IA.

Em março, o Conselho de Supervisão da Meta pediu um aumento nos esforços para combater a disseminação de conteúdo enganoso gerado por IA. O grupo enfatizou a necessidade de investimentos em ferramentas de detecção mais robustas para enfrentar esse problema crescente.

Especialistas em ciência da computação, como Siwei Lyu, destacam que sistemas baseados em marcas d’água têm limitações, especialmente quando as imagens passam por modificações que afetam a marca d’água. A eficácia desses métodos pode ser comprometida por edições comuns, como recortes ou compressões.

“Métodos baseados em marcas d’água podem ser altamente eficazes quando o sinal permanece intacto. No entanto, qualquer modificação que o remova ou enfraqueça pode reduzir sua eficácia”, afirmou Lyu.

Sarah Barrington, pesquisadora de IA, também comentou sobre a tecnologia de marca d’água, reconhecendo seu potencial, mas ressaltando que não é completamente infalível. Ela acredita que mesmo uma taxa de detecção de 90% representaria um avanço significativo na identificação de conteúdos gerados por IA.