YouTube apresenta nova ferramenta para detectar deepfakes de celebridades de Hollywood
YouTube lança ferramenta para detectar deepfakes e proteger celebridades
O YouTube introduziu uma nova ferramenta gratuita que auxilia celebridades de Hollywood a identificar deepfakes, uma iniciativa que visa combater o roubo de identidade gerado por inteligência artificial.
Recentemente, a plataforma implementou uma função de proteção de imagem, permitindo que os usuários detectem conteúdos em que seus rostos foram alterados ou gerados por IA para imitar a aparência de pessoas reais.
Inicialmente, a ferramenta era destinada a funcionários do governo, candidatos políticos e jornalistas. Contudo, o YouTube expandiu seu acesso para incluir a indústria do entretenimento, abrangendo atores e músicos, através de agências de talentos e representantes.
A nova funcionalidade possibilita que os usuários busquem conteúdos gerados por IA que reproduzam suas aparências, oferecendo a opção de localizá-los e solicitar a remoção.
Celebridades e artistas podem utilizar a ferramenta mesmo sem ter um canal na plataforma.
O diretor-executivo da plataforma Copyleaks, Alon Yamin, destacou que a abertura do YouTube para personalidades públicas representa uma mudança significativa na forma como as plataformas tratam a proteção da identidade na era da IA generativa.
A tecnologia que reproduz rostos, vozes e gestos tem avançado rapidamente, criando vulnerabilidades que podem ser exploradas por agentes mal-intencionados.
Desafios importantes
A iniciativa surge em um contexto onde vídeos hiper-realistas de celebridades falecidas estão se tornando comuns, utilizando aplicativos de fácil acesso. Recentemente, a OpenAI anunciou a descontinuação de um aplicativo que gerava tais conteúdos.
Com o uso de ferramentas como o Seedance 2.0, o diretor Ruairí Robinson criou clipes realistas que geraram preocupação em Hollywood, mostrando atores em situações fictícias.
Charles Rivkin, presidente da Motion Picture Association, pediu à ByteDance que cesse suas atividades de falsificação, alegando violação dos direitos autorais.
Na ocasião, o YouTube afirmou que estava colaborando com agências de talentos para melhorar a detecção de imagens problemáticas e proteger melhor os artistas.
Jason Newman, da Untitled Entertainment, elogiou a decisão do YouTube de fornecer essas ferramentas gratuitamente, enfatizando que a proteção da identidade é crucial para os talentos.
O desenvolvimento da ferramenta é uma resposta a queixas de celebridades que apontam a complexidade de sinalizar e remover deepfakes na plataforma.
Os riscos associados aos deepfakes são altos, pois podem ser utilizados para disseminar desinformação, manipular mercados e prejudicar reputações. A detecção eficaz é agora considerada essencial.
Os sistemas de detecção precisam ser precisos, atualizados e acompanhados de procedimentos claros para remoção, a fim de serem eficazes.
Embora a nova ferramenta não elimine completamente os deepfakes, ela poderá reduzir significativamente seu alcance e impacto, dificultando a circulação de conteúdos manipulados.
