OpenAI implementa marca d’água invisível em textos gerados pelo ChatGPT

OpenAI implementa marca d’água invisível em textos gerados por inteligência artificial na União Europeia.

A OpenAI anunciou a introdução de uma marca d’água invisível para textos gerados por sua ferramenta ChatGPT e pelo Codex, visando atender às exigências do EU AI Act. Essa medida será implementada nas próximas semanas para usuários elegíveis na União Europeia.

A marca d’água será aplicada a todos os planos do ChatGPT e do Codex. Para os desenvolvedores que utilizam a API da OpenAI, a funcionalidade estará disponível globalmente, mas será desativada por padrão. A empresa não planeja tornar essa tecnologia um padrão global imediatamente.

Como funciona a marca d’água?

O sistema de marca d’água não apresenta um símbolo visível no conteúdo. A OpenAI explica que ele altera sutilmente as escolhas de palavras do modelo, criando um padrão estatístico que pode ser detectado por ferramentas específicas.

Denominada textGrain, essa tecnologia é incorporada ao texto, o que significa que o sinal acompanha o conteúdo mesmo quando ele é copiado e colado. A empresa garante que a marca d’água não identifica os usuários e que não houve mudanças significativas no desempenho dos modelos com o recurso ativado.

Um relatório técnico recente detalha o funcionamento do sistema, que utiliza uma chave secreta para organizar as previsões de palavras. A aplicação repetida dessas alterações permite que um detector identifique o padrão e avalie a presença da marca d’água.

Edição pode dificultar a detecção

A OpenAI reconhece que a tecnologia possui limitações. Testes indicam que substituir 10% das palavras por sinônimos reduz a taxa de detecção de aproximadamente 92% para 66%.

Além disso, textos curtos, respostas matemáticas e conteúdos traduzidos são mais difíceis de identificar. Os testes mostraram que a detecção melhora com o aumento da quantidade de texto analisado.

Outro aspecto importante é que a ausência de uma marca d’água não garante que um texto foi escrito por uma pessoa. O conteúdo pode ser curto, ter sofrido muitas alterações ou ser gerado por uma ferramenta de inteligência artificial de outra empresa.

A OpenAI também destaca que a marca d’água não indica o quanto de participação humana houve na produção do texto. A detecção pode sugerir que um sistema da OpenAI gerou parte do conteúdo, mas não revela a extensão do julgamento ou da criatividade humana envolvidos.

Detector não será aberto ao público inicialmente

A empresa decidiu restringir o acesso ao detector de marcas d’água a pesquisadores aprovados e organizações especializadas inicialmente. Isso visa avaliar a confiabilidade da tecnologia e seu uso responsável.

A ferramenta informará se uma marca d’água da OpenAI foi identificada, mas não revelará informações sobre o usuário, os prompts utilizados ou as conversas relacionadas ao conteúdo. Essa decisão leva em conta a possibilidade de falsos positivos e negativos.

A OpenAI planeja revisar sua abordagem conforme a tecnologia e os padrões evoluírem. A empresa também pretende disponibilizar a tecnologia em código aberto para que outras organizações possam desenvolver soluções baseadas nela.

Marca d’água não comprova autoria ou responsabilidade

A empresa enfatiza que a marca d’água tem uma função limitada. Ela não determina quem é o proprietário do texto, a legalidade do uso do conteúdo ou quem deve ser responsabilizado por ele.

Além disso, o sistema não verifica a veracidade das informações, se são enganosas ou prejudiciais, ou se estão apresentadas no contexto correto. A OpenAI ressalta que essas limitações devem ser consideradas ao interpretar os resultados da detecção.