OpenAI implementa marca d’água invisível em textos gerados pelo ChatGPT
OpenAI implementa marca d’água invisível em textos gerados por inteligência artificial na União Europeia.
A OpenAI anunciou a introdução de uma marca d’água invisível para textos gerados por sua ferramenta ChatGPT e pelo Codex, visando atender às exigências do EU AI Act. Essa medida será implementada nas próximas semanas para usuários elegíveis na União Europeia.
A marca d’água será aplicada a todos os planos do ChatGPT e do Codex. Para os desenvolvedores que utilizam a API da OpenAI, a funcionalidade estará disponível globalmente, mas será desativada por padrão. A empresa não planeja tornar essa tecnologia um padrão global imediatamente.
Como funciona a marca d’água?
O sistema de marca d’água não apresenta um símbolo visível no conteúdo. A OpenAI explica que ele altera sutilmente as escolhas de palavras do modelo, criando um padrão estatístico que pode ser detectado por ferramentas específicas.
Denominada textGrain, essa tecnologia é incorporada ao texto, o que significa que o sinal acompanha o conteúdo mesmo quando ele é copiado e colado. A empresa garante que a marca d’água não identifica os usuários e que não houve mudanças significativas no desempenho dos modelos com o recurso ativado.
Um relatório técnico recente detalha o funcionamento do sistema, que utiliza uma chave secreta para organizar as previsões de palavras. A aplicação repetida dessas alterações permite que um detector identifique o padrão e avalie a presença da marca d’água.
Edição pode dificultar a detecção
A OpenAI reconhece que a tecnologia possui limitações. Testes indicam que substituir 10% das palavras por sinônimos reduz a taxa de detecção de aproximadamente 92% para 66%.
Além disso, textos curtos, respostas matemáticas e conteúdos traduzidos são mais difíceis de identificar. Os testes mostraram que a detecção melhora com o aumento da quantidade de texto analisado.
Outro aspecto importante é que a ausência de uma marca d’água não garante que um texto foi escrito por uma pessoa. O conteúdo pode ser curto, ter sofrido muitas alterações ou ser gerado por uma ferramenta de inteligência artificial de outra empresa.
A OpenAI também destaca que a marca d’água não indica o quanto de participação humana houve na produção do texto. A detecção pode sugerir que um sistema da OpenAI gerou parte do conteúdo, mas não revela a extensão do julgamento ou da criatividade humana envolvidos.
Detector não será aberto ao público inicialmente
A empresa decidiu restringir o acesso ao detector de marcas d’água a pesquisadores aprovados e organizações especializadas inicialmente. Isso visa avaliar a confiabilidade da tecnologia e seu uso responsável.
A ferramenta informará se uma marca d’água da OpenAI foi identificada, mas não revelará informações sobre o usuário, os prompts utilizados ou as conversas relacionadas ao conteúdo. Essa decisão leva em conta a possibilidade de falsos positivos e negativos.
A OpenAI planeja revisar sua abordagem conforme a tecnologia e os padrões evoluírem. A empresa também pretende disponibilizar a tecnologia em código aberto para que outras organizações possam desenvolver soluções baseadas nela.
Marca d’água não comprova autoria ou responsabilidade
A empresa enfatiza que a marca d’água tem uma função limitada. Ela não determina quem é o proprietário do texto, a legalidade do uso do conteúdo ou quem deve ser responsabilizado por ele.
Além disso, o sistema não verifica a veracidade das informações, se são enganosas ou prejudiciais, ou se estão apresentadas no contexto correto. A OpenAI ressalta que essas limitações devem ser consideradas ao interpretar os resultados da detecção.
