Prompt injection afeta processos judiciais

Identificação de tentativas de prompt injection no Judiciário gera preocupação e demanda por novas soluções tecnológicas.

Um recente episódio no Tribunal Regional do Trabalho da 4ª Região (TRT-4) trouxe à tona o risco de tentativas de prompt injection em processos judiciais, destacando a crescente preocupação com o uso da inteligência artificial no Poder Judiciário.

A técnica de prompt injection envolve a inserção de comandos ocultos em documentos destinados a sistemas de inteligência artificial. Essa prática busca manipular o comportamento do modelo, fazendo com que ele ignore suas instruções originais ou priorize informações específicas, resultando em respostas potencialmente prejudiciais.

Esse incidente levantou questionamentos sobre a frequência desse tipo de ocorrência nos tribunais. A dúvida central é se se trata de um caso isolado ou se há outros processos afetados por práticas semelhantes.

Em resposta a essa inquietação, o Hub de Tecnologia e Inovação foi incumbido de desenvolver uma ferramenta que realizasse uma varredura nas bases processuais em busca de padrões que indicassem tentativas de prompt injection.

Os resultados foram alarmantes: em poucos dias, mais de 60 processos foram identificados com características compatíveis com essa interferência, sugerindo que o problema pode ser mais amplo do que se imaginava.

É crucial entender que essa questão não deve ser vista apenas como uma curiosidade tecnológica, mas como um novo vetor de risco em ambientes onde a inteligência artificial é utilizada para a leitura, classificação e análise de documentos jurídicos.

A solução foi criada integralmente pelo Hub de Tecnologia e Inovação, que desenvolve plataformas de automação e inteligência artificial para o escritório. Em vez de utilizar apenas ferramentas disponíveis no mercado, foi estruturado um fluxo de segurança em múltiplas camadas, adaptado às especificidades do sistema processual brasileiro.

O modelo implementa diversas etapas de validação antes que qualquer documento seja analisado por inteligência artificial. Essas etapas incluem a identificação do tipo de arquivo, validação da estrutura da petição, análise de caracteres invisíveis, detecção de comandos ocultos e inspeção de metadados suspeitos, entre outros.

Qualquer documento que apresente indícios relevantes é imediatamente retirado do fluxo automatizado e enviado para validação por profissionais especializados. O objetivo é garantir que instruções ocultas não afetem as análises jurídicas realizadas com o auxílio da inteligência artificial.

Apesar dos avanços tecnológicos, o desafio operacional é significativo. Tentativas de prompt injection podem ocorrer em qualquer documento do processo, não se limitando à petição inicial, mas também em manifestações posteriores e anexos.

Realizar uma verificação completa exigiria a leitura de todos os documentos produzidos ao longo do processo, o que representa um desafio computacional e operacional em operações jurídicas de grande escala.

Diariamente, as equipes jurídicas do escritório lidam com mais de quatro mil peticionamentos. Submeter todos os documentos a um processo de inspeção retroativa seria inviável em termos operacionais.

Por isso, a estratégia adotada foi integrar a verificação diretamente no fluxo de trabalho. Cada novo documento recebido é automaticamente submetido às camadas de segurança antes de qualquer tratamento assistido por inteligência artificial, garantindo a proteção sem comprometer a produtividade.

A discussão sobre prompt injection precisa transcender o ambiente acadêmico e ser incorporada à prática operacional. Assim como o setor desenvolveu soluções para ameaças como malware e phishing, será essencial criar mecanismos que protejam os modelos de inteligência artificial em contextos jurídicos.

A proteção contra esse tipo de risco não se resume a uma única ferramenta. É necessário estabelecer uma arquitetura de governança que combine controles tecnológicos, supervisão humana, rastreabilidade e protocolos de resposta.

Nos próximos anos, é provável que esses controles se tornem parte das rotinas de governança tecnológica em escritórios de advocacia, departamentos jurídicos e tribunais.

O objetivo não é restringir o uso da inteligência artificial, mas sim criar condições que garantam um ambiente seguro, auditável e confiável, preservando a integridade das análises jurídicas e a confiança nas decisões baseadas em sistemas de inteligência artificial.