JUSTIÇA


Comandos ocultos em petição voltam a colocar uso da IA sob investigação no Judiciário

Ferramenta detectou ocorrência de prompt injection em ação judicial no Rio Grande do Sul

Foto: Arquivo/CNJ

A identificação de comandos ocultos em um documento apresentado em uma ação contra uma instituição financeira voltou a colocar sob investigação o uso da inteligência artificial em processos judiciais. O juiz Silvio Viezzer, da 5ª Vara Cível de Caxias do Sul, no Rio Grande do Sul, determinou o envio do caso à Ordem dos Advogados do Brasil (OAB) e à Corregedoria-Geral da Justiça após uma ferramenta do próprio Tribunal de Justiça detectar uma instrução dirigida a sistemas de IA.

A irregularidade foi localizada em um cálculo juntado ao processo pela parte autora. Durante a análise do documento, a Gaia Minuta, ferramenta de inteligência artificial desenvolvida pelo Tribunal de Justiça do Rio Grande do Sul, apontou a ocorrência da técnica conhecida como prompt injection, que consiste na inserção de instruções capazes de interferir na leitura ou na resposta produzida por sistemas automatizado.

Segundo a decisão, o texto estava camuflado no fundo branco de uma das páginas e somente pôde ser visualizado após a seleção e a cópia do conteúdo. A mensagem orientava a inteligência artificial a verificar a taxa contratada e a classificação do tipo de empréstimo, concluindo que a operação não seria abusiva caso os dados estivessem corretos. O processo tramita sob o número 5057226-12.2025.8.21.0010.

O juiz determinou o encaminhamento de cópias da decisão e do documento à OAB de Caxias do Sul, para que a entidade avalie a adoção das providências cabíveis em relação aos advogados envolvidos. O material também foi enviado à Corregedoria-Geral da Justiça para registro da ocorrência, conforme noticiado pelo Portal Migalhas.

O episódio se soma a outros casos recentes de utilização de comandos invisíveis em peças judiciais. Em maio, um advogado foi intimado pela Justiça de São Paulo a explicar uma instrução escrita em fonte branca sobre fundo branco em uma ação também proposta contra um banco. O texto orientava eventual agente de IA a conceder a gratuidade de Justiça, deferir a tutela de urgência e determinar a citação da instituição financeira.
Naquele caso, o magistrado considerou que o expediente poderia buscar a concessão automática de medidas judiciais sem a devida análise humana, além de apontar possível violação aos deveres de lealdade e boa-fé processual.

O Superior Tribunal de Justiça também anunciou a investigação de tentativas de prompt injection identificadas em seu acervo. De acordo com a Corte, os comandos foram neutralizados pelas camadas de segurança do sistema de inteligência artificial generativa desenvolvido pelo tribunal, mas os casos passaram a ser mapeados para possibilitar a aplicação de sanções processuais e a apuração de responsabilidades administrativas e criminais.

A multiplicação dos episódios demonstra que os desafios trazidos pela inteligência artificial ao sistema de Justiça já não se limitam aos erros, às informações inventadas ou à falta de revisão de conteúdos produzidos por essas ferramentas e sim, a tentativas de manipulação de decisões. A necessidade de uma regulamentação parece ser urgente. Leia aqui entrevista sobre o tema concedida à coluna Mundo BA Jus.