JUSTIÇA


Caso no TRT-5 expõe riscos do uso de IA na análise de processos, diz especialista

Para Ivan Almeida do Amaral, episódio representa alerta para fortalecimento da governança no uso da inteligência artificial

Foto: Assessoria

 

A decisão do Tribunal Regional do Trabalho da 5ª Região (TRT-5) de multar um advogado após identificar um comando oculto em uma petição reacendeu o debate sobre segurança, ética e governança no uso da inteligência artificial no sistema de Justiça.

No caso, o Tribunal identificou que a petição continha instruções direcionadas a ferramentas de inteligência artificial, e não ao julgador, o que levou à aplicação da multa por entender que a conduta era incompatível com os deveres de lealdade e boa-fé processual. 

Para Ivan Almeida do Amaral, gestor de Inteligência Jurídica e sócio do Pessoa & Pessoa Advogados, o episódio representa um alerta para o fortalecimento da governança no uso da inteligência artificial, sem que isso signifique resistência à inovação.

“Uma petição contendo um comando malicioso não ‘hackeia’, por si só, um tribunal ou um escritório. O problema surge quando esse tipo de instrução tenta interferir em ferramentas de IA usadas para apoiar a análise do processo. Quanto maior for a autonomia da ferramenta dentro do fluxo de trabalho, maior deverá ser o nível de controle, supervisão e responsabilidade”, afirma.

Segundo o advogado, o risco se torna mais relevante quando a IA é empregada em atividades como triagem de processos, resumo de documentos, classificação de risco, elaboração de minutas ou apoio à tomada de decisões sem uma revisão humana efetiva.

Na avaliação do especialista, a resposta ao problema exige mais do que soluções tecnológicas isoladas. “Filtros automáticos ajudam, mas não eliminam o risco sozinhos. É necessário combinar controles técnicos, protocolos humanos de conferência, auditoria, rastreabilidade e treinamento das equipes”, relata.

Entre as medidas recomendadas estão a validação de documentos recebidos de terceiros, a identificação de textos ocultos e metadados suspeitos, a revisão humana das respostas geradas e a implementação de barreiras para impedir autonomia excessiva dos sistemas em atividades sensíveis.

Para Ivan, a transparência também deve ser um dos pilares da incorporação da inteligência artificial ao Poder Judiciário. “Advogados e partes precisam compreender em quais atividades a IA é utilizada, com qual finalidade, quais são seus limites e em que etapa ocorre a revisão humana. Transparência não significa expor códigos ou detalhes que aumentem a vulnerabilidade dos sistemas, mas garantir controle democrático, contraditório efetivo e possibilidade de correção de erros”, conclui.​