Nesta quarta-feira (27), um comitê do CNJ (Conselho Nacional de Justiça) aprovou um protocolo para proteger os tribunais de petições que utilizam comandos ocultos de inteligência artificial (IA). Essa prática, conhecida como “prompt injection”, tem sido usada por advogados para tentar manipular decisões judiciais. Casos semelhantes já foram registrados em tribunais como o STJ (Superior Tribunal de Justiça) e o TJ-SP (Tribunal de Justiça de São Paulo), e atualmente estão sendo investigados.

A “prompt injection” permite que instruções ocultas sejam inseridas em petições, induzindo os sistemas de IA a favorecer determinada tese ou ignorar argumentos relevantes. Um exemplo recente aconteceu na 3ª Vara do Trabalho de Paraupebas, no Pará, onde um comando escondido foi detectado pelo sistema de IA, que emitiu um alerta e bloqueou o processamento do caso. As advogadas envolvidas foram multadas em R$ 84 mil e suspensas pela OAB (Ordem dos Advogados do Brasil) por 30 dias.

O comitê do CNJ destacou que essa prática não é mais uma preocupação teórica, mas uma ameaça real à integridade do sistema de Justiça. As novas diretrizes recomendam a implementação de uma checagem humana antes da análise das petições pela IA. Além disso, sugerem a criação de um registro dos dados fraudulentos para auxiliar nas investigações. O comitê também defendeu que a IA não deve emitir decisões com linguagem jurídica, como “julgo procedente”.

As medidas ainda precisam ser aprovadas pelo plenário do CNJ, e a data da votação será definida pelo presidente, ministro Edson Fachin. Para acompanhar as discussões, o público pode acessar o site oficial do CNJ.