O Superior Tribunal de Justiça instaurou um inquérito policial e um procedimento administrativo interno para apurar petições com comandos ocultos destinados a tentar influenciar o STJ Logos, sistema de inteligência artificial generativa usado pela Corte. A medida foi determinada pelo presidente do tribunal, ministro Herman Benjamin, após a identificação de documentos com a técnica conhecida como “prompt injection”.
STJ abre inquérito para investigar tentativas de fraude na IA do tribunal
Foto: Foto: STJ
Segundo o STJ, a prática consiste em inserir instruções em documentos comuns, como petições e recursos, com o objetivo de enganar modelos de inteligência artificial. No contexto judicial, esses comandos poderiam tentar fazer o sistema ignorar regras de análise ou interpretar a peça de forma favorável a uma das partes.
A suspeita envolve advogados e escritórios de advocacia, que deverão ser ouvidos no curso da apuração. O tribunal informou que as tentativas identificadas foram neutralizadas pelo próprio sistema, mas passarão a ser certificadas nos autos para permitir eventual aplicação de sanções processuais pelos ministros da Corte.
Herman Benjamin afirmou que o STJ Logos foi desenvolvido com comandos e camadas de proteção para impedir esse tipo de interferência. O tribunal informou que está mapeando as tentativas de uso da técnica para apurar responsabilidades nas esferas administrativa, correicional e criminal.
A ferramenta, lançada no contexto da modernização tecnológica do tribunal, adota etapas de segurança que separam instruções legítimas dos dados processados, limitam o escopo de atuação do sistema e revisam a conformidade das respostas geradas. Para o STJ, essas barreiras são necessárias para preservar a integridade dos processos diante do avanço do uso de inteligência artificial no Judiciário.
O caso ocorre em meio ao aumento da preocupação de tribunais com o uso indevido de IA em documentos processuais. O próprio STJ citou relatos recentes de tentativa de fraude processual na Justiça do Trabalho, no Tribunal Regional do Trabalho da 8ª Região, como exemplo de alerta para o Judiciário.
As investigações deverão indicar se houve tentativa deliberada de manipulação do sistema e quais medidas poderão ser aplicadas aos envolvidos. Até o momento, o tribunal não divulgou nomes de advogados,
