O Superior Tribunal de Justiça está em meio a uma investigação para apurar uma possível tentativa de manipulação do sistema de inteligência artificial utilizado no tribunal. A suspeita gira em torno do uso de comandos de IA, conhecidos como prompts, que estariam sendo empregados para fraudar processos judiciais.
Advogados e escritórios de advocacia são apontados como os possíveis responsáveis pelas tentativas de fraude no STJ Logos, sistema de IA generativa da instituição. Diante da gravidade do caso, o presidente do STJ, ministro Herman Benjamin, determinou a abertura de um inquérito policial e de um procedimento administrativo interno para investigar a situação.
A prática em questão, conhecida como prompt injection, consiste em inserir instruções maliciosas no meio de petições ou recursos, com o intuito de burlar as regras de análise do sistema de IA e favorecer uma das partes envolvidas no processo.
Medidas adotadas pelo STJ
O ministro Herman Benjamin assegurou que o STJ Logos foi desenvolvido com comandos específicos para evitar esse tipo de prática fraudulenta. Atualmente, o tribunal está mapeando todas as tentativas de fraude para identificar os responsáveis e aplicar as devidas punições, garantindo a integridade dos processos judiciais.