O Superior Tribunal de Justiça (STJ) abriu uma investigação para apurar o uso de prompts de inteligência artificial com o objetivo de fraudar o sistema eletrônico de petições do tribunal. A decisão foi tomada pelo presidente do STJ, Herman Benjamin, que determinou a instauração de um inquérito policial e um procedimento administrativo interno para investigar possíveis tentativas de fraudes envolvendo advogados e escritórios de advocacia.
A medida foi adotada após técnicos do tribunal identificarem a presença de petições com prompt injection, uma técnica utilizada para ludibriar os modelos de inteligência artificial e beneficiar determinadas partes durante o andamento de um processo eletrônico.
Os comandos ocultos são inseridos nas petições com o intuito de enganar o sistema de IA e contornar os filtros de seleção que impedem, por exemplo, a admissão de documentos que não atendem aos requisitos básicos de admissibilidade.
Medidas de prevenção e segurança
O STJ ressaltou que o seu sistema eletrônico já conta com mecanismos de segurança que bloqueiam o uso de prompts e impedem a execução de comandos suspeitos enviados pela plataforma de petições. Essas salvaguardas visam garantir a integridade e a lisura dos processos judiciais que tramitam no tribunal.