O Superior Tribunal de Justiça (STJ) vai apurar tentativas de uso de prompt injection em petições do acervo processual. A Corte determinou a certificação nos autos e a abertura de medidas para investigar possíveis responsabilidades nas esferas administrativa e criminal.
O caso envolve uma técnica que consiste na inserção de comandos ocultos em documentos para interferir no funcionamento de sistemas de inteligência artificial, inclusive aqueles usados para apoiar a tramitação e a produção de respostas automatizadas.
STJ identifica tentativas e neutraliza ocorrências no sistema de IA
De acordo com o STJ, as ocorrências foram identificadas nas últimas semanas e neutralizadas pelas camadas de segurança do Tribunal. O sistema citado é o STJ Logos, descrito como uma ferramenta de IA generativa desenvolvida pelo STJ.
O presidente do STJ, ministro Herman Benjamin, afirmou que os casos serão apurados. Ele também disse que a ferramenta já possui mecanismos específicos para impedir esse tipo de manipulação.
Em declaração à Presidência do Tribunal, o ministro afirmou: “Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos”.
Presidência determina certificação nos autos e apuração formal
Além das medidas tecnológicas, a Presidência do STJ determinou que as tentativas de prompt injection sejam certificadas nos autos. Com isso, ministros e ministras poderão avaliar a aplicação de eventuais sanções processuais aos responsáveis.
O STJ também determinou a instauração de inquérito policial e de procedimento administrativo para apurar os fatos. A medida prevê a oitiva de advogados e escritórios envolvidos, com possibilidade de responsabilização nas esferas criminal e correcional.
Prompt injection: como a técnica busca enganar modelos de IA
O prompt injection é descrito pelo STJ como uma técnica para tentar enganar modelos de inteligência artificial, especialmente LLMs (grandes modelos de linguagem). Na prática, comandos são inseridos em textos aparentemente comuns, como petições, recursos ou documentos processuais.
Essas instruções podem ser ocultadas para não serem percebidas facilmente por uma pessoa, mas ainda assim serem lidas pela IA. O objetivo é fazer com que o sistema ignore suas regras originais ou produza respostas favoráveis a uma das partes.
STJ Logos adota camadas de proteção para bloquear comandos maliciosos
O Tribunal informou que o STJ Logos foi estruturado com diferentes níveis de segurança para impedir que comandos maliciosos inseridos em petições ou em outros documentos sejam executados pela IA.
Segundo o STJ, a primeira camada atua no pré-processamento do conteúdo, separando instruções legítimas dos dados externos recebidos pelo sistema, a fim de isolar possíveis comandos ocultos antes que cheguem ao modelo de IA.
Em seguida, a ferramenta estabelece limites de contexto, para impedir que instruções externas se sobreponham às regras principais do sistema. Por fim, há etapa de revisão da resposta gerada, destinada a verificar se o resultado está de acordo com as políticas de segurança e integridade definidas pelo Tribunal.
O STJ informou ainda que a segurança dos processos é prioridade desde o desenvolvimento dos sistemas de inteligência artificial ligados ao lançamento do STJ Logos, em fevereiro de 2025.
Fonte: Superior Tribunal de Justiça (STJ), 20 de maio de 2026.