- O STJ abriu inquérito e procedimento administrativo para apurar uso de “prompt injection” em processos, com foco em possível fraude processual.
- Ao menos 11 processos teriam utilizado a técnica, conforme levantamento citado pela TV Globo; serão ouvidos advogados e escritórios.
- O presidente do STJ, ministro Herman Benjamin, afirmou que o sistema de IA do tribunal possui proteções e que haverá responsabilização administrativa e criminal dos envolvidos.
- O tribunal ressaltou que o STJ Logos tem três camadas de segurança para evitar que ordens ocultas sejam executadas.
- Além do STJ, houve registro recente de tentativa semelhante na 3ª Vara do Trabalho de Parauapebas (PA) e o Conselho Nacional de Justiça recomenda um banco nacional de prompts para reduzir vulnerabilidades.
O Superior Tribunal de Justiça abriu nesta quarta-feira 20 um inquérito e um procedimento administrativo para apurar o possível uso de prompt injection em processos. A prática envolve inserir instruções ocultas para manipular sistemas de IA, com o objetivo de influenciar decisões ou documentos.
Ao menos 11 processos foram identificados como incidentes envolvendo a técnica, em um levantamento feito por técnicos do STJ. Os casos são de natureza criminal, mas o tribunal ainda não divulgou detalhes específicos. A investigação envolve depoimentos de advogados e escritórios vinculados aos casos.
A decisão foi tomada pela Presidência do STJ após a detecção de uma série de tentativas de injection no acervo processual. O objetivo é mapear todas as ocorrências, aplicando sanções processuais cabíveis e responsabilização administrativa e criminal dos envolvidos. O sistema interno de IA do STJ possui barreiras para impedir instruções externas maliciosas.
O que muda para os sistemas do STJ
O presidente do STJ ressalta que o Logos, o sistema de IA generativa da corte, já incorpora controles para impedir esse tipo de artimanha. Mesmo diante de petições com instruções ocultas, as camadas de segurança evitam a execução de comandos indevidos, assegurando a integridade processual.
Segundo o tribunal, há pelo menos três camadas de proteção para manter a consistência das regras centrais. A apuração busca entender a finalidade da tentativa e responsabilizar eventuais responsáveis, conforme os procedimentos administrativos e criminais previstos. O caso reforça o interesse em reforçar defesas tecnológicas.
Contexto e desdobramentos
A reportagem da TV Globo teve acesso ao relatório que aponta 11 ocorrências envolvendo prompt injection em processos criminais. O STJ informou que, por ora, não detalha casos específicos. O tema ganha atenção nacional, com outros tribunais avaliando vulnerabilidades de IA em suas plataformas.
O assunto já havia ganhado notoriedade em outros tribunais, como na 3ª Vara do Trabalho de Parauapebas (PA), onde houve tentativa de manipular a IA do TRT-RS. O Conselho Nacional de Justiça já recomenda a criação de um banco nacional de prompts para reduzir riscos.
Entre na conversa da comunidade