STJ investiga prompt injection em processos

O Superior Tribunal de Justiça (STJ) abriu uma investigação sobre tentativas de fraude processual por meio da chamada prompt injection, técnica que injeta comandos ocultos em documentos para enganar modelos de inteligência artificial. O objetivo é evitar que esses registros sejam manipulados durante a análise de processos.

Segundo o STJ, o sistema de IA generativa da corte, chamado STJ Logos, já possui mecanismos para bloquear essas ações. Apesar disso, o tribunal planeja certificar os casos nos autos para aplicar sanções processuais aos envolvidos, conforme informou a gestão da presidência.

A presidência do STJ instituiu, ainda, a abertura de um inquérito policial e de um procedimento administrativo relacionado ao tema. Serão ouvidos advogados para apurar responsabilidade criminal e administrativa, mantendo o foco na preservação da integridade do processo.

Medidas e escopo da investigação

A prompt injection envolve inserir instruções maliciosas em documentos comuns, como petições ou recursos, com a finalidade de induzir a IA a ignorar regras de análise. A técnica pode comprometer a interpretação de textos e favorecer uma das partes, caso bem-sucedida.

O STJ destacou que a apuração buscará responsabilizar quem praticar ou facilitar a fraude. A atuação compreende etapas de coleta de depoimentos, análise técnica da natureza das tentativas e aplicação de sanções cabíveis, sem prejulgamentos.

Autoridades ressaltam que a adoção de IA no Judiciário exige controles rigorosos. O objetivo é manter a lisura dos atos processuais e a confiabilidade dos sistemas digitais usados pela corte.