- STJ abriu inquérito policial e procedimento administrativo para apurar tentativas de fraude com uso de comandos ocultos em petições para manipular a IA da corte.
- A prática, conhecida como prompt injection, insere instruções invisíveis em documentos para influenciar respostas geradas pelo sistema de IA, o STJ Logos.
- Técnicos do tribunal localizaram petições com a injeção do comando no acervo de processos.
- O presidente do STJ, Herman Benjamin, afirmou que o STJ Logos foi desenvolvido com mecanismos para bloquear essas artimanhas e que responsáveis poderão enfrentar sanções processuais e responsabilização criminal e administrativa.
- As tentativas foram neutralizadas pelas camadas de segurança e passarão a ser registradas nos autos; o tema já havia ganhado notoriedade em maio, com relatos no TRT da 8ª Região.
O Superior Tribunal de Justiça (STJ) abriu nesta quarta-feira (20) inquérito policial e procedimento administrativo para apurar tentativas de fraude processual envolvendo comandos ocultos em petições que buscavam influenciar o sistema de inteligência artificial da corte.
A prática, conhecida como prompt injection, insere instruções invisíveis em documentos para orientar respostas das ferramentas de IA. Técnicos do STJ identificaram petições com esse tipo de injeção em seu acervo.
O presidente Herman Benjamin afirmou que o STJ Logos, o sistema de IA da corte, já foi programado com mecanismos para bloquear esse tipo de artimanha. Ele disse que os responsáveis serão identificados para eventual sanção processual e responsabilização criminal e administrativa.
Medidas adotadas pelo STJ
As tentativas foram neutralizadas pelas camadas de segurança do sistema, mas passarão a ser registradas nos autos dos processos. O caso ganhou notoriedade após relatos na Justiça trabalhista, no TRT da 8ª Região, em maio.
O tribunal informou que continuará monitorando incidentes envolvendo IA, com apuração policial e administrativa em curso. A tendência é que novas informações sejam incorporadas aos procedimentos em andamento.
Entre na conversa da comunidade