O caso envolve duas advogadas no Par\u00e1 que tentaram comprometer a atua\u00e7\u00e3o de uma intelig\u00eancia artificial utilizada pela Justi\u00e7a. O epis\u00f3dio ocorreu durante atua\u00e7\u00e3o no Tribunal Regional do Trabalho da 8\u00aa Regi\u00e3o (TRT-8) e resultou em medidas disciplinares, incluindo multa.<\/p>\n
As advogadas Alcina Medeiros e Luanna Alves inseriram em uma peti\u00e7\u00e3o um texto que, segundo o juiz, visava orientar a IA a analisar o documento de forma superficial. A pr\u00e1tica \u00e9 associada \u00e0 t\u00e9cnica conhecida como prompt injection, ou inje\u00e7\u00e3o de comandos.<\/p>\n
O caso foi descoberto pelo juiz do trabalho Luis Carlos de Araujo Santos J\u00fanior, em Parauapebas, no Par\u00e1. Ele aplicou multa de 84,2 mil reais e classificou a conduta como um ato contra a dignidade da Justi\u00e7a. A a\u00e7\u00e3o n\u00e3o teve conclus\u00e3o favor\u00e1vel \u00e0s advogadas.<\/p>\n
A IA envolvida \u00e9 o Galileu, sistema utilizado pela Justi\u00e7a do Trabalho. Segundo o TRT-8, o objetivo era for\u00e7ar respostas rasas da ferramenta, que poderiam prejudicar a defesa ou a avalia\u00e7\u00e3o de documentos.<\/p>\n
Em nota, as advogadas afirmaram que v\u00e3o recorrer da decis\u00e3o e contestaram a exist\u00eancia de comandos para manipular a decis\u00e3o judicial, alegando apenas buscar proteger o cliente da IA. O tribunal informou que a detec\u00e7\u00e3o ocorreu por meio de verifica\u00e7\u00e3o humana ap\u00f3s o alerta do assistente.<\/p>\n
O Galileu detectou o conte\u00fado oculto ao processar o documento, acionando o sistema de alerta utilizado pelo TRT. O TRT-4 afirmou ter adotado medidas ap\u00f3s confirma\u00e7\u00e3o humana, sem que fossem propostas mudan\u00e7as no andamento do processo.<\/p>\n
A inje\u00e7\u00e3o de comandos \u00e9 uma t\u00e9cnica maliciosa para manipular respostas de IA, buscando a\u00e7\u00f5es indevidas ou redu\u00e7\u00e3o de checagens de seguran\u00e7a. O caso Par\u00e1 \u00e9 citado como exemplo de tentativa de manipula\u00e7\u00e3o de an\u00e1lise de documentos.<\/p>\n
Casos de ataque via prompt injection j\u00e1 apareceram em ciberseguran\u00e7a desde 2022, quando pesquisadores mostraram vulnerabilidades em grandes modelos de linguagem. A pr\u00e1tica continua sendo tema de alerta para institui\u00e7\u00f5es que usam IA.<\/p>\n","protected":false},"excerpt":{"rendered":"