O Conselho Nacional de Justi\u00e7a (CNJ) aprovou uma orienta\u00e7\u00e3o t\u00e9cnica para magistrados combater a pr\u00e1tica de intelig\u00eancia artificial conhecida como prompt injection. A decis\u00e3o ocorreu na sess\u00e3o desta ter\u00e7a-feira (9). O objetivo \u00e9 fortalecer a seguran\u00e7a da informa\u00e7\u00e3o diante de usos indevidos de IA em peti\u00e7\u00f5es.<\/p>\n
A nota t\u00e9cnica ser\u00e1 enviada a todos os tribunais e aos \u00f3rg\u00e3os conectados ao CNJ. O relator, conselheiro Rodrigo Badar\u00f3, afirmou que a seguran\u00e7a adversarial de sistemas de IA deve ser tratada como parte essencial da prote\u00e7\u00e3o de dados e da confian\u00e7a na Justi\u00e7a. A orienta\u00e7\u00e3o n\u00e3o impede futuras normas.<\/p>\n
—<\/p>\n
Para a IA, qualquer trecho de texto pode ser lido, independentemente da cor ou do layout do documento. Advogados v\u00eam inserindo instru\u00e7\u00f5es ocultas para orientar a IA a agir em favor de uma das partes, mesmo sem transpar\u00eancia no conte\u00fado.<\/p>\n
Um modelo utilizado em peti\u00e7\u00f5es pode, por exemplo, pedir que a IA contra-argumente superficialmente ou n\u00e3o impugne documentos anexados. Esses comandos s\u00e3o inseridos de forma impercept\u00edvel e podem distorcer a atua\u00e7\u00e3o da ferramenta.<\/p>\n
Casos j\u00e1 identificados resultaram em puni\u00e7\u00f5es. Em Par\u00e1, uma advogada teve registro suspenso e multa por ind\u00edcios de comando oculto semelhante. Em Minas Gerais, o autor da a\u00e7\u00e3o foi multado em mais de R$ 8 mil ap\u00f3s a inser\u00e7\u00e3o de ordens ocultas para dificultar resumos autom\u00e1ticos.<\/p>\n
No estado de S\u00e3o Paulo, o TJSP detectou a pr\u00e1tica em processos da comarca de Campinas. Um advogado usava um comando repetido que levou \u00e0 aplica\u00e7\u00e3o de multa de 10 sal\u00e1rios m\u00ednimos e envio do caso \u00e0 OAB.<\/p>\n
O documento avalia que o prompt injection n\u00e3o \u00e9 apenas risco te\u00f3rico, mas uma amea\u00e7a pr\u00e1tica aos modelos de linguagem de grande porte. A manipula\u00e7\u00e3o pode distorcer resumos, omitir argumentos relevantes ou favorecer uma tese espec\u00edfica.<\/p>\n
A nota ressalta a necessidade de governan\u00e7a de IA, com integra\u00e7\u00e3o entre seguran\u00e7a da informa\u00e7\u00e3o e prote\u00e7\u00e3o de dados, para preservar a integridade processual e a confiabilidade institucional. O tema \u00e9 visto como interdisciplinar.<\/p>\n
Entre as a\u00e7\u00f5es propostas est\u00e3o: diagn\u00f3stico de vulnerabilidades com a plataforma utilizada, protocolos de testes em documentos e imagens, e exig\u00eancia de mecanismos de seguran\u00e7a em licita\u00e7\u00f5es de ferramentas de IA para tribunais.<\/p>\n
A orienta\u00e7\u00e3o tamb\u00e9m sugere incluir o prompt injection no rol de eventos do Protocolo de Preven\u00e7\u00e3o a Incidentes Cibern\u00e9ticos do Judici\u00e1rio, emiss\u00e3o de certificados nos autos quando comandos ocultos forem detectados e a capacita\u00e7\u00e3o de magistrados e servidores para identificar manipula\u00e7\u00f5es por IA.<\/p>\n","protected":false},"excerpt":{"rendered":"