{"id":911874,"date":"2026-06-11T07:09:00","date_gmt":"2026-06-11T10:09:00","guid":{"rendered":"https:\/\/www.portaltela.com\/politica\/2026\/06\/11\/cnj-aprova-medidas-para-proteger-ia-de-manipulacoes-em-processos\/"},"modified":"2026-06-11T07:09:00","modified_gmt":"2026-06-11T10:09:00","slug":"cnj-aprova-medidas-para-proteger-ia-de-manipulacoes-em-processos","status":"publish","type":"post","link":"https:\/\/staging.portaltela.com\/politica\/2026\/06\/11\/cnj-aprova-medidas-para-proteger-ia-de-manipulacoes-em-processos\/","title":{"rendered":"CNJ aprova medidas para proteger IA de manipula\u00e7\u00f5es em processos"},"content":{"rendered":"<p>O Conselho Nacional de Justi\u00e7a (CNJ) aprovou uma nota t\u00e9cnica para orientar tribunais sobre riscos de manipula\u00e7\u00e3o de sistemas de intelig\u00eancia artificial usados no Judici\u00e1rio. O documento foca em prevenir, detectar e responder a ataques de prompt injection, que envolvem comandos ocultos que podem interferir no funcionamento das ferramentas processuais.<\/p>\n<p>A nota foi instaurada de of\u00edcio e aprovada pelo Comit\u00ea Nacional de Intelig\u00eancia Artificial do Poder Judici\u00e1rio. O objetivo \u00e9 enfrentar vulnerabilidades associadas a tentativas de manipula\u00e7\u00e3o de IA ao analisar documentos, metadados e conte\u00fados de processos.<\/p>\n<p>Segundo o conselheiro relator Rodrigo Badar\u00f3, a expans\u00e3o do uso de IA nos tribunais elevou a relev\u00e2ncia do tema. Documentos aparentemente comuns podem esconder instru\u00e7\u00f5es voltadas ao sistema de processamento, n\u00e3o ao leitor humano.<\/p>\n<p>Em peti\u00e7\u00f5es, metadados ou arquivos digitais, conte\u00fados podem agir como vetores adversariais. Textos invis\u00edveis, metadados contaminados, bases de recupera\u00e7\u00e3o envenenadas e comandos em links foram citados como exemplos de risco.<\/p>\n<p>Casos recentes envolvendo o tema tamb\u00e9m s\u00e3o mencionados, incluindo epis\u00f3dios no TRT da 8\u00aa Regi\u00e3o com o sistema Galileu e situa\u00e7\u00f5es observadas pelo STJ. Tais ocorr\u00eancias refor\u00e7am a necessidade de controles.<\/p>\n<h3>Medidas propostas<\/h3>\n<p>A nota orienta pr\u00e1ticas para evitar, detectar e responder a incidentes, sem dificultar a inova\u00e7\u00e3o tecnol\u00f3gica. A governan\u00e7a humana deve estar apoiada por mecanismos de identifica\u00e7\u00e3o, isolamento e documenta\u00e7\u00e3o de tentativas de interfer\u00eancia.<\/p>\n<p>Documentos processuais, anexos, metadados e conte\u00fados extra\u00eddos devem ser tratados como dados potencialmente n\u00e3o confi\u00e1veis. S\u00e3o sugeridos ingest\u00e3o segura, segrega\u00e7\u00e3o de conte\u00fados suspeitos e rastreabilidade de opera\u00e7\u00f5es.<\/p>\n<p>Outros pilares incluem filtragem de sa\u00eddas, registros audit\u00e1veis e capacita\u00e7\u00e3o de magistrados e servidores. Protocolos de resposta a incidentes devem ficar estruturados para r\u00e1pida atua\u00e7\u00e3o.<\/p>\n<p>O CNJ ainda orienta que sistemas de sumariza\u00e7\u00e3o, classifica\u00e7\u00e3o e pesquisa assistida n\u00e3o apresentem respostas que pare\u00e7am decis\u00f5es judiciais. A ideia \u00e9 evitar confus\u00e3o entre IA e atos jurisdicionais.<\/p>\n<p>Ao final, o plen\u00e1rio aprovou a nota t\u00e9cnica e determinou ampla divulga\u00e7\u00e3o aos tribunais. O documento segue para ado\u00e7\u00e3o de provid\u00eancias administrativas pelos \u00f3rg\u00e3os t\u00e9cnicos competentes.<\/p>\n<p>Processo relacionado: 0004183-33.2026.2.00.0000. A decis\u00e3o completa tamb\u00e9m foi publicada pelos canais oficiais do CNJ.<\/p>\n","protected":false},"excerpt":{"rendered":"<ul>\n<li>O CNJ aprovou nota t\u00e9cnica para orientar tribunais sobre preven\u00e7\u00e3o, detec\u00e7\u00e3o e resposta a manipula\u00e7\u00f5es de sistemas de intelig\u00eancia artificial no Judici\u00e1rio, com foco em ataques de prompt injection.<\/li>\n<li>O objetivo \u00e9 proteger documentos processuais, anexos, metadados e textos extra\u00eddos de documentos digitalizados, que podem ser usados para interferir no funcionamento das ferramentas de IA.<\/li>\n<li>O relator, conselheiro Rodrigo Badar\u00f3, alertou que conte\u00fados aparentemente comuns podem ocultar instru\u00e7\u00f5es direcionadas ao sistema, citando exemplos como textos invis\u00edveis em peti\u00e7\u00f5es e metadados adversariais.<\/li>\n<li>A nota recomenda tratar dados processuais como potencialmente n\u00e3o confi\u00e1veis e estabelece medidas de ingest\u00e3o segura, segrega\u00e7\u00e3o de conte\u00fados suspeitos, rastreabilidade, registros audit\u00e1veis e protocolos de resposta a incidentes, al\u00e9m de capacitar magistrados e servidores.<\/li>\n<li>O plen\u00e1rio aprovou a medida e determinou ampla divulga\u00e7\u00e3o aos tribunais, com envio \u00e0s \u00e1reas t\u00e9cnicas competentes para ado\u00e7\u00e3o das provid\u00eancias administrativas.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":911899,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"CNJ aprova nota t\u00e9cnica para prevenir e detectar prompt injection em IA do Judici\u00e1rio, com diretrizes de governan\u00e7a, mitiga\u00e7\u00e3o e resposta a incidentes","footnotes":""},"categories":[10032],"tags":[91,105,101,31,189,128],"class_list":["post-911874","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-politica","tag-governo","tag-inteligencia-artificial","tag-pessoas","tag-politica","tag-tecnologia","tag-tribunal"],"_links":{"self":[{"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/posts\/911874","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/comments?post=911874"}],"version-history":[{"count":0,"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/posts\/911874\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/media\/911899"}],"wp:attachment":[{"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/media?parent=911874"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/categories?post=911874"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/staging.portaltela.com\/api\/wp\/v2\/tags?post=911874"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}