STJ investiga uso de “prompt injection” para manipular IA em processos judiciais

O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de um inquérito e um procedimento administrativo para apurar o uso de “prompt injection” (injeção de comando) – uma técnica usada para tentar manipular a inteligência artificial (IA) .

O foco da investigação é descobrir se houve tentativa de fraude processual. Serão tomados depoimentos de advogados e escritórios envolvidos.

De R$ 299,90 por R$ 118,65: Economize mais de R$ 180 no Kit Furadeira Profissional com Maleta

O que é “prompt injection”

O que diz o STJ

A decisão foi tomada pela Presidência do STJ após técnicos do tribunal identificarem um acervo de processos com essa técnica.

O presidente do STJ, ministro Herman Benjamin, afirmou:

“O STJ Logos (sistema de IA generativa elaborado pela corte) já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos.”

Pela metade do preço: Garanta o Localizador de Objetos nº 1 em vendas por R$ 39,98

Segurança do sistema

De acordo com o STJ, mesmo que o sistema receba petições com as injeções de comando ocultas, camadas de segurança e integridade impedem que essas ordens maliciosas sejam executadas.

São pelo menos três camadas de segurança para garantir que eventuais diretrizes externas não sobreponham as regras centrais do sistema do STJ.

Denúncias

Segundo a TV Globo, um grupo de advogados de Brasília esteve no gabinete de quatro ministros do STJ nesta semana para denunciar 11 processos que foram julgados pela Corte e que teriam indícios de uso de prompt injection.

Os casos são criminais e de quatro estados:

• Mato Grosso do Sul

• São Paulo

• Minas Gerais

• Distrito Federal

Os advogados entregaram petições indicando as páginas e os processos para que o tribunal abra uma investigação. Os casos também foram denunciados ao Conselho Nacional de Justiça (CNJ) .

Casos em outras instâncias

Os casos de prompt injection não estão restritos ao STJ. Recentemente, chamou atenção um processo identificado na 3ª Vara do Trabalho de Parauapebas (PA) , quando tentaram manipular a ferramenta de IA do Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-RS) .

O CNJ já recomendou o uso de um banco nacional de prompts para tentar reduzir vulnerabilidades decorrentes dessa prática.

Economize mais de R$ 240 no Tablet Positivo Vision Tab 7 do Stitch com desconto exclusivo