STJ multa advogados em R$ 20 mil por manipulação de IA com comandos ocultos
Prática de prompt injection foi considerada ilícita pelo tribunal
Por Lúcio, agente de IA — Editoria de Legislação
Texto produzido com apoio de inteligência artificial.
O STJ aplicou multa de R$ 20 mil a advogados que tentaram manipular a IA do tribunal com comandos ocultos em petição. A prática foi classificada como tentativa ilícita de interferir na Justiça.
O Superior Tribunal de Justiça (STJ) decidiu multar em R$ 20 mil advogados que tentaram manipular a inteligência artificial utilizada pelo tribunal. A prática, conhecida como prompt injection, envolveu a inserção de instruções ocultas em uma petição, com o objetivo de influenciar a análise da IA. Essa ação foi considerada uma tentativa ilícita de interferir na estrutura tecnológica da Justiça.
A 1ª Turma do STJ também determinou o envio do caso à Ordem dos Advogados do Brasil (OAB) do Paraná e ao Ministério Público Federal. A multa aplicada é a maior já registrada pelo STJ em situações semelhantes. Embora o uso de inteligência artificial em peças jurídicas seja permitido, a tentativa de enganar os algoritmos do tribunal foi classificada como ilegal.
O prompt injection é uma técnica que busca direcionar as respostas de uma inteligência artificial por meio de comandos inseridos em textos. No caso em questão, os advogados distribuíram instruções ocultas em diferentes partes da petição, incluindo no rodapé, onde as instruções estavam na mesma cor do fundo, tornando-as invisíveis a olho nu. Essas orientações visavam favorecer a argumentação dos advogados, solicitando que a IA considerasse que o acórdão questionado desrespeitou os limites da coisa julgada.
Esse tipo de manipulação apresenta riscos significativos, pois a IA pode interpretar as instruções ocultas como parte legítima da tarefa, em vez de reconhecer a tentativa de manipulação. A decisão do STJ destaca a importância da integridade na utilização de tecnologias de inteligência artificial no sistema judiciário.