Código Oculto, Justiça Exposta: por que a resposta do STJ ao prompt injection importa para a advocacia negra

Nas últimas semanas, o Superior Tribunal de Justiça virou notícia por um motivo que parece saído de ficção científica, mas é muito concreto: técnicos da Corte identificaram petições contendo comandos ocultos voltados ao STJ Logos, sistema de inteligência artificial desenvolvido pelo próprio tribunal e lançado em fevereiro de 2025.

A prática tem nome: prompt injection. E o uso desse recurso reflete o momento que Judiciário brasileiro atravessa de forma aterradora.

Explicar o que é prompt injection exige sair do juridiquês. Trata-se de inserir instruções que passam despercebidas ao olho humano em documentos judiciais para tentar influenciar respostas geradas por ferramentas de IA.  

O objetivo seria fazer com que a plataforma ignorasse critérios obrigatórios de admissibilidade e aceitasse documentos que, em condições normais, poderiam ser rejeitados automaticamente.  

O contexto

Pelo menos onze processos já apresentaram indícios do uso da técnica. Todos da área criminal, envolvendo ações originárias de Mato Grosso do Sul, São Paulo, Minas Gerais e Distrito Federal.  

Quem utilizou essa técnica para obter vantagem processual indevida agiu contra os princípios mais básicos da boa-fé e da ética na advocacia, e precisa responder por isso. Mas seria um erro deixar que a indignação legítima com essas condutas encerrasse o debate apenas na dimensão da segurança cibernética. Esse caso abre uma janela muito maior.

A incorporação da inteligência artificial no sistema de justiça brasileiro já é um fato consumado, alimentado por uma narrativa de eficiência e desburocratização. Raramente, porém, se pergunta: eficiência para quem?

O Aqualtune Lab, coletivo jurídico dedicado à intersecção entre tecnologia, raça e direito, já respondeu essa pergunta com precisão: a tecnologia não é neutra. O algoritmo, quando criado, segue padrões ligados a posições de poder relacionadas, sobretudo, com homens brancos. E, no caso da população negra, o retrato reproduz características da servidão e da subalternidade.

Não é retórica. É a descrição de como os dados que alimentam os sistemas de IA carregam dentro de si o peso de hierarquias históricas que o Brasil ainda não resolveu.

As consequências

Esse descompasso tem consequências práticas para advogadas e advogados negros. Somam-se agora aos obstáculos já conhecidos a necessidade de dominar sistemas algorítmicos, compreender triagens automatizadas dos tribunais e adaptar a prática profissional a um ambiente cada vez mais mediado por máquinas.

Escritórios bem estruturados e com recursos para investir em tecnologia terão vantagens competitivas que não existiam quando o processo era físico. Para jurisdicionados vulnerabilizados, um Judiciário mais automatizado pode significar menos pontos de contato humano, menos espaço para a narrativa que não cabe no formulário digital e menos tolerância para a documentação incompleta que reflete não falta de boa-fé, mas desigualdade estrutural de acesso ao sistema.

Um posicionamento

A FJUNN (Frente de Juristas Negras e Negros) e o Aqualtune Lab insistem que é necessário compreender, por meio de um olhar jurídico e multidisciplinar, as intersecções entre tecnologia e raça, descortinando as armadilhas do racismo como estruturantes das relações de saber e poder no Brasil. Esse é um chamado metodológico: qualquer análise de impacto da IA no sistema de justiça precisa considerar quem são os corpos que esse sistema historicamente acolheu e quem são os que ele historicamente expulsou.

O caso do STJ não pode servir apenas como pretexto para aprimorar camadas de segurança. A pergunta mais urgente não é como proteger a IA dos advogados mal-intencionados, mas como garantir que ela não opere sobre a população sem controle social, sem transparência e sem diversidade nos seus processos de desenvolvimento.

Regulação da IA no sistema de justiça não pode ser uma conversa restrita a magistrados, desenvolvedores e gestores de TI. Ela precisa incluir a sociedade civil, o movimento negro organizado e as advogadas e advogados que atuam nas periferias. O letramento digital precisa ser tratado como condição de cidadania. A transparência algorítmica precisa ser exigida dos sistemas judiciais da mesma forma que se exige fundamentação das decisões humanas.

O prompt injection revelou que há quem tente manipular o sistema por dentro. O que ainda precisamos garantir é que o próprio sistema, com toda sua automação e inteligência artificial, não esteja, sem intenção declarada, fazendo o mesmo.

*Artigo por Ana Carolina Lima, codiretora executiva do Aqualtune Lab.

Leia mais: A Máscara Negra da Desinformação