Por que a IA inventa jurisprudência: a explicação técnica, sem misticismo
Estudo do Stanford RegLab e do Stanford HAI mediu ferramentas jurídicas comerciais com busca em base real e ainda assim encontrou alucinação em mais de 17% das consultas na Lexis+ AI e em mais de 34% na Westlaw AI-Assisted Research. O motivo não é misterioso: o modelo é premiado por responder e não por admitir que não sabe.
Por que a IA inventa jurisprudência?
Porque um modelo de linguagem não consulta um banco de precedentes para responder. Ele calcula qual sequência de palavras é mais provável depois da sequência que já existe. Quando o texto anterior é "conforme decidiu o Superior Tribunal de Justiça no REsp", a continuação estatisticamente mais provável é um número de recurso especial com formato válido, um relator plausível e uma ementa com vocabulário de ementa. Nada nesse processo consulta se aquele recurso existe.
É por isso que a citação inventada quase sempre tem aparência impecável. O modelo aprendeu com precisão o formato da citação jurídica, que é altamente padronizado e se repete milhões de vezes no material de treino. O conteúdo, que é o vínculo entre aquele número e aquela decisão específica, é justamente a parte que não tem padrão aprendível.
O que é, tecnicamente, uma alucinação?
O estudo do Stanford RegLab e do Stanford HAI publicado em maio de 2024, assinado por Varun Magesh, Faiz Surani, Matthew Dahl, Mirac Suzgun, Christopher D. Manning e Daniel E. Ho, trabalha com duas categorias, e a distinção importa muito para quem revisa peça.
- Resposta incorreta: o sistema descreve a lei de forma errada ou comete erro factual sobre o caso.
- Resposta desconectada: o sistema descreve a lei corretamente, mas cita uma fonte que não sustenta aquilo que ele afirmou.
A segunda categoria é a mais perigosa no cotidiano, porque sobrevive à conferência superficial. O advogado clica no link, o acórdão existe, o tribunal é o que foi indicado, e a tese atribuída àquele acórdão simplesmente não está lá. Conferir se o precedente existe é fácil. Conferir se ele diz o que a máquina afirmou que ele diz exige ler o inteiro teor.
Por que o modelo não diz que não sabe?
Essa é a parte que mais desmonta o misticismo em torno do assunto. Um trabalho de Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala e Edwin Zhang, publicado como preprint em setembro de 2025 e depois na Nature em abril de 2026, sustenta que a alucinação persiste porque os procedimentos de treino e de avaliação recompensam o chute em vez da admissão de incerteza.
A analogia usada pelos autores é a do estudante em prova de múltipla escolha. Se a nota conta acerto e não desconta erro, chutar é a estratégia dominante: quem chuta em tudo pontua mais do que quem deixa em branco o que não sabe. Os benchmarks que ranqueiam modelos funcionam desse jeito na maioria dos casos, medindo acurácia bruta. O resultado é previsível: modelos são otimizados para serem bons candidatos de prova, não para serem fontes prudentes.
"Métricas padrão como acurácia recompensam predominantemente respostas corretas, mas frequentemente não penalizam as incorretas com severidade suficiente, incentivando o modelo a adivinhar em vez de expressar incerteza." Kalai, Nachum, Vempala e Zhang, Nature, abril de 2026
Há ainda um agravante específico do uso jurídico, apontado em outro trabalho do mesmo grupo de Stanford, de janeiro de 2024: o viés contrafactual. Os modelos tendem a assumir como verdadeira a premissa factual embutida na pergunta, mesmo quando ela é falsa. Traduzindo para a rotina do escritório: se você pergunta "quais são os precedentes do STJ que garantem tal direito", o sistema entende que esses precedentes existem e passa a produzi-los. A pergunta enviesada fabrica a resposta enviesada.
Ferramenta jurídica com busca resolve o problema?
Reduz, mas não elimina. Foi exatamente isso que o estudo de Stanford de maio de 2024 mediu, ao testar produtos comerciais que usam geração aumentada por recuperação, a técnica conhecida como RAG, em que o sistema busca documentos reais antes de escrever a resposta.
| Sistema | Taxa de alucinação medida |
|---|---|
| Lexis+ AI (LexisNexis) | mais de 17% |
| Ask Practical Law AI (Thomson Reuters) | mais de 17% |
| Westlaw AI-Assisted Research (Thomson Reuters) | mais de 34% |
| Modelos de propósito geral, sem busca | 58% a 82% |
A leitura correta desses números tem dois lados. O RAG melhora muito o resultado em relação a perguntar direto a um modelo genérico. E uma em cada seis respostas com problema ainda é um índice inaceitável para quem vai assinar a peça. O sistema busca documentos reais, mas a etapa seguinte, em que o modelo redige a síntese, continua sendo geração de texto provável, e é nela que a fonte real passa a sustentar uma afirmação que ela não faz.
O que reduz o risco na prática
- Perguntar de forma neutra. "Existe precedente sobre X" produz resultado mais confiável que "quais são os precedentes que garantem X".
- Tratar toda citação como não verificada até abrir o inteiro teor na base oficial do tribunal, não no resumo entregue pela ferramenta.
- Conferir três eixos de cada citação: número do processo, órgão julgador e período de atuação do relator apontado. Data posterior à aposentadoria de um ministro é um erro recorrente e trivial de detectar.
- Desconfiar especialmente da resposta bem escrita. Fluência é o que o modelo otimiza, e não é sinal de correção.
- Usar a ferramenta para o que ela faz bem: resumir documento que você forneceu, organizar cronologia, propor estrutura de argumento. O risco cresce quando ela precisa recuperar um fato do mundo.
Leitura crítica
A palavra alucinação faz um estrago de comunicação porque sugere um defeito, uma falha ocasional de um sistema que em condições normais saberia a verdade. Não é o caso. Produzir texto plausível é a função do modelo, e a citação inventada é essa função operando exatamente como projetada, aplicada a um domínio onde plausível não basta.
Isso muda o desenho da solução. Se fosse defeito, bastaria esperar a próxima versão. Sendo funcionamento, a correção precisa vir de fora: verificação obrigatória, restrição de uso e responsabilidade humana explícita. O trabalho publicado na Nature, aliás, aponta o caminho técnico com honestidade incomum para material vindo de fabricante, ao dizer que a solução passa por mudar a régua de pontuação dos benchmarks existentes, penalizando o erro em vez de premiar o volume de respostas.
Enquanto isso não acontece de forma generalizada, vale reter o ponto de partida: nenhuma dessas ferramentas afirma saber quando está errada. E um sistema que não sabe quando erra não pode ser a última etapa de conferência de nada que vá ao processo.