Alucinação da IA

Uma alucinação é uma afirmação de um modelo de linguagem, feita com segurança e fluência, que não tem apoio em nenhuma fonte.

Há tribunais que sancionaram advogados por apresentarem peças com citações inventadas: a base de dados AI Hallucination Cases, mantida por Damien Charlotin em damiencharlotin.com, registava em outubro de 2026 mais de 2 200 decisões em todo o mundo, na maioria casos em que o tribunal concluiu ou deu a entender que uma parte se apoiou em conteúdo inventado pela IA, como acórdãos ou citações inexistentes. O risco não é teórico nem raro.

A defesa está na forma como a ferramenta é construída, não nas boas intenções. Se cada resposta indicar o documento de onde vem, uma afirmação sem fonte fica à vista, e quem revê vê de imediato que falta uma citação.

Ver também: Geração aumentada por recuperação (RAG), Proveniência

O Legalnaut constrói isto a partir dos autos do seu processo. Ver os planos.