Alucinación de la IA

Una alucinación es una afirmación segura y bien redactada de un modelo de lenguaje que no está respaldada por ninguna fuente.

Hay tribunales que han sancionado a abogados por presentar escritos con citas inventadas: la base de datos AI Hallucination Cases, que mantiene Damien Charlotin en damiencharlotin.com, recogía en octubre de 2026 más de 2200 resoluciones de todo el mundo, la mayoría de ellas casos en los que el tribunal constató o dio a entender que una parte se había basado en contenido inventado por la IA, como sentencias o citas inexistentes. El riesgo no es teórico ni infrecuente.

La protección está en el diseño de la herramienta, no en las buenas intenciones. Si cada respuesta lleva el documento del que procede, una afirmación sin respaldo no pasa desapercibida, y quien revisa ve enseguida que falta una cita.

Véase también: Generación aumentada por recuperación (RAG), Procedencia del documento

Legalnaut lo elabora a partir de tu propio expediente. Ver los planes.