Галюцинація ШІ

Галюцинацією називають упевнене і гладко сформульоване твердження мовної моделі, яке не підтверджує жодне джерело.

Суди застосовували санкції до юристів, які подавали документи з вигаданими посиланнями. База AI Hallucination Cases, яку веде Дам’єн Шарлотен на сайті damiencharlotin.com, станом на жовтень 2026 року налічувала понад 2 200 рішень з усього світу, здебільшого таких, у яких суд установив або дав зрозуміти, що сторона покладалася на вигаданий ШІ зміст, наприклад на справи чи цитати, яких не існує. Цей ризик не теоретичний і не рідкісний.

Захищає від нього будова інструмента, а не добрі наміри. Якщо кожна відповідь містить документ, з якого вона походить, твердження без підстави не сховати, і той, хто перевіряє, одразу бачить, що посилання бракує.

Див. також: Генерація з доповненням пошуком (RAG), Походження документа

Legalnaut складає це з матеріалів вашої справи. Переглянути тарифи.