Halucynacja AI

Halucynacja to stanowczo i płynnie sformułowane stwierdzenie modelu językowego, którego nie potwierdza żadne źródło.

Baza AI Hallucination Cases, prowadzona przez Damiena Charlotina w serwisie damiencharlotin.com, w październiku 2026 r. obejmowała ponad 2 200 rozstrzygnięć z całego świata, w większości takich, w których sąd stwierdził albo dał do zrozumienia, że w sprawie powołano się na treści wymyślone przez AI, na przykład nieistniejące orzeczenia lub cytaty. W części z nich na pełnomocników nałożono sankcje. To ryzyko nie jest ani teoretyczne, ani rzadkie.

Ochronę daje konstrukcja narzędzia, a nie dobre chęci. Jeśli przy każdej odpowiedzi widać dokument, z którego pochodzi, twierdzenia bez podstawy nie da się ukryć, a osoba sprawdzająca od razu widzi, że brakuje źródła.

Zobacz też: Generowanie wspomagane wyszukiwaniem (RAG), Pochodzenie dokumentu

Zobacz, jak Legalnaut pracuje na aktach Twojej sprawy. Zobacz plany.