Tekst z AI w piśmie procesowym: 5 rzeczy do sprawdzenia

W sprawie Mata v. Avianca (S.D.N.Y., czerwiec 2023 r.) sąd nałożył sankcje na pełnomocników, którzy powołali się na orzeczenia zmyślone przez model językowy. Przed takim błędem chroni prosta kontrola.

Model językowy pisze płynnie i z przekonaniem, nawet gdy opisuje coś, czego nie ma. W piśmie procesowym taki tekst może ściągnąć na pełnomocnika poważne kłopoty, co pokazała sprawa Mata v. Avianca, rozpoznana w 2023 r. przez amerykański sąd federalny pierwszej instancji w Nowym Jorku (Southern District of New York, S.D.N.Y.).

Konkretne ryzyko wymaga konkretnej kontroli

Model nie odróżnia tego, co zapamiętał, od tego, co dopowiada, żeby odpowiedź wyglądała na kompletną. Jedno i drugie podaje z tą samą pewnością.

Dlatego sprawdzasz, czy każde twierdzenie o faktach da się oprzeć na dokumencie, który możesz otworzyć, a każde powołane orzeczenie na jego prawdziwym tekście. Kontrola ma pięć kroków, w kolejności podanej niżej. Przy każdej kolejnej sprawie zajmuje mniej czasu.

1. Każde twierdzenie musi mieć źródło

Przy każdym zdaniu, które stwierdza fakt, zapytaj, na czym się opiera. Fragment bez źródła to tylko hipoteza. Popraw go albo usuń.

Ma też znaczenie, czy narzędzie wskazuje źródła już podczas pisania, czy szuka ich dopiero na końcu. Narzędzie, które dobiera źródło dopiero po napisaniu tekstu, wskaże dokument najlepiej do niego pasujący, a niekoniecznie ten, z którego twierdzenie pochodzi.

2. Otwórz źródło, nie poprzestawaj na odesłaniu

Odesłanie może wyglądać poprawnie, a mimo to prowadzić donikąd. Otwórz dokument. Sprawdź, czy istnieje, czy rzeczywiście zawiera to, co przypisuje mu tekst, i czy to właściwy dokument, a nie inny, podobny.

Przy dokumentach z akt pomaga suma kontrolna. Potwierdza, że masz przed sobą ten sam plik, niezmieniony od chwili, gdy trafił do akt. Orzeczeń i przepisów, na które powołuje się tekst, nie da się tak sprawdzić. Trzeba je odszukać i przeczytać.

3. Cytat musi się zgadzać co do znaku

Porównaj cytowany tekst z oryginałem znak po znaku. Model potrafi sparafrazować fragment i zostawić cudzysłów. To najgroźniejszy błąd z tej listy, bo przy pobieżnej lekturze łatwo go przeoczyć.

Podobna pułapka czeka w aktach wielojęzycznych. Cytat przetłumaczony na język pisma przestaje być cytatem. Przytocz oryginał, a obok podaj tłumaczenie i zaznacz, kto je sporządził. Sąd może zażądać, by dokument w języku obcym przełożył tłumacz przysięgły (art. 256 Kodeksu postępowania cywilnego).

4. Sprawdź osobno każdą datę i każdą liczbę

Model myli daty. Kwoty bywają zaokrąglone, mają przestawione cyfry albo zostają przypisane niewłaściwej stronie sporu. Pełnomocnik strony przeciwnej chętnie wytknie każdy taki błąd, a daty i kwoty sprawdzisz szybko w źródle, które i tak masz otwarte od drugiego kroku.

5. Usuń to, o co nikt nie prosił

Model lubi dopisywać. Prosisz o streszczenie trzech dokumentów, a dostajesz także czwarty punkt, który dobrze brzmi, ale nie ma oparcia w żadnym z nich. Wszystko, czego w pierwszym kroku nie udało się powiązać z dokumentem, usuwasz, nawet jeśli to najlepiej brzmiący fragment całego tekstu.

Kontrola powinna być częścią narzędzia

Jeśli procedura zależy od tego, czy ktoś późnym wieczorem zachowa czujność, prędzej czy później zostanie pominięta.

Legalnaut przy każdym twierdzeniu, które napisało AI, wskazuje źródło, a projekty pism przygotowane z pomocą AI oznacza jako wymagające weryfikacji. Twierdzenie, którego nie udało się powiązać ze źródłem, jest wyraźnie oznaczone, a żaden projekt nie dostaje statusu gotowego. Weryfikacja nadal należy do prawnika, ale wszystko, czego do niej potrzebuje, ma już pod ręką.

Zdarza się, że twierdzenie, które przeszło pierwszy krok, przeczy innym dokumentom w aktach. Co wtedy zrobić, opisujemy w tekście o tym, jak znaleźć sprzeczności w zeznaniach świadków.

Załóż konto i porównaj projekt pisma przygotowany przez AI z dokumentami, na które się powołuje. Bez podawania karty płatniczej.

Legalnaut zestawia każde twierdzenie z dokumentami, które mu przeczą. Źródło twierdzenia i dokument, który mu przeczy, otworzysz jednym kliknięciem, na właściwej stronie. Zobacz sprzeczności w sprawie demo, bez zakładania konta albo wypróbuj Legalnaut za darmo przez 14 dni na własnych aktach.