AI-tekst in een processtuk: 5 controles voordat u indient

In Mata v. Avianca (S.D.N.Y., juni 2023) kregen advocaten een sanctie omdat zij uitspraken aanhaalden die een taalmodel had verzonnen. Wat daartegen beschermt, is een vaste controle.

Een taalmodel schrijft vlot en zelfverzekerd, ook als het iets beschrijft dat niet bestaat. In een processtuk wordt dat een probleem voor de advocaat, zoals Mata v. Avianca liet zien, een zaak uit 2023 bij de Amerikaanse federale rechter in New York (Southern District of New York, S.D.N.Y.).

Het risico is concreet, de controle kan dat ook zijn

Een taalmodel maakt geen onderscheid tussen wat het zich herinnert en wat het in elkaar zet omdat het in de vorm van het antwoord past. Beide komen er even zelfverzekerd uit.

De nuttige controle is dus of elke feitelijke bewering te herleiden is tot een document dat u kunt openen. Voor een advocaat is dat geen formaliteit: partijen moeten de feiten die voor de beslissing van belang zijn volledig en naar waarheid aanvoeren (art. 21 Rv). De controle bestaat uit vijf stappen, in deze volgorde, en met wat oefening gaat ze steeds sneller.

1. Elke bewering noemt een bron

Neem elke zin die een feit stelt en vraag waar die op steunt. Een passage zonder bron is een hypothese. Laat haar herschrijven of schrap haar.

Daarom maakt het uit of uw hulpmiddel de bronnen vastlegt terwijl het schrijft, of pas achteraf aanbiedt ze te zoeken. Een bron die achteraf wordt gezocht, hangt aan het document dat het best lijkt te passen. Dat is iets anders dan het document waaruit de bewering komt.

2. Open de bron, vertrouw niet op het etiket

Een verwijzing die er goed uitziet, is nog geen verwijzing die klopt. Open het document. Ga na dat het bestaat, dat het zegt wat de passage eraan toeschrijft, en dat het het document is dat u bedoelt en niet een vergelijkbaar stuk.

Bij stukken uit het dossier maakt een controlewaarde (hash) dit eenvoudig: het is aantoonbaar hetzelfde document, ongewijzigd sinds het in het dossier kwam. Voor aangehaalde uitspraken en literatuur bestaat die snelweg niet. Zoek ze op en lees ze.

3. Een citaat is letterlijk, of het is geen citaat

Vergelijk geciteerde tekst teken voor teken met het origineel. Een taalmodel parafraseert en laat de aanhalingstekens staan. Dat is de gevaarlijkste fout op deze lijst, omdat ze een vluchtige lezing overleeft.

Een verwante valkuil in meertalige dossiers: een citaat dat naar de taal van het processtuk is vertaald, is geen citaat meer. Citeer het origineel en zet de vertaling ernaast, met de vermelding wie die heeft gemaakt.

4. Data en bedragen, elk afzonderlijk

Data verschuiven. Bedragen worden afgerond, cijfers omgedraaid of aan de verkeerde partij toegeschreven. Juist zulke fouten vindt de wederpartij graag, en u controleert ze snel in de bron die u sinds stap 2 toch al open hebt.

5. Schrap wat niemand vroeg

Een taalmodel vult ruimte. Vraagt u een samenvatting van drie documenten, dan krijgt u misschien een vierde punt dat goed leest en nergens op steunt. Alles wat in stap 1 niet tot een document te herleiden was, gaat eruit, hoe goed het ook klinkt.

Bouw de controle in het hulpmiddel in

Een werkwijze die erop rekent dat iemand laat op de avond nog scherp is, wordt vroeg of laat overgeslagen.

Legalnaut vermeldt bij elke gegenereerde bewering de bron, en elk concept dat met AI is opgesteld, draagt het woord ‘werkversie’. Een bewering zonder bron valt dus direct op, en niets verlaat het systeem met het etiket ‘af’. De controle blijft het werk van een advocaat. Het verschil is dat alles wat u voor die controle nodig hebt, er al bij zit.

Beweringen die stap 1 doorstaan, spreken soms andere documenten in het dossier tegen. Wat u daarmee doet, leest u in tegenstrijdigheden in getuigenverklaringen opsporen.

Maak een account aan en leg een AI-concept naast de documenten waarop het zegt te steunen. Geen creditcard nodig.