AI-modellen kunnen niet denken als mensen, maar verzamelen grote hoeveelheden informatie en voeren daar berekeningen op uit. Een menselijk denkproces is dan ook per definitie fundamenteel anders van aard dan een computergestuurd proces zoals in AI-modellen.
Gijs van Dijck ziet echter in zijn wetenschappelijke onderzoek naar AI-modellen een opmerkelijke trend: die modellen worden de laatste maanden steeds beter in staat om de uitkomsten van menselijke denkprocessen te benaderen. Het verschil tussen resultaten van een menselijk denkproces, bestaande uit overwegen, redeneren en beargumenteren, en die van een computergestuurd proces, bestaande uit data-analyse en berekenen, wordt daarom steeds diffuser.
Over AI-gebruik door juristen wordt weleens gezegd: je moet als jurist wel begrijpen hoe het systeem tot output komt, dus wat er ‘onder de motorkap’ gebeurt. In hoeverre bent u het daarmee eens?
“Niet, want net als dat je bij een auto niet hoeft te begrijpen wat er onder de motorkap gebeurt om de auto te kunnen gebruiken, hoef je ook in een juridische context niet de onderliggende technologie te begrijpen. Dit inzicht is overigens niet nieuw. Ik betwijfel of veel juristen begrijpen hoe de zoekmachine van uitspraken.rechtspraak.nl, de spellingcontrole van Word, of e-mail werkt; AI is breder dan generatieve AI zoals ChatGPT. Je moet de uitkomsten kunnen beoordelen: stuurt de auto naar links als je naar links stuurt, komt een e-mail aan, toont de zoekmachine relevante rechtspraak?
Wel, want om te weten waar je AI mee moet voeden, helpt het om te weten hoe AI informatie verwerkt. Je kunt een heel goede juridische vraag stellen, maar als je die niet goed weet om te zetten in een zoekopdracht die machines begrijpen, zullen de zoekresultaten tegenvallen. In die zin kan generatieve AI juristen verblinden. Dat je een vraag in normale (juristen-)taal kunt stellen aan ChatGPT, Gemini of Claude, betekent niet dat die zoekmachine gaat zoeken zoals je zou hopen of verwachten.”
Uw huidige inzicht rondom AI-modellen is dat ze steeds beter in staat zijn om uitkomsten van een menselijk denkproces te benaderen. Waaruit maakt u dat op?
“Simpel gezegd: AI-modellen rekenen, mensen kunnen meer dan dat. AI-modellen zijn wel steeds beter in staat om uitkomsten (zoals relevante wetgeving of rechtspraak, argumenten voor en tegen, perspectieven, strategieën) te benaderen. Als er maar genoeg trainingsdata is. Het gevolg hiervan is dat de uitkomsten van processen waarvan we altijd dachten dat die exclusief zijn voorbehouden aan mensen, door AI kan worden benaderd. Het geeft niet alleen relevante rechtspraak, maar ook argumenten waar de ander mee kan komen, hoe een rechter zou kunnen reageren en hoe daarop kan worden gereageerd.
Ik maak dat op uit onderzoek en inmiddels ook mijn onderwijs. In het goederen- en verbintenissenrechtelijk onderwijs dat ik de afgelopen maanden verzorgde, ben ik gaan testen of AI de opdrachten die we aan onze studenten geven kan beantwoorden of oplossen. In een enkel geval scoort mijn AI een 6,5 of 7. Meestal scoort ‘ie een 10.”
Over AI-modellen wordt vaak gezegd dat ze objectief zijn, omdat ze het gemiddelde van alle beschikbare data nemen. Anderzijds is er ook weer de vrees voor ‘gestuurde’ AI-systemen, die door de makers subjectief zijn geprogrammeerd. Hoe ziet u de discussie rondom de objectiviteit van AI-modellen?
“Objectief en subjectief zijn begrippen waar ik niet goed mee uit de voeten kan. Ik heb het liever over de kwaliteit van de data, of AI goed discrimineert (als in: onderscheiden) en waar we dit wensen. AI moet onderscheiden: meer relevant van minder relevant, grote versus kleine impact op een uitkomst, enzovoorts. Of AI dat kan, hangt niet alleen af van het model, maar in de eerste plaats van de data. Als je probeert te voorspellen of een ouder zijn/haar kind gaat mishandelen, moet je concluderen dat er helemaal geen data voorhanden is die hier iets zinvols over zegt. Dan kun je AI gaan trainen, maar die gaat dat probleem niet oplossen. En zelfs als er data zijn, moet je je de vraag stellen wat je wil meten en wat je werkelijk meet: als je kijkt naar waar iemand woont om crimineel gedrag te voorspellen, voorspel je dan criminaliteit of meet je eigenlijk sociaaleconomische status of etnische afkomst?”
Welke vaardigheid is voor juridische professionals wat u betreft het belangrijkst om te ontwikkelen om, nu en in de toekomst, zo goed en betrouwbaar mogelijk om te kunnen gaan met AI-modellen in juridische context?
“Goede vragen stellen en uitkomsten evalueren. De tussenstappen zijn al minder relevant geworden door de ontwikkelingen in AI.”
Wat betekent dat in uw ogen voor het juridische onderwijs van vandaag de dag?
“Dat veel op de schop moet. Ik verwacht dat het zwaartepunt van de vaardigheden gaat verschuiven naar het stellen van de juiste vragen en het evalueren van uitkomsten van AI. Voor beide onderdelen is op dit moment nauwelijks aandacht op de meeste opleidingen.”
Wat is het meest hardnekkige misverstand over legal AI dat u graag uit de wereld zou helpen?
“Dat AI zelflerend is. Dat kan, maar hoeft helemaal niet. En dat legal AI iets magisch is. Veel software toont allerlei teksten zoals “reading…”, “thinking…” en “drafting…”. Het is uiteindelijk gewoon maar een stukje technologie, net als de rekenmachine en de auto.”
Welke recente trend of gebeurtenis op AI-gebied in juridische context heeft u verrast?
“Je kunt sinds kort op een vrij intuïtieve wijze indrukwekkende dingen doen. Je schrijft bijvoorbeeld uit dat je automatisch op de hoogte wil worden gehouden van de laatste ontwikkelingen op het gebied van regulering van de digitale wereld. De machine maakt vervolgens allemaal werkertjes (‘agents’) die er automatisch sub-taken van maken, en geeft je overzichten terug. Enkele weken geleden kwam daar nog bij dat je zogenaamde ‘wiki’s’ kunt maken. Zie het als een spinnenweb waarbij er bij iedere zoekopdracht meer of andere verbindingen worden gemaakt. Dit heeft enorm potentieel voor de kwaliteit van zoekresultaten.”
Is er ook een ontwikkeling op het gebied van legal AI waar u zich zorgen over maakt?
“Dat het vooral wordt gebruikt door degenen die al veel middelen (geld, juridische kennis) hebben en minder door de zwakkeren (met name degenen zonder toegang tot juridische kennis en bijstand). Dan vergroot je de ‘digital divide’. Mijn hoop is dat we AI vooral ook kunnen gaan gebruiken om diegenen te helpen die juridische informatie en vaardigheden het meest nodig hebben maar er niet of nauwelijks toegang toe hebben.”
Als u het voor het zeggen had, welke regel of wet rondom AI-gebruik zou u dan vandaag nog invoeren?
“Dat er meer en verschillende typen data worden verzameld en beschikbaar komen. Data zijn enorm belangrijk voor het trainen van AI-modellen. Ter illustratie: wetgeving en, in mindere mate, rechtspraak – minder dan 10% van de rechtspraak wordt gepubliceerd – is vrij beschikbaar, maar er is buitengewoon weinig informatie over welke vragen cliënten aan advocaten stellen, hoe advocaten reageren, naar welke informatie potentiële rechtzoekenden op zoek gaan op het internet en welke informatie hen helpt.”
Is de juridische sector straks beter of slechter af dankzij AI, denkt u?
“Anders. Vroeger hadden advocaten kaartenbakken. Moesten ze naar rechter Margreet in Zwolle, dan trokken ze de kaarten van rechter Margreet en bekeken ze welke argumenten succesvol waren. Een deel van de waarde van advocaten lag besloten in de kwaliteit van de kaartenbakken. Door de digitalisering is er (hoop ik) geen advocaat die nog met die kaartenbakken werkt. Maar er zijn nog steeds advocaten nodig. Waar ik wel een potentieel probleem zie, is als het straks veel eenvoudiger wordt om juridische informatie te produceren. Als dat leidt tot meer procedures, kan de rechterlijke macht worden overspoeld. Ook die zal mee moeten in de vaart der volkeren. Een doemscenario is Brazilië: als je daar een rechtszaak startte, waren zo’n 4 miljoen wachtenden voor je. Het verrast dan ook niet dat juist daar de rechterlijke macht gebruik maakt van AI.”
| Eerder in deze reeks: |
