Aannames over digitale geschilbeslechting zijn er genoeg, zegt wetenschapper Elke Olthuis van de Universiteit van Amsterdam. “Mensen denken aan de voordelen die AI biedt: procedures gaan sneller, zijn goedkoper, effectiever en efficiënter. Allemaal waar, maar we weten niet of mensen dat waardevoller vinden dan menselijke rechtspraak.”
Om dat te onderzoeken heeft ze samen met collega-onderzoeker Anna van Duin (universitair hoofddocent aan de UvA) een studie opgezet. Ze vragen in een kwantitatief onderzoek via I & O Ipsos aan bijna tweeduizend mensen wat ze vinden van een menselijke en een digitale rechter. “En later kijken we via focusgroepen naar het waarom erachter.”
Otlhuis is universitair docent recht en samenleving aan de UvA, en als wetenschapper gespecialiseerd in rechterlijke besluitvorming. Ze is dit jaar gepromoveerd op een proefschrift over het menselijk element in rechterlijke beslissingen. Ze onderzocht hoe rechters beslissingen nemen, en welke attitudes en persoonlijke opvattingen daarbij een rol kunnen spelen. “Voor mijn vervolgonderzoek ben ik geïnteresseerd in wat dit menselijk element betekent in relatie tot digitalisering.”
Procedure via de telefoon
Ze erkent dat AI vele mogelijkheden kan bieden. “Stel dat je via je telefoon een hele procedure kunt voeren, en je hoeft niet naar de rechter. Dat is in potentie heel fijn. Je weet alleen niet wat de procedurele waarborgen zijn. We gaan in onze survey vragen of mensen zich bewust zijn van de procedurele waarborgen en of zij deze belangrijk vinden. Wij als juristen denken vanuit het rechtssysteem, maar wat vinden de rechtzoekenden waardevol? En hoe kunnen we het rechtssysteem vormgeven met alle benodigde waarborgen?”
Olthuis kan op basis van eerdere studies voor- en nadelen noemen van ‘AI-vonnissen’, vooral voor de toegang tot het recht. “In Australië en het Verenigd Koninkrijk zijn steeds meer gebieden waar rechtbanken verdwijnen of waar ze nooit zijn geweest. Mensen kunnen daar fysiek minder makkelijk naar de rechtbank,” stelt ze. “Voor deze mensen kan digitale geschilbeslechting een enorme verbetering zijn vanuit het oogpunt van toegang tot het recht. Bijna iedereen heeft immers een mobiele telefoon. De kosten gaan omlaag en het is minder tijdrovend. En vergeet niet: mensen komen vaak maar één keer in hun leven in de rechtbank, dat is ontzettend spannend. Die spanning verminder je door digitale geschillenbeslechting.”
Olthuis benoemt ook de nadelen: “We kunnen niet altijd de waarborgen garanderen die we hebben ingebouwd in de rechtspraak. Kun je rechterlijke waarden vertalen in een AI-systeem? Ik weet het niet, het is toch mensenwerk. De mens kan iets wat AI nu in ieder geval nog niet kan: afwijken van de regels als dat nodig is in het individuele geval voor een rechtvaardige uitspraak. Een rechter kan de persoon zien om wie het gaat en waarom die persoon bepaalde keuzes heeft gemaakt. Dat kan AI op dit moment niet.”
De rechtzoekende denkt misschien niet na over de waarborgen, bijvoorbeeld omdat hij het conflict snel de wereld uit wil hebben, veronderstelt Olthuis. “Het is gevaarlijk als we efficiëntie stellen boven rechtvaardigheid.”
Risico
Ook vanuit de ethiek zijn er serieuze vragen: “Wij juristen weten niet altijd hoe AI werkt, maar we implementeren het al wel in sommige beroepen. Daar zit een risico. Het gaat om deskundigheid in de hele juristerij: kunnen we ermee omgaan, kunnen we de juiste afwegingen maken? Daar moeten we meer aan doen voordat we de AI-trend omarmen. Verder is deskundigheid van de makers ook noodzakelijk. Weten ze hoe de rechtspraktijk werkt, wat daarvoor noodzakelijk is en kun je dat van ze verwachten?”
Dat AI-gebruik door rechters tot commotie kan leiden, bleek na het bekend worden van een uitspraak van de kantonrechter René van Acht van de rechtbank Gelderland. Toen duidelijk werd dat de kantonrechter ChatGPT had gebruikt om de gemiddelde levensduur van zonnepanelen vast te stellen, volgde op LinkedIn een stortvloed aan commentaren, waarvan een aantal zeer negatieve. “Gevaarlijke ontwikkeling dit,” schrijft consultant Goos Hofstee (Andersson Elffers Felix) op LinkedIn. “Het verbaast me dat een rechter hier gewoon zo openlijk voor uitkomt. Een herhaalcursusje bronnengebruik 2.0 zou geen kwaad kunnen.” En tech counsel Louis Jonker (Van Doorne) vindt: “De wijze waarop de rechter hier ChatGPT heeft gebruikt is inherent fout en toont een gebrek aan begrip over wat ChatGPT is, wat het kan en wat het vooral niet kan.”
In het AD van maandag 5 augustus deden experts uit de IT-wereld er een schepje bovenop. “Het is onverdedigbaar dat een rechter een schadevergoeding mede baseert op een taalcomputer,” meent AI-specialist Henk van Ess. En expert Remy Gieling meent: “Taalmodellen zoals ChatGPT zijn in de basis gemaakt als woordvoorspellers, en niet als zoekmachine.” En: ”Dit klinkt alsof je op de basisschool Wikipedia gebruikt als bron voor je werkstuk.”
Zorgwekkend
Rachel Rietveld, UvA-docent en onderzoeker gespecialiseerd in AI en recht, noemde de Gelderse uitspraak ‘zorgwekkend’. Volgens Rietveld is ChatGPT niet meer dan een statistisch model dat woorden voorspelt. “Het leent zich daarom slecht voor toepassing in de rechtspraak,” zei ze tegen BNR Radio. “Het is niet gebaseerd op kennis of begrip, en daarmee niet op waarheden.”
Op LinkedIn wordt vaak de vergelijking gemaakt met een arrest van de Hoge Raad uit 2011 over een zaak waarin de rechters van het gerechtshof zelf via Google op zoek gingen naar feiten. Toen besliste de Hoe Raad dat als een rechter zijn oordeel wil baseren op gegevens die hij op internet vindt, hij partijen de gelegenheid moet geven zich daarover uit te laten. Procesrechtadvocaat Daan Beenders (Van Doorne) is daarom kritisch op het vonnis van de kantonrechter: “Wat mij betreft is de door de Hoge Raad geformuleerde regel in steen gebeiteld en geldt deze regel (dus) ook bij gebruik van huidige AI tools zoals ChatGPT. Dat partijen kennelijk niet in de gelegenheid zijn gesteld om zich over het gebruik van informatie verkregen uit ChatGPT uit te laten, doet de procesrechtelijke wenkbrauwen wel fronsen.”
De al eerder genoemde UvA-wetenschapper Anna van Duin zegt daarover op LinkedIn: “Is dit de Googelende rechter 2.0? Niet in mijn ogen. ChatGPT is – letterlijk – een taalmodel dat getraind is om patronen te herkennen en met statistische technieken woorden en zinnen te voorspellen. Het biedt geen primaire bronnen die nagetrokken kunnen worden, laat staan gecontroleerd of geverifieerd. ChatGPT doet niet aan factchecking, en het is zeker geen expert op het gebied van zonnepanelen.”
De kantonrechter wilde geen commentaar geven op het vonnis omdat “rechters door hun vonnis spreken.” De woordvoerster van rechtbank Gelderland geeft wel een toelichting. “In deze zaak moest de rechter bepalen of een man recht had op schadevergoeding omdat de opbrengst van zijn zonnepanelen door de nieuwe opbouw van zijn buurman was verminderd. Wanneer er in een zaak een schadevergoeding moet worden vastgesteld, is het soms aan de rechter om tot een redelijke schatting te komen. Daarbij kan hij onder meer kijken naar jurisprudentie en naar de standpunten en informatie die partijen tijdens de zitting naar voren hebben gebracht. In deze zaak heeft de rechter daarnaast ook ChatGPT geraadpleegd. Doorslaggevend voor de afwijzing van de vordering zijn deze gegevens echter niet geweest. Voor de uiteindelijke inhoudelijke uitkomst van de zaak heeft ChatGPT dus geen enkele rol gespeeld.”
‘AI kan niet denken’
In een post op LinkedIn na het bekend worden van het Gelderse vonnis zette Marc de Werd (raadsheer bij het gerechtshof Amsterdam en hoogleraar Europese rechtspleging aan de UvA) een paar kritische kanttekeningen bij AI-gebruik door rechters: “Een Large Language Model als ChatGPT berekent het eerstvolgende woord of de woordcombinatie in een zin. Daartoe wordt het getraind op eindeloos veel (ook juridische) teksten. Kunstmatige intelligentie is echter verre van ‘intelligent’, hoe bruikbaar en overtuigend de teksten ook lijken die zij/het produceert. AI kan niet denken en niet juridisch redeneren (zij maakt als gezegd tekstuele kansberekeningen) en de kans dat een AI-tekst feitelijk of juridisch onjuist is, is groot.”
De Werd ziet gevaren als ChatGPT in een vonnis of arrest als een ‘ongecontroleerde of – nog erger – oncontroleerbare’ kennisbron wordt opgevoerd, die mede bepalend is voor de uitspraak: “Dan rijst al snel de principiële vraag of nog wel sprake is van een (deugdelijke) motivering, en zelfs de vraag of we nog wel van een ‘rechter’ kunnen spreken in grondwettelijke en verdragsrechtelijke zin.”
In een artikel in het Nederlands Juristenblad stelde hij de vraag: “Op welk moment houdt de rechter op rechter te zijn?” Het antwoord volgens De Werd: “Als rechters door het gebruik van AI-technologie gaandeweg het vermogen verliezen om autonoom tot een beredeneerd oordeel te komen, of niet meer in staat zijn om de juistheid van een AI-advies te controleren, dan komt de facto de beslissing in handen van technologie en haar ontwerpers te liggen. Dat heeft gevolgen voor het eerlijk proces. Onze Grondwet, het EVRM en het EU-Handvest garanderen immers eenieder, bij het vaststellen van zijn rechten en verplichtingen of bij het bepalen van de gegrondheid van een vervolging een eerlijk proces binnen een redelijke termijn door een onafhankelijke en onpartijdige rechter of gerecht.” Dat recht wordt volgens De Werd uitgehold als die vaststelling of bepaling feitelijk niet meer door een ‘mens-rechter’ wordt verricht.
Complexe vragen
Elke Olthuis denkt dat we niet snel grootschalig AI-gebruik door de Rechtspraak zullen zien. “Als je zulke grote invloed hebt op fundamentele dingen in de levens van mensen, is het ook goed te verdedigen dat je terughoudend met AI om gaat.”
De Rechtspraak is inderdaad terughoudend met de toepassing van AI. “Het gebruik van AI biedt kansen voor de Rechtspraak, maar brengt ook complexe juridische en ethische vragen met zich mee,” verklaart een woordvoerder van de Raad voor de rechtspraak. “Op deze vragen moet eerst antwoord komen voordat AI-systemen ingezet kunnen gaan worden.”
Om die antwoorden te vinden organiseert de Raad voor de rechtspraak webinars, lezingen en studiedagen over AI en worden er tools onderzocht en beoordeeld. Er wordt ook gewerkt aan een visie over AI binnen de Rechtspraak. Het uitgangspunt is dat de Rechtspraak AI op een verantwoorde manier wil inzetten en wil onderzoeken wat de mogelijkheden en potentiële risico’s zijn.
“In ieder geval zal AI in de nabije toekomst nog geen rol spelen bij oordeelsvorming,” zegt de woordvoerder. “De robotrechter is nog niet aan de orde, maar AI-systemen kunnen wél ondersteunen bij het werk van rechters en gerechtsjuristen. Daarbij gaat het meer om het helpen bij bedrijfsprocessen dan om het automatiseren van het rechtsproces. Denk dan bijvoorbeeld aan het pseudonimiseren van uitspraken voor publicatie op rechtspraak.nl, of het samenvatten en redigeren van teksten.” Hierbij houdt de Rechtspraak rekening met de Europese AI-verordening die op 1 augustus 2024 in werking is getreden .
Om terug te keren naar de voorspelling waar dit stuk mee begon: computers kunnen nu dus nog niet rechtspreken, en het is de vraag of ze het ooit zullen kunnen.
Overigens worden burgers nu al volop geconfronteerd met digitale geschilbeslechting, zegt Elke Olthuis. Niet bij rechtbanken, maar wel op platforms zoals bijvoorbeeld E-bay, Bol.com en Amazon. “Dat zijn de gigantische digitale geschilbeslechters. Als jij een klacht hebt over een product, wordt dat digitaal afgehandeld. Bijna niemand gaat voor zo’n consumentengeschil naar de rechter.”
Advocaten maken voor routinewerk al gebruik van AI-tools, blijkt uit dit artikel op Mr. Online.
