AI is krachtig, maar oordeelt niet
Bij de Amsterdamse Ondernemingskamer gebeurde onlangs iets opvallends. Een ervaren advocaat verwees in een processtuk naar jurisprudentie die niet bestond. Toen de rechter dit opmerkte, volgden drie nieuwe verwijzingen. Ook die bleken niet te bestaan.
Dit is geen Amerikaans incident meer. Ook in Nederlandse rechtszalen wordt zichtbaar waar de grens van AI ligt: het is een krachtig hulpmiddel, maar het heeft geen juridisch oordeel.
Wat AI wél goed doet
AI kan grote hoeveelheden dossierstukken doorzoeken, relevante jurisprudentie vinden en patronen in documentatie signaleren. Onderzoek laat zien dat AI juridische professionals aanzienlijk tijd kan besparen. Volgens Thomson Reuters kan dat oplopen tot circa 240 uur per jurist per jaar.
Die winst zit vooral in snelheid en efficiëntie. Maar sneller zoeken betekent niet automatisch beter begrijpen. Juist daar blijft menselijke expertise essentieel.
Plausibel is niet hetzelfde als correct
Rechters in onder meer Arnhem, Rotterdam en Groningen spraken het afgelopen jaar hun zorgen uit over AI-output die zonder voldoende controle in processtukken terechtkwam.
Dat raakt aan een fundamenteel probleem: AI kan tekst produceren die juridisch overtuigend klinkt, zonder dat die inhoud klopt. En zelfs correcte informatie is nog niet automatisch bruikbaar in een specifieke zaak.
Juridisch werk draait om meer dan bronnen vinden. Het vraagt om het wegen van argumenten, het inschatten van reacties en het beoordelen van juridische én ethische houdbaarheid. Dat is precies waar menselijke verantwoordelijkheid begint.
Hallucinaties zijn geen incident meer
De internationale database van onderzoeker Damien Charlotin telt inmiddels meer dan 1.900 gevallen van AI-hallucinaties in juridische processtukken, waaronder meerdere in Nederland. Ook Nederlandse advocaten kregen waarschuwingen of aanvullende scholing opgelegd na onjuist AI-gebruik.
Tegelijk krijgen advocaten steeds vaker te maken met cliënten die zelf AI-gegenereerde stukken aanleveren. Daardoor ontstaat een nieuwe taak: niet alleen juridisch adviseren, maar ook controleren wat AI heeft geproduceerd.
De mens blijft verantwoordelijk
Ook regelgeving bevestigt die lijn. De Europese AI Act stelt menselijk toezicht centraal bij hoog-risico AI-systemen. De Nederlandse Orde van Advocaten benadrukt eveneens dat AI een hulpmiddel mag zijn, maar dat de advocaat verantwoordelijk blijft voor wat uiteindelijk wordt ingediend.
AI verandert het juridische vak dus wel degelijk. Het maakt werk sneller, efficiënter en soms beter. Maar het verandert niet de kern van juridische besluitvorming: een mens die verantwoordelijkheid neemt voor een oordeel in een complexe context.
Het laatste woord in de rechtszaal blijft daarom van de jurist.
