Volgens Van de Kooi zijn er nog de nodige hordes te nemen voordat technologie als AI het werk van een jurist écht efficiënter of makkelijker maakt. Dat heeft niet in de laatste plaats te maken met het feit dat AI voor de gemiddelde jurist nog een complete black box is: je stopt er input in, er komt output uit, maar wat er ondertussen gebeurt? Dat kan niemand je echt goed uitleggen. En dat kan de jurist dus ook de cliënt niet goed uitleggen. Hoog tijd dus om AI te ‘demystificeren’, zoals Van de Kooi het noemt.
Demystificeren begint met definiëren. Hoe zou u legal AI definiëren, en welke verkeerde interpretaties gaan hierover rond?
“Legal AI is het gebruik van AI binnen juridische processen en besluitvorming. Dat kan variëren van generatieve AI, die juridische teksten samenvat of concepten opstelt, tot toepassingen die met behulp van AI juridische informatie doorzoeken, analyseren of structureren.
Een belangrijk probleem bij legal AI is dat veel juristen onvoldoende zicht hebben op wat er achter zulke systemen schuilgaat. AI-toepassingen bevatten ontwerpkeuzes, trainingsdata en belangen waar juristen vaak beperkt zicht op hebben. Juristen hoeven geen AI-engineers te worden, maar moeten wel kritisch kunnen beoordelen hoe AI-systemen functioneren en welke gevolgen dat heeft voor juridisch werk. Verkeerde interpretaties ontstaan vaak door een gebrek aan kennis. Daardoor ontstaan misvattingen zoals: “AI is neutraal en objectief”, “AI begrijpt recht zoals een jurist”, “meer data leidt automatisch tot betere juridische kwaliteit”, “AI is een puur technisch vraagstuk”, “als AI tijd bespaart of geld oplevert, is dat automatisch een verbetering” en “AI-geletterdheid betekent leren prompten”. Op al die, veelgehoorde, interpretaties is veel af te dingen.”
We hebben deze serie de Legal AI Black Box genoemd, juist omdat het voor veel juristen lastig is om op verschillende facetten van AI goed grip te krijgen. Waarom is dat zo, denkt u?
“AI raakt veel verschillende facetten tegelijk: technologie, data, ethiek, ontwerpkeuzes, organisatieprocessen, communicatie en commerciële belangen. Dat vraagt een bredere blik dan juristen traditioneel gewend zijn. Veel organisaties ontdekken daardoor dat AI niet simpelweg aan bestaande werkprocessen kan worden toegevoegd. Eerst moet duidelijk zijn hoe die processen eigenlijk functioneren.
Daarnaast ontwikkelt AI zich sneller dan veel organisaties organisatorisch kunnen bijbenen. Disciplines kijken fundamenteel anders naar AI, waardoor misverstanden ontstaan over risico’s en verantwoordelijkheden. Verantwoord AI-gebruik vraagt multidisciplinaire samenwerking en institutionele reflectie.”
In een column op Mr. Online noemde u AI-geletterdheid onder juristen onlangs een “collectieve randvoorwaarde om het beroep zorgvuldig uit te oefenen”. Niet alleen voor juristen die bewust de keuze maken veel met AI te gaan doen, maar voor álle juristen. Kunt u dat toelichten?
“AI-geletterdheid is geen specialistische vaardigheid meer, maar een basisvoorwaarde voor zorgvuldige beroepsuitoefening. AI beïnvloedt inmiddels vrijwel iedere juridische werkomgeving: in zoekmachines, tekstverwerkers, e-mailsystemen en digitale werkprocessen. Juist daarom moeten juristen voldoende begrijpen van de werking, beperkingen en aannames van zulke systemen om verantwoord te kunnen handelen. Het juridische beroep draait immers niet alleen om efficiëntie, maar ook om interpretatie, onafhankelijkheid en zorgvuldigheid. Kritiekloze overname van AI-uitkomsten kan die waarden onder druk zetten.
Tegelijkertijd kun je AI-geletterdheid niet volledig neerleggen bij individuele professionals. Als organisaties serieus AI willen inzetten, vraagt dat om structurele investeringen in opleiding, governance, multidisciplinaire samenwerking en ruimte voor kritische reflectie. Verantwoord AI-gebruik is daarmee niet alleen een individuele competentie, maar ook een institutionele verantwoordelijkheid.”
U schreef onlangs dat u in de juridische praktijk momenteel vooral AI-chaos ziet. Hoe problematisch is dat?
“Met AI-chaos bedoel ik dat veel professionals AI al gebruiken, terwijl organisaties daar organisatorisch nog onvoldoende op zijn ingericht. Medewerkers experimenteren met AI terwijl governance en verantwoordelijkheden achterblijven. AI werkt daarbij vaak als een spiegel: inefficiënte processen, versnipperde kennis en onduidelijke verantwoordelijkheden worden ineens zichtbaar.
Tegelijkertijd wordt AI vaak gepresenteerd als iets dat werk eenvoudiger maakt, terwijl professionals in de praktijk juist extra controlewerk, onzekerheid over verantwoordelijkheid en hogere cognitieve belasting ervaren. In een eerdere column noemde ik dat ook wel ‘AI-last’. Het probleem zit vooral in de snelheid waarmee organisaties AI omarmen zonder fundamenteel na te denken over veranderende professionele normen.”
Wat is het meest hardnekkige misverstand over legal AI dat u graag uit de wereld zou helpen?
“Dat legal AI juridische besluitvorming objectiever of neutraler maakt. Alsof juridische kwaliteit vooral ontstaat door genoeg data te analyseren. Terwijl het recht in de kern interpretatief mensenwerk blijft. Juristen wegen belangen af en interpreteren regels binnen een context, dat proces kun je niet vervangen door patroonherkenning en waarschijnlijkheidsberekeningen.
AI-systemen worden bovendien getraind op menselijke data en menselijke keuzes. Welke bronnen worden gebruikt, welke output relevant wordt gevonden en hoe informatie wordt gepresenteerd, zijn allemaal ontwerpkeuzes waarin aannames en belangen meespelen. AI reproduceert daarmee menselijke interpretaties en machtsstructuren, vaak op grotere schaal en minder zichtbaar.”
Welke recente trend of gebeurtenis op AI-gebied in juridische context heeft u verrast?
“De snelheid waarmee AI in de juridische praktijk wordt genormaliseerd. Tegelijkertijd zie ik steeds vaker een vorm van ‘AI first’-denken ontstaan, waarbij efficiëntie centraal komt te staan. Juist binnen het juridische domein schuurt dat, omdat juridische kwaliteit ook draait om interpretatie, context en zorgvuldigheid.”
Is er ook een ontwikkeling op het gebied van legal AI waar u zich zorgen over maakt?
“AI-systemen worden ontworpen alsof efficiëntie het hoogste doel is, terwijl juridische dienstverlening uiteindelijk over mensen gaat. Veel legal AI-tools voelen gebruiksvriendelijk en intuïtief, maar juist daardoor nemen professionals output soms sneller over dan wenselijk is.
Daarnaast zie ik het risico dat menselijke afwegingen zich langzaam gaan aanpassen aan wat technologisch mogelijk is. Terwijl niet alles wat juridisch waardevol is, efficiënt of meetbaar hoeft te zijn. Daarom moeten we AI niet alleen bekijken als technologisch vraagstuk, maar ook als ontwerpvraagstuk: welke waarden bouwen we in systemen, welk gedrag stimuleren we en welke juridische praktijk willen we ontwerpen voor de toekomst?”
Als u het voor het zeggen had, welke regel of wet rondom AI-gebruik zou u dan vandaag nog invoeren?
“Ik zou organisaties verplichten veel explicieter zichtbaar te maken hoe AI menselijke besluitvorming beïnvloedt binnen werkprocessen. Veel discussies gaan nu nog vooral over de technologie zelf, terwijl de belangrijkste veranderingen vaak plaatsvinden op organisatieniveau. Welke menselijke afwegingen verdwijnen? Welke verantwoordelijkheden verschuiven? En welk gedrag wordt impliciet gestuurd door de manier waarop systemen zijn ontworpen?
Volgens mij hebben we op dit moment niet per se behoefte aan méér regels, maar vooral aan betere institutionele reflectie op hoe technologie juridische praktijkvorming beïnvloedt. En als we nieuwe regels invoeren, moeten we ook serieus nadenken over governance, handhaving en verantwoordelijkheid. Regelgeving werkt uiteindelijk alleen als organisaties daadwerkelijk worden gestimuleerd hun gedrag te veranderen.”
Is de juridische sector straks beter of slechter af dankzij AI, denkt u?
“AI kan juridische informatie toegankelijker maken, repetitief werk verminderen en professionals ondersteunen bij analyse en structurering van informatie. Zeker binnen een sector met hoge werkdruk en toenemende complexiteit biedt dat kansen. Tegelijkertijd blijft juridische oordeelsvorming mensenwerk. Daarom moeten we kritisch blijven kijken naar welke menselijke afwegingen behouden blijven en hoeveel ruimte er nog is voor reflectie, interpretatie en tegenspraak. AI maakt de juridische sector dus niet vanzelf beter of slechter, maar dwingt ons wel opnieuw na te denken over wat juridisch vakmanschap betekent. Uiteindelijk gaat de discussie over AI om de vraag welk soort juridische praktijk wij willen vormgeven.”
