In de AI-wereld woeden momenteel hevige discussies over kosten en terugverdientijden. Deloitte becijferde eind 2025 dat het bedrijven nu al vier keer zoveel tijd kost om AI-implementaties terug te verdienen vergeleken met reguliere IT-implementaties, met terugverdientijden die oplopen tot vier jaar. En kijken we naar de duizelingwekkende investeringen die AI-giganten als Anthropic de laatste jaren deden, dan kan het zomaar decennia duren voordat die zijn terugverdiend – als ze ooit al worden terugverdiend.
Maar de kosten van AI zijn breder dan dollars en euro’s. In haar onderzoek voor het Rathenau Instituut ziet Quirine van Eeden dat AI-ontwikkeling in allerlei sectoren links en rechts impact en vaak ook schade veroorzaakt. Ondertussen gaan de ontwikkelingen echter in recordtempo door, en lijkt niemand een pas op de plaats te willen maken om die kosten – in de breedste zin van het woord – binnen de perken te houden. Mede om die reden vraagt Van Eeden zich steeds nadrukkelijker af of er wel zoiets bestaat als ‘verantwoorde AI’.
We horen al jaren dat je AI verantwoord moet inzetten, maar nu vraagt u zich af of verantwoorde AI wel kan bestaan. Kunt u dat eens uitleggen?
“Waar het gaat om large language models (generieke AI-systemen) kun je je dat afvragen. Dit soort systemen danken hun werking aan de gigantische schaal (enorme hoeveelheden data en computerkracht) waarop ze opereren. Dat heeft een aanzienlijke prijs. Denk aan de uitbuiting van datawerkers, de data die gestolen wordt van auteurs, tot de aanzienlijke aanslag op het klimaat.
Auteur Karen Hao beschrijft in haar boek Empire of AI mooi hoe bedrijven steeds minder zijn gaan investeren in ‘specifieke’ of ‘nauwe’ AI en al hun ogen hebben gericht op zogenaamde generieke AI-systemen. Dat terwijl specifieke AI-toepassingen, die we overigens ook al decennialang kennen in de vorm van deep learning, veel meer in samenspraak ontwikkeld kunnen worden met de mensen die het raakt. En ook kunnen bijdragen aan gerichte, afgebakende maatschappelijke problemen.”
Eén van de verborgen kosten van AI die vaak wordt genoemd, is het risico op ‘mentale armoede’ door gebruikers die telkens maar naar AI grijpen en steeds minder zelf nadenken. Denkt u dat het juridische domein, als typisch talige en analytische wereld, daarvoor extra vatbaar zou kunnen zijn?
“Ik heb er geen onderzoek naar gedaan, dus ik kan dit alleen vertellen op grond van een eigen ervaring. Maar dat lijkt me wel waarschijnlijk. In de collegebanken leerde ik dat we de rechtspraktijk kunnen zien als een argumentatieve praktijk. Recht draait om taal. Met de juiste taal kun je komen tot een logische, coherente redenatie. Je hebt het nodig om teksten te doorgronden en te interpreteren. Precisie is essentieel. Het ligt natuurlijk ook aan de taak die je uitbesteed, maar intensief gebruik van dit soort systemen lijkt me in principe ondermijnend voor de kernvaardigheden van juristen.”
De wereldwijde financiële investeringen in AI zijn duizelingwekkend te noemen. Veel lijkt er bij de grote AI-spelers op gericht om snel een zo groot mogelijk marktaandeel te pakken. Moeten we ons daar zorgen over maken?
“De prikkel om een zo groot mogelijk marktaandeel te verwerven op een zo kort mogelijke termijn heeft problematische gevolgen. Het resulteert in het feit dat producten die onaf zijn in de markt worden gezet. Burgers worden als een soort proefkonijnen aan dit soort systemen blootgesteld. Grote negatieve effecten worden op de koop toe genomen.
Dan is er ook nog de enorme hoeveelheid marketing die de hype vergroot en mensen het gevoel geeft dat ze het wel moeten gebruiken, omdat ze anders achterlopen. Ook overheden zijn daar vatbaar voor. We horen hen dan zeggen dat we “AI-first” moeten gaan werken. Waarom? Dat is het paard achter de wagen spannen.
We moeten het daarom ook hebben over de politiek-economische dimensie van wat AI-bedrijven voor ogen hebben. De missie van OpenAI gaat expliciet over het ontwikkelen van AI die alle menselijke arbeid zou kunnen vervangen. Wie denk je dat daar uiteindelijk van zullen profiteren, en wie het onderspit delven? Je hoort niet voor niets steeds meer mensen zich hardop afvragen hoe deze bedrijven hun geld straks gaan terugverdienen en welke prijs gebruikers (en niet-gebruikers) daarvoor gaan betalen.”
Hoe kun je je als kantoor of juridische afdeling zo goed mogelijk wapenen tegen die machtswellust van grote techbedrijven? Moet je AI buiten de deur houden? Moet je je IT-stack zoveel mogelijk spreiden? Of is er niets tegen te doen?
“Er staat te veel op het spel om lijdzaam toe te kijken. Dus we moeten zeker iets doen. Bedenk dat je eerst je als organisatie moet identificeren wat je doelen zijn. Onderzoek daarna pas of en in hoeverre bepaalde AI-toepassingen daaraan een bijdrage kunnen leveren, en tegen welke prijs dat mag zijn. Het gebruik van dit soort systemen kan namelijk net zo goed een risico vormen voor je organisatie. Deze aanpak geldt eigenlijk voor alle digitale diensten.
En ik zou, waar dat kan, kiezen voor open source digitale diensten van Europese aanbieders. Je hoeft niet in één keer integraal de overstap te maken naar zo’n dienst, maar kunt klein beginnen. Trek op met andere kantoren die hetzelfde willen doen. En houd je eigen, interne IT-capaciteit op peil, dat maakt je minder kwetsbaar.”
U doet onder meer onderzoek naar de afhankelijkheid door publieke sectoren, zoals het onderwijs en de gezondheidszorg, van big tech. Welke trend ziet u daar ontstaan in het licht van de AI-revolutie?
“Het valt me op dat we ons aan de ene kant (terecht) zorgen maken over afhankelijkheid van bijvoorbeeld Amerikaanse clouddiensten. Tegelijkertijd lijkt op het gebied van AI dat autonomie-vraagstuk nog veel minder vergevorderd. Er wordt veelvuldig gebruik gemaakt van toepassingen als Copilot en ChatGPT. Dat lijkt een schizofrene beweging.”
Wat is het meest hardnekkige misverstand over AI dat u graag uit de wereld zou helpen?
“Dat we nu massaal op de AI-boot moeten stappen. En dat haast daarbij geboden is. Dat de overheid nu op grote schaal moet investeren in ondernemingen die bezig zijn met AI. Dat perspectief is in Nederland dominant. Ik mis andere stemmen in het debat. AI is een diep maatschappelijk vraagstuk met existentiële impact en aanzienlijke risico’s, ook voor de juridische sector. We moeten het met elkaar hebben over wat we precies zouden willen met AI, bij welke maatschappelijke uitdagingen AI een rol zou kunnen spelen, in plaats van blindelings in te zetten op eigen zogeheten ‘AI-kampioenen’.”
Welke recente trend of gebeurtenis op AI-gebied heeft u verrast?
“De samenwerking tussen Google en Apple. Apple-apparaten maken binnenkort gebruik van Gemini van Google. Het maakt van Google een ongelooflijk machtige AI-speler die al over gigantische hoeveelheden data van gebruikers beschikt en waar gebruikers al in grote mate afhankelijk van zijn.”
Is er ook een ontwikkeling op het gebied van AI waar u zich zorgen over maakt?
“Voorgaande ontwikkeling baart me zorgen. Zeker de opkomst van agentic AI (generatieve AI-toepassingen die digitale taken automatiseren). Google wordt daardoor een nog machtiger middle man die namens jou het web doorakkert, en daarmee een poortwachter tussen aanbieders en ontvangers van informatie.”
Als u het voor het zeggen had, welke regel of wet rondom AI-gebruik zou u dan vandaag nog invoeren?
“Laten we het debat openbreken. Het hoogste woord wordt gevoerd door een kleine club ondernemers met min of meer dezelfde opvattingen. Dus begin met regels rondom AI-ontwikkeling die brede betrokkenheid van hen die het raakt verplicht stellen bij de ontwikkeling en implementatie van dit soort systemen. Waar is de stem van de leraar, de vertaler, datawerker en de filmmaker?”
Is de juridische sector straks beter of slechter af dankzij AI, denkt u?
“Dat hangt grotendeels van onze eigen keuzes af. We hebben de keuze om vanuit onze eigen wensen gericht AI-toepassingen ontwikkelen en inzetten, of achter het aanbod van big tech blijven aanrennen. Als we dat laatste blijven doen, dan vraag ik me af of we straks beter af zijn.”
| Eerder in deze reeks:
Ilona van de Kooi over institutionele verantwoordelijkheid |
