AI biedt enorme mogelijkheden om schade te voorkomen, diagnoses te verbeteren en processen te versnellen. Tegelijk is het een bron van nieuwe risico’s, fouten en aansprakelijkheidsvragen waar het recht nog geen antwoord op heeft. Daarover werd gesproken in de derde aflevering van de Claimcast, de maandelijkse podcast over claims en massaclaims. Te gast waren Ernst Kuipers, oud-minister van VWS, verbonden aan de Technische Universiteit van Singapore en voorzitter van de Raad van Toezicht van de TU Delft, en Douwe Groenevelt, partner bij Datacation en voorheen Head of Legal bij ASML. Universitair hoofddocent privaatrecht Anna van Duin (Universiteit van Amsterdam) belde in. De makers van de Claimcast doen voor Mr. verslag.
AI als versneller én als bedreiging
Kuipers stuurde als minister de Kamerbrief Waardevolle AI voor Gezondheid en trok een miljard uit voor digitalisering in de zorg. Zijn enthousiasme is onveranderd. Hij wijst op AI die bij endoscopisch onderzoek meekijkt naar darmpoliepen, en op de Amerikaanse Food and Drug Administration (FDA) die inmiddels ruim duizend medische AI-applicaties heeft goedgekeurd. “Je kunt het je gewoon niet veroorloven om te zeggen: hier gaan we even niks meer doen. En weg te kijken.” Groenevelt brengt een Australisch voorbeeld in: een man liet het tumor-DNA van zijn zieke hond beoordelen, gooide de gegevens in ChatGPT, liet het voorgestelde medicijn in een lab maken en gaf het aan zijn hond. Gevolg? De hond werd beter. Kuipers knikt. Patiënten zoeken inmiddels zelf hun klachten op via chatbots − een ontwikkeling die zich met of zonder regulering doorzet.
Maes brengt met enige zorg een actueel Nederlands voorbeeld in: moetiknaardedokter.nl bedient al jaren miljoenen Nederlanders, maar blijkt al vijf jaar de juiste certificering te missen − terwijl het ministerie drie jaar geleden al concludeerde dat de tool onbetrouwbaar is. Groenevelt kijkt vanuit de wereld van het recht met dezelfde dubbele blik. Hij is voorstander van AI in de advocatuur, maar maakt zich zorgen over het reactievermogen van de samenleving. “Ik ben of two minds“, zegt hij. “Ik zie de mogelijkheden en tegelijk de risico’s.” Zijn enthousiasme wordt getemperd door wat hij in zijn geliefde sciencefictionfilms ziet: de meerderheid loopt dystopisch af.
Kuipers en Groenevelt delen ook een tweede zorg. Kuipers verwijst naar onderzoek onder endoscopisten: artsen die langer met AI-hulp werkten, presteerden zelfstandig minder goed. Deskilling. “Je stopt met zelf nadenken.” In het recht ligt hetzelfde gevaar op de loer: juristen die hun denkwerk uitbesteden, verleren het zelf analytisch denken waarmee hun oordeel staat of valt. Groenevelt zet daar wel een fundamentele vraag tegenover. Als AI in de meeste gevallen beter presteert dan de mens, dan is het resultaat per saldo beter. Is deskilling dan eigenlijk wel erg?
Wie is aansprakelijk als AI faalt?
In de vaste pech-of-claim-rubriek van de Claimcast krijgt Kuipers het scenario van een second opinion in een ziekenhuis dat volledig stoelt op AI-diagnostiek en iets mist wat een ervaren arts wel zou hebben gezien. Zijn antwoord is glashelder: claim, richting de zorgverlener of het ziekenhuis. “Het is heel duidelijk dat een zorgverlener uiteindelijk eindverantwoordelijk is.” Dat antwoord maakt de aansprakelijkheidsvraag niet eenvoudiger, maar gelaagder: tussen patiënt, arts, ziekenhuis en ontwikkelaar.
Inbeller Van Duin – die onderzoek doet naar aansprakelijkheid, platformregulering en effectieve rechtsbescherming in de digitale samenleving – werkt dat patroon uit aan de hand van de openingscasus van de huisarts die AI spoedgevallen liet beoordelen. Zij noemt het de chain of responsibility: niet één duidelijk aanwijsbare schadeveroorzaker, maar een keten van schakels. Bij hoogrisicosystemen heeft de ontwikkelaar onder Europese regelgeving verplichtingen om de werking van zijn systeem transparant te maken en de gebruiker − in dit voorbeeld de huisarts − duidelijke instructies te geven. Worden die verplichtingen niet nagekomen, dan ligt een weerlegbaar vermoeden van causaal verband voor de hand: de ontwikkelaar moet aantonen dat zijn systeem de schade niet heeft veroorzaakt. “De regels zijn nog volop in ontwikkeling”, benadrukt Van Duin. Juist bij ondoorzichtige AI is zo’n vermoeden onmisbaar: zonder zou een gedupeerde de black box nooit open krijgen.
Maes wijst in dit verband op een probleem bij AI-agents, waarbij juridisch een nieuwe variant op de chain of responsibility ontstaat: jij geeft een agent een opdracht, die agent schakelt zelfstandig de volgende in, die weer de volgende en ergens in die keten gaat het mis. Groenevelt herkent het scenario uit eigen praktijk. Hij gaf zijn agent de opdracht een publiek commentaar op nu.nl te plaatsen uit zijn naam, waaruit zou moeten blijken dat hij ter zake kundig was. De agent koos zelf het meest politiek geladen artikel, schreef daar een gekleurd commentaar onder en plaatste het, zonder het eerst bij Groenevelt te checken. Kuipers trekt de parallel naar de zorg. Een arts die een AI-agent zonder controle een recept laat versturen, kan op dezelfde manier de mist in gaan. Alleen gaat het dan niet om een mening op social media, maar om een individuele patiënt.
Toezicht, regulering en claims
Zijn claims dan het instrument om AI in toom te houden? Groenevelt vindt van niet. “Claims zouden altijd een laatste redmiddel moeten zijn.” De eerste rol ligt volgens hem bij de overheid. Hij wijst op landen die wél tijdig ingrepen. Hij trekt een parallel met de snelheid waarmee andere landen mobiele telefoons in de klas verboden: Frankrijk verbood dat al jaren geleden, terwijl Nederland pas onlangs volgde. Kuipers ziet liever vooraf regulering, maar accepteert dat dat niet altijd lukt: “Sommige dingen kun je niet vooraf regelen. Dan moet het tijdens, en daar kun je van leren.” Maes vraagt door: kan het aansprakelijkheidsrecht zelf een regulerende werking hebben, zoals in de VS bij socialmediaplatforms?
Van Duin ziet die ruimte, maar (ook) met andere instrumenten dan klassieke schadevergoeding. Zij wijst op de recente zaak van Off Limits tegen platform X en chatbot Grok: geen compensatie voor één slachtoffer, maar een collectieve, preventieve actie en een verbod op het genereren en verspreiden van bepaalde beelden. Uit haar onderzoek onder slachtoffers van schadelijke online content blijkt dat zij vaak niet uit zijn op geld; ze willen verwijdering van de gewraakte content en erkenning. Bij claims rond reputatie en identiteit speelt schadevergoeding zelden de hoofdrol. Van Duin wijst daarnaast op een politiek akkoord dat zojuist in Brussel is bereikt, waarin een verbod op nudifier-apps in zicht komt. Voorkomen blijft, ook hier, beter dan genezen, vat Maes samen.
De juridische beroepspraktijk staat voor een eigen variant van dezelfde vraag. Tegenover de 1.300 gedocumenteerde gevallen van hallucinerende AI in rechtbankstukken (wereldwijd) zet Groenevelt het totale aantal uitspraken uit dezelfde periode: 450 miljoen. Toch zijn de zorgen reëel. Kort voor de opname van de podcast werd een van de meest prestigieuze kantoren ter wereld − tevens adviseur van OpenAI over de veilige en ethische inzet van AI − op de vingers getikt, paradoxaal genoeg omdat zijn processtukken vol AI-hallucinaties zaten. In Nederland zijn advocaten al op cursus gestuurd na het citeren van niet-bestaande rechtspraak. Waar ligt dan de grens, wanneer handelt een advocaat onzorgvuldig door AI in te zetten, en wanneer juist door dat níét te doen? Groenevelt vertelt dat hij zichzelf ook ooit op een belangrijke hallucinatie heeft betrapt, op een vlak waar hij juridisch iets van wist. Maar: er zijn inmiddels veel technieken om dat risico tot een minimum te beperken; gebeurt het tóch, dan mag je dat de advocaat aanrekenen. Daarbij wijst hij op een groter probleem: AI ontwikkelt zich razendsnel, en ons leervermogen en adoptievermogen lopen daar volgens hem ver bij achter. Juristen moeten hun skills meebewegen met wat de tool kan.
Groenevelt voorspelt dat het stigma rond AI-gebruik kantelt: “Ik denk dat we zaken gaan meemaken waarin advocaten claims krijgen omdat ze AI niet goed hebben ingezet.” De claim wegens onzorgvuldig AI-gebruik kennen we inmiddels. Die wegens niet-gebruik dient zich aan.
Conclusie
Aflevering twee van de Claimcast liet zien dat het strafrecht zich nog aan het uitvinden ontwikkelen is als sanctie-instrument bij schadeclaims. Aflevering drie toont dat het aansprakelijkheidsrecht zich moet herijken op een technologie die sneller beweegt dan de wetgever. De rode draad daarbij is een verschuiving: weg van één duidelijke schadeveroorzaker, naar een keten (‘chain’) van partijen die ieder een stukje verantwoordelijkheid dragen. Het recht zal die keten in kaart moeten brengen − met bewijslastvermoedens, collectieve acties en preventieve verboden −zodat het aansprakelijkheidsrecht reële rechtsbescherming kan blijven bieden.
Wat blijft, is de menselijke toets: de arts die eindverantwoordelijk is, de advocaat die niet wegduikt achter zijn tool. Of zoals Groenevelt het samenvat: “Nu heet dat dan hallucinaties door AI en wordt er naar AI gewezen. Maar je moet natuurlijk naar een advocaat wijzen. Wat wél verandert, is de verwachting.”
Zowel Groenevelt als Kuipers schetsten scenario’s waarin ook níét-gebruik tot een claim kan leiden. De technologie staat niet stil; het recht zal mee moeten, evenals de professional die ermee werkt.
Ernst Kuipers, Douwe Groenevelt en Anna van Duin komen uitgebreid aan het woord in de derde aflevering van de Claimcast, een maandelijkse podcast over claims, massaclaims én context, gepresenteerd door Kirsten Maes, advocaat, universitair docent en gepromoveerd op het aansprakelijkheidsrecht. De Claimcast is gemaakt door Recht in je Oor in samenwerking met VBK en is te beluisteren via de podcastkanalen, zoals Spotify en Apple Podcasts en YouTube.
