Elk AI-systeem gedijt het best bij zoveel mogelijk data. Hoe meer informatie het systeem heeft om te analyseren, hoe beter het tot output zal kunnen komen. Mede om die reden worden data steeds waardevoller en zijn bedrijven steeds vaker bereid om grof geld te betalen om over zoveel mogelijk gegevens en informatie te beschikken. Het willen verzamelen van al die data levert echter allerlei complicaties en risico’s op, zeker voor de privacy van burgers.
Colette Cuijpers ziet in haar onderzoek dan ook dat de gegevensbescherming van burgers steeds meer onder druk komt te staan, niet in de laatste plaats vanwege de schier onstilbare datahonger van grote techbedrijven. Dat naast de Meta’s en TikToks van deze wereld sinds enkele jaren ook zeer kapitaalkrachtige AI-bedrijven aan het dataverzamelen zijn geslagen, baart haar dan ook zorgen. Want wat er in de black box van AI-systemen allemaal met ingevoerde data gebeurt, daarop heeft eigenlijk niemand zicht – ook niet wanneer het legal AI betreft.
Eerst even een stapje naar de actualiteit: op de valreep heeft het kabinet onlangs voorkomen dat DigiD in Amerikaanse handen valt en onze meest fundamentele persoonsgegevens wellicht naar het buitenland zouden weglekken. Daar moet u als privacy-expert opgelucht over zijn, stellen we ons voor?
“Ja, daar ben ik zeker opgelucht over. Als er steeds gesproken wordt over de noodzaak van Europese digitale soevereiniteit, en een wens dat burgers zich daar ook bewuster van worden, dan begint deze bewustwording bij de overheid. Willen we echt tegenwicht kunnen bieden tegen de ongewenste praktijken van Big Tech, dan zullen we zelf de grens moeten trekken en dus alternatieven gaan gebruiken, een stap die we zelf juist vaak niet maken omdat we gewend (en sommigen wellicht zelfs verslaafd) zijn geraakt aan het “gemak” en “goedkoop” van het Big Tech aanbod.”
Ondanks dat DigiD, althans voorlopig, niet naar Amerika verhuist, zien we wel steeds meer buitenlandse bedrijven die massaal data van Nederlandse burgers en bedrijven verzamelen. Hoe ziet u de opkomst van AI-bedrijven – die dat ook weer doen – in dat licht?
“Op dit moment is er juridisch gezien een window om dit (nog) te mogen doen, dus dan is het niet zo vreemd dat dit ook massaal gebeurt. We weten allemaal dat er met data nu eenmaal heel veel winst te behalen valt, en dat allerlei bedrijven proberen op allerlei manieren deze data te commercialiseren is op zich niet direct problematisch. Het kan ook leiden tot zeer mooie en waardevolle producten en diensten waar individuen of de maatschappij als geheel van kunnen profiteren. Dat de waarde van data ook een grote schaduwzijde heeft, waarbij data illegaal verkregen worden en misbruikt worden voor scams en manipulatie, is een veel groter probleem. Ik stuitte laatst op een website die alle cyberaanvallen en datalekken bijhoudt (link). Het is bizar hoeveel dat er zijn.”
Is er wat betreft dataverwerking een groot verschil tussen general purpose AI – zoals ChatGPT – en gespecialiseerde juridische AI-tools, zoals Harvey? Is dataverwerking in juridische AI-tools veiliger en verantwoorder geborgd, vindt u?
“Ik heb hier niet direct onderzoek naar gedaan, maar het grote verschil is natuurlijk wel een open versus een meer gesloten dataset, en ook meer specifieke training van gespecialiseerde tools zodat zij beter getraind zijn om bepaalde specifieke taken te verrichten. Doordat er sprake is van beperking van de data verminder je het probleem van “garbage in” en is er ook eenvoudiger controle op de output mogelijk, omdat de bronnen niet achteraf, maar op voorhand gecontroleerd kunnen zijn.”
We horen de laatste tijd steeds vaker dat we ‘digitaal soeverein’ moeten worden en bijvoorbeeld onze ‘eigen’ Europese AI-systemen moeten ontwikkelen, om niet totaal afhankelijk te zijn van China en de VS. Maar maakt het eigenlijk wel uit of het nou een Amerikaans of een Europees bedrijf is dat massaal data verzamelt, opslaat en verwerkt in een black box?
“In Europa zijn we aan strengere regels gebonden, en vooral handhaving van regels binnen Europa is eenvoudiger dan over de landsgrenzen heen. In andere landen delen ze het Europese gedachtengoed van voorkomen van schade door strengere regels lang niet altijd, en volgen ze een meer reactieve risico benadering, waarbij meer ruimte gelaten wordt aan de voorkant met het oog op innovatie en achteraf mogelijk schade gecompenseerd kan worden. Landen buiten de EU zijn het dus niet altijd eens met de wetgeving op basis waarvan de EU een boete oplegt aan “hun” bedrijven. Uiteraard, en dat hebben we helaas al vaker gezien, kan het ook zeker bij Europese bedrijven flink misgaan. Ook daar geldt een spanningsveld tussen naleving van de wet en het nastreven van commerciële belangen. Inmiddels weten we dat het vaak simpelweg loont om de wet te overtreden en de boete gewoon te incasseren.”
Burgers, maar ook juridische professionals, wordt vaak op het hart gedrukt om zelf goed na te denken, verantwoord met AI om te gaan en te bedenken welke data je wel en niet aan het systeem geeft. Maar kunnen we dat wel van mensen verwachten, als niemand zicht heeft op wat er in de black box met die data gebeurt? Is er wat dat betreft nog verschil tussen bijvoorbeeld advocaten en doorsnee burgers?
“We kunnen dat alleen verwachten als we onze kinderen van jongs af aan goed onderwijs bieden over hoe om te gaan met technologie, en dan niet alleen AI. Maar daar is volgens mij nog veel winst te behalen. Vaak worden mensen pas echt wakker als ze zelf geconfronteerd worden met de nadelen van technologie, en dan is het te laat.
Ik ben ook niet overtuigd dat het probleem nu echt is dat we niet precies weten wat er in de black box gebeurt, en ik weet ook niet of transparantieverplichtingen die daar meer uitleg over geven de burger nu echt bewuster met AI doen omgaan. Wat precies de impact en consequenties kunnen zijn en wat dat voor jezelf en de medemens kan betekenen, heeft denk ik een grotere informatieve waarde voor bewustwording.
Bij professioneel gebruik, zeker wanneer dat gebruik grote impact kan hebben op de rechten en vrijheden van mensen, is zeker een hogere standaard vereist om AI in te mogen zetten. Dit geldt niet alleen voor juristen en volgt niet alleen uit nieuwe verplichtingen zoals AI-geletterdheid, maar ook uit meer algemene zorgplichten.”
Wat is het meest hardnekkige misverstand over legal AI dat u graag uit de wereld zou helpen?
“Ik denk dat voor elke AI geldt dat het niet meer is dan een hulpmiddel en dat het dus geen vervanging is van ons eigen kritische denken. We kunnen complexe taken, zoals juridische analyses die verder gaan dan een simpele “als-dan” toepassing, niet geheel aan AI overlaten. Het blijft de menselijke taak om te controleren, te verifiëren, kritisch te reflecteren en pas dan keuzes of beslissingen te nemen.”
Welke recente trend of gebeurtenis op AI-gebied in juridische context heeft u verrast?
“Ik weet niet of verrast het goede woord is, maar in relatie tot het opleiden van juridische studenten vind ik het wel interessant om te zien dat het debat zo aan het polariseren is tussen enerzijds “alle studenten worden dommer” of “alle studenten worden slimmer” door AI. Daarmee samenhangend het verschil van mening dat “we weer terug moeten naar analoog” of juist “we moeten onze studenten compleet vrijlaten met AI”. Het is in ieder geval zeker dat we de komende jaren nog heel veel zullen moeten leren over hoe we juristen precies op moeten leiden in een wereld waarin AI nu eenmaal niet meer weg te denken is.”
Is er ook een ontwikkeling op het gebied van legal AI waar u zich zorgen over maakt?
“Ik maak me bijvoorbeeld zorgen om equality of arms: wat gaat de impact van AI zijn op het beginsel van gelijke kansen en mogelijkheden binnen het rechtssysteem? Gaat het niet kunnen beschikken over bepaalde (dure) specialistische AI-systemen het voor minder kapitaalkrachtigen nog moeilijker maken om hun recht te halen? Iets wat nu al heel moeilijk is in relatie tot de grote tech-bedrijven; kijk maar naar de enorme (financiële) worstelingen binnen WAMCA (massaschade) zaken. Ook vraag ik me af wat de impact van AI op de bewijsvoering gaat zijn: deepfakes, of juist claims dat de waarheid een deepfake is, kunnen een ondermijnende werking hebben op waarheidsvinding.”
Als u het voor het zeggen had, welke regel of wet rondom AI-gebruik zou u dan vandaag nog invoeren?
“Om dan maar in de sfeer van die deepfakes te blijven: ik ben het eens met andere auteurs die al geschreven hebben dat deze, gezien het misbruik op grote schaal dat er in de samenleving van gemaakt wordt, strenger gereguleerd moeten worden dan nu het geval is onder de AI Act.”
Is de juridische sector straks beter of slechter af dankzij AI, denkt u?
“Een heel flauw antwoord, maar als we leren om op een verantwoorde manier om te gaan met AI en als we dat ook allemaal doen, dan heeft AI de potentie om heel veel beter te maken. Maar voor we zover zijn of ooit zover komen, zullen er zeker nog de nodige schandalen, ook binnen de juridische wereld, naar boven komen over onverantwoord en gevaarlijk gebruik of zelfs misbruik van AI, wat dan hopelijk zorgt voor meer bewustwording en een meer kritische blik.
En laten we dan hopen dat we in ieder geval van de Toeslagenaffaire geleerd hebben dat niet alleen wetgeving aan de voorkant noodzakelijk is, maar ook een goed systeem om, wanneer het misgaat, de rotzooi snel en efficiënt op te ruimen en via de menselijke maat de gedupeerden te compenseren.”
