Over twee jaar is het normaal dat jouw persoonsgegevens zijn gelekt. Niet alleen je naam, telefoonnummer en BSN, maar ook jouw gezicht en jouw stem worden nagebootst. Criminelen combineren datasets en met hulp van AI werken zij sneller dan organisaties datalekken kunnen melden bij de Autoriteit Persoonsgegevens. De hack bij Odido is geen incident en ook het datalek bij een externe verwerker in het kader van het bevolkingsonderzoek naar baarmoederhalskanker is dat niet. Het is wel degelijk problematisch wanneer bedrijven onvoldoende zorgvuldig omgaan met persoonsgegevens, maar die onzorgvuldigheid is ook een uitkomst van hoe wij digitale verantwoordelijkheid hebben georganiseerd.
Iedereen een beetje digitaal verantwoordelijk
Zoals onder meer de Wetenschappelijke Raad voor het Regeringsbeleid heeft benadrukt, vraagt AI als systeemtechnologie om institutionele herinrichting. Toch blijft onze digitale verantwoordelijkheid in de praktijk vooral beperkt tot naleving en handhaving achteraf, via het strafrecht en via toezicht onder de Algemene verordening gegevensbescherming (AVG). Maar digitale verantwoordelijkheid gaat ook over de verdeling van risico’s, macht en prikkels in onze digitale infrastructuur. Momenteel is die verantwoordelijkheid versnipperd. Organisaties verzamelen en beheren grote hoeveelheden persoonsgegevens, vaak via ketens van externe verwerkers. Toezichthouders en het Openbaar Ministerie handhaven en burgers moeten vooral weerbaar zijn: phishing herkennen, sterke wachtwoorden gebruiken, tweefactorauthenticatie toepassen. Wanneer er iets misgaat, wordt onderzocht wie formeel verantwoordelijk is en kan uiteindelijk een boete of, in uitzonderlijke gevallen, een strafrechtelijke sanctie volgen. Die reactie corrigeert gedrag achteraf, maar verandert niet het systeem waarin het misbruik mogelijk werd. Digitale verantwoordelijkheid lijkt daarmee vooral een juridische verplichting achteraf, geen ontwerpprincipe vooraf.
Zolang de opbrengsten van dataverzameling bij organisaties liggen en de structurele risico’s grotendeels bij burgers, is de prikkel om data te verzamelen sterker dan de prikkel om data fundamenteel anders te organiseren of beter te beveiligen. En de eventuele boetes vloeien naar de staatskas, niet naar de burger wiens identiteit langdurig misbruikt kan worden. En civiele schadevergoeding voor burgers is complex, zolang concrete financiële schade nog niet aantoonbaar is. Digitale verantwoordelijkheid van organisaties of overheden lijkt daarmee vooral een reactie op incidenten, niet als ontwerpprincipe voor zorgvuldige omgang met persoonsgegevens of voor een toekomstbestendig identificatiemodel.
Generatieve AI maakt iedereen kwetsbaar
“Niet weer een nieuwe ronde regels over databeveiliging, maar vooruitkijken naar het AI-tijdperk”, zoals cybersecurity-expert Nicole van der Meulen scherp formuleerde in haar essay ‘Criminelen hebben jouw gegevens niet meer nodig’ in het FD. Identiteit bestaat niet langer alleen uit persoonsgegevens zoals een BSN of adres. Zij omvat ook biometrische kenmerken, zoals gezicht en stem, maar denk ook aan gedragsprofielen, zoals schrijfstijl, interactiepatronen en zelfs onze manier van bewegen. Wat ooit moeilijk te kopiëren was, is nu vrij gemakkelijk. Met generatieve AI kan een stem synthetisch worden gereconstrueerd op basis van enkele minuten audiomateriaal. Een gezicht kan overtuigend worden gegenereerd in video en een schrijfstijl kan worden nagebootst. Niet perfect, maar geloofwaardig genoeg om vertrouwen te wekken in digitale interacties.
Waar verificatie vroeger draaide om de vraag: Ben jij wie je zegt dat je bent? wordt de vraag nu: Hoe weten we nog dat jij werkelijk jij bent?
Het probleem is dus niet alleen dat persoonsgegevens uitlekken en dat organisaties ons daar slecht over informeren. Het echte probleem is dat identiteit niet langer uniek is, maar technisch te reconstrueren is, terwijl de verantwoordelijkheid voor de gevolgen vooral bij burgers terechtkomt.
De achterhaalde wijze van identificatie en financiële prikkels
Het onderliggende probleem ligt dus dieper. Ons identificatiemodel lijkt te rusten op drie impliciete veronderstellingen die in een digitale context steeds minder vanzelfsprekend zijn:
- Dat persoonsgegevens in beginsel geheim en controleerbaar kunnen blijven.
- Dat biometrische kenmerken moeilijk te reconstrueren zijn en daarom betrouwbare verificatiemiddelen vormen.
- Dat juridische aansprakelijkheid en handhaving voldoende tegenwicht bieden aan de structurele prikkels om data te verzamelen en rendabel te maken.
Wij identificeren ons nog steeds met: naam, geboortedatum, adres, BSN, kopie identiteitsbewijs. De huidige wijze van verificatie veronderstelt beheersbare verspreiding van persoonsgegevens. Zolang verificatie gebaseerd is op kenmerken die kwetsbaar zijn voor verspreiding of reproduceerbaar zijn, blijft misbruik van iemands identiteit mogelijk. Waar opbrengsten schaalbaar zijn en risico’s niet terechtkomen bij degene die de winst incasseert, ontstaat een businessmodel. Persoonsgegevens zijn dus niet alleen kwetsbaar, zij zijn economisch waardevol. In onze digitale economie worden persoonsgegevens gebruikt om mensen te profileren, diensten te personaliseren en risico’s in te schatten en daarmee wordt veel geld verdiend. Diezelfde economische logica drijft ook de illegale handel in data. Het gaat daarom niet alleen om betere beveiliging of strengere handhaving; zolang de handel in data winstgevend is en de risico’s niet terechtkomen waar de opbrengsten worden geïncasseerd, maakt het systeem misbruik mogelijk. Niet alleen de beveiliging van onze gegevens, maar ook ons identificatiemodel zelf vraagt om herontwerp.
De echte crisis
De Odido-hack is geen crisis omdat data uitlekken, de crisis is dat wij blijven vertrouwen op een identificatiemodel dat is ontworpen voor een analoge wereld, een wereld waarin biometrie niet te vervalsen leek en identiteit niet synthetisch kon worden gereconstrueerd. Wij hebben een infrastructuur gebouwd waarin onze identiteit makkelijk te kopiëren is. Voor miljoenen mensen is dit niet alleen een systeemfout. Hun naam, adres, bankrekeningnummer, identiteitsbewijs en soms zelfs uiterst kwetsbare persoonlijke informatie circuleert nu in onbekende netwerken. En het gaat niet alleen om ‘identiteit’ in juridische zin. Het onzorgvuldig handelen van organisaties kan blijvende, slopende gevolgen hebben voor echte mensen. Voor wie al wordt gestalkt, bedreigd of in een beschermde situatie leeft, verandert zo’n hack het leven onmiddellijk. Een adres dat rondgaat, een interne notitie die uitlekt, een kopie van een identiteitsbewijs, het kan bestaande dreiging versterken of opnieuw activeren. Dat laat zich niet herstellen met aansprakelijkheid achteraf; sommige schade is niet terug te draaien. Handhaving corrigeert normschendingen, maar herstelt geen vertrouwen en compenseert geen onomkeerbare schade. Wat is de waarde van handhaving als vertrouwen niet wordt hersteld en schade niet wordt gecompenseerd?
Maar het probleem reikt zelfs verder dan de schade van de huidige slachtoffers. Wanneer identiteit technisch reproduceerbaar wordt, raakt dat niet alleen individuele veiligheid, maar ook de betrouwbaarheid van digitale interacties zelf. Als AI niet alleen stemmen en gezichten kan nabootsen, maar ook overtuigend kan schrijven, redeneren en adviseren, wat betekent dat dan voor vertrouwen in digitale interacties in het algemeen? We vrezen dat AI ons werk overneemt, maar misschien ligt de werkelijke ontwrichting elders, niet in automatisering, maar in vertrouwen. Wanneer AI overtuigend kan spreken, schrijven en redeneren, wordt het steeds moeilijker vast te stellen wie of wat tegenover ons zit. Wat dan verschuift, is niet alleen arbeid, maar de betrouwbaarheid van digitale interacties zelf en daarmee de basis van onze digitale samenleving.
Nu identiteit technisch reproduceerbaar is geworden, gaat het niet langer om gegevensbeveiliging alleen, maar om de voorwaarden waaronder digitale interacties betrouwbaar kunnen blijven. Dat vraagt om heroverweging van de wijze waarop wij identiteit verifiëren, digitale verantwoordelijkheid en aansprakelijkheid organiseren.
