Praat een tijdje met Reijer Passchier (1987), en het technologisch vooruitgangsgeloof dat velen aanhangen zal snel plaatsmaken voor een bijna dystopisch wereldbeeld. Daar zouden vooral juristen van wakker moeten liggen, zegt hijzelf. Maar ja, die verdiepen zich te weinig in technologie. Ze hollen wel enthousiast achter AI aan, maar wat digitalisering doet met de democratische rechtsstaat – daar zijn ze minder mee bezig.
Machtsverschuivingen
Dat Passchier dat wel doet, blijkt wel uit zijn boeken De vloek van Big Tech en Artificiële intelligentie en de rechtsstaat, waarin hij onderzoekt welke impact technologie en digitalisering hebben op het functioneren van onze constitutie. “Door technologie verandert er heel veel in de samenleving, maar ook in het recht. Het recht kun je niet goed snappen zonder begrip van technologie. Digitalisering brengt enorme machtsverschuivingen mee en zet het functioneren van onze constitutie onder grote druk. Sterker nog, het is de vraag of de constitutie als fundament van de democratische rechtsstaat digitalisering gaat overleven.”
Disciplineren
Een samenleving zonder digitalisering is niet meer voor te stellen, zodat we met z’n allen vastzitten in een technology trap. “We moeten veel meer aandacht hebben voor de rechtsstatelijke en constitutionele dimensie van digitalisering. We moeten verder de macht van de computerprogrammeur disciplineren, zodat een computercode in overeenstemming is met de wet- en regelgeving. Daar schort het nog heel vaak aan.”
Ander wetgevingsproces
Bij digitalisering hoort ook een ander wetgevingsproces. “Op het moment dat je begint na te denken over een wet, moet je je al afvragen wat de ICT-componenten zijn. Dat kan door computerprogrammeurs en uitvoerders direct te betrekken bij het ontwerp van een wet.” Het is volgens Passchier hoog tijd dat we toegaan naar zo’n ‘wendbaar wetgevingsproces’, zoals zijn collega Mariette Lokin (bijzonder hoogleraar Wetgeven in de digitale rechtsstaat aan de Open Universiteit) het noemt.
Afhankelijk
Maar digitalisering heeft een ander en vooral zorgwekkend effect: een verdere concentratie van macht bij enkele heel grote bedrijven. De vraag die Passchier zichzelf stelt luidt: kunnen we Big Tech nog effectief aan regels binden? Zo nee, dan maken zij in feite de dienst uit. “En dat is waar we nu zo’n beetje zijn.” De opkomst van de grote machtsblokken zou ons zorgen moeten baren. We maken allemaal gebruik van Facebook of van Microsoft; we hebben ons daarvan afhankelijk gemaakt. Kunnen we nog van Big Tech af? Volgens Passchier wel: grotendeels is dat haalbaar en zelfs op afzienbare termijn als we dat écht zouden willen.
We zouden ons eigen Microsoft in Europa moeten bouwen?
“Wie zegt dat dit Big Tech-model het enige model is waarmee je technologie kunt organiseren? We moeten juist oppassen dat we in Europa niet ook een Big Tech laten ontstaan. Big Tech is een ramp voor de democratische rechtsstaat, ook die van Amerika. Dat moeten we in Europa juist heel anders proberen op te zetten. Met veel meer diversiteit in de markt. Kleinere bedrijven vanuit ecosystemen. Bedrijven die veel beter zijn ingebed in de samenleving. Die niet beursgenoteerd zijn en ten koste van alles streven naar groei van winst en macht. Bedrijven die bijvoorbeeld gebaseerd zijn op steward ownership. Wij hebben in Europa een fantastische traditie op dat terrein: een economie die wél in de context van de democratische rechtsstaat functioneert. Die traditie moeten we weer zien op te pakken en daarop onze eigen technologie gaan baseren. Zodat die technologie dus hopelijk menselijke waarde gaat dienen en niet de belangen van enkele miljonairs of zichzelf.”
Big Tech weren
Minstens zo belangrijk voor juristen: zo borg je ook veel beter je soevereiniteit en je autonomie. En kun je ook veel minder makkelijk door Amerikanen worden bespioneerd en gechanteerd. “Om die alternatieven echt tot bloei te laten komen, moeten we onbetrouwbare Amerikaanse bedrijven – en trouwens ook Chinese – van de Europese markt gaan weren. Velen houden zich structureel niet aan de Europese regels. We moeten de Digital Services Act en
de Digital Markets Act handhaven en dus zeggen: voor deze partijen is geen plaats op de Europese markt. Die handelen structureel in strijd met onze fundamentele waarden. Nu kunnen de allergrootste bedrijven hun gang gaan, ook al laten ze continu en expliciet blijken dat ze niets hebben met de democratische rechtsstaat of zelfs voor heel andere ideologieën staan.”
Techno-centrisme
We zien, zegt Passchier, dat het in veel gevallen onmogelijk wordt om die heel grote bedrijven aan deze regels te houden. “Zij bepalen de productstandaarden en algemene voorwaarden die je wel moet accepteren om überhaupt als mens te kunnen functioneren. Zij bepalen welke technologie er op de markt komt en of die technologie de risico’s waard is. Zij bepalen de algoritmes en sturen daarmee het maatschappelijk debat in de social media – en ondersteunen daarmee ook bepaalde politieke partijen. Zij bepalen zelf hoeveel belasting ze betalen, hoe de identiteit van kinderen zich op het internet ontwikkelt, hoe onze overheid functioneert. Dat wordt allemaal steeds minder door mensen in Brussel of Den Haag bepaald. Wat de Big Tech-bazen denken heeft vrijwel niets met de democratische rechtsstaat te maken. We volgen te veel hun bijna religieus techno-optimisme en techno-centrisme terwijl ze bezig zijn de staat uit te schakelen. En wij staan in hun dienst.”
Juristen zouden een belangrijke rol moeten spelen in het beschermen van de rechtsstaat.
“Maar zij leven nog veel te veel in een soort formele wereld. Zij hanteren allerlei uitgangspunten die niet meer gelden, zoals gelijkheid voor de wet. In een wereld met de huidige asymmetrische machtsverhoudingen is gelijkheid voor de wet in de praktijk een mythe. De wet is vaak een instrument voor de heel grote spelers om de wereld naar hun hand te zetten. Het recht is nu eenmaal niet neutraal. Ga je daar wel vanuit, bijvoorbeeld bij het reguleren van die bedrijven, dan kun je met je goede bedoelingen wel eens tegengestelde effecten bereiken. Dan ga je wetten maken om illegale informatie op het internet tegen te gaan, of om anti-competitief gedrag te blokkeren, of om privacy van burgers beter te beschermen. Maar dan creëer je zo’n complex digitaal regelregime dat alleen heel grote bedrijven daarmee kunnen omgaan. Daar raak je de eventuele concurrenten van Big Tech harder mee dan Big Tech zelf.”
Dit is een verkorte versie van het interview met Reijer Passchier dat in het nieuwe nummer van Mr. staat. Het is hier alvast te bekijken (alleen voor betalende abonnees).
