Wat zijn belangrijke juridische ontwikkelingen op het gebied van digitalisering en technologie?
Casper Jaspers: “Digitaal en technologie zijn niet langer ondersteunende functies in de maatschappij, maar de norm. Technologie ligt momenteel onder het vergrootglas van de wetgever, dat komt onder meer door privacyschandalen en de marktmacht van grote bedrijven zoals Meta, Alphabet en Apple. En als je de krant opent, lees je berichten over deep fakes, crypto’s en misinformatie. Overheden hebben de taak burgers te beschermen tegen de nadelige effecten van technologie, dat is de reden waarom men technologie en de rol van machtige platformen wil reguleren. De komende jaren vormen de Digital Services Act (DSA), de Digital Markets Act (DMA) en het reguleren van artificial intelligence daarvoor de belangrijkste peilers.”
Floris de Wit: “Het zijn voorstellen van de Europese Commissie, verordeningen die rechtstreekse werking hebben binnen de lidstaten. Het is overigens alweer 20 jaar geleden dat de wetgeving op dit gebied voor het laatst zo significant is aangepast.”
Jaspers: “Europa wil een voorloper zijn op dit gebied, net als eerder bij de wetgeving voor de bescherming van privacygegevens, de General Data Protection Regulation (GDPR). Die regelgeving vormt ook een kader voor Amerika en (in meer beperkte mate) China. Je ziet dat Amerika nu ook volgt op het gebied van artificial intelligence, men is gestart te werken aan een A.I. Bill of rights waarin bescherming tegen algoritmen is opgenomen.”
Wie krijgen te maken met de nieuwe voorstellen van de Europese Commissie?
Jaspers: “De DSA is onder meer relevant voor online tussenpersonen, social mediaplatforms en marktplaatsen, maar ook voor internetaanbieders en hosting providers. En de DSA bevat een aantal verplichtingen gericht op transparantie van het aanbod van deze bedrijven. In het geval van advertenties moet bijvoorbeeld duidelijk zijn dat een bericht, filmpje of post een advertentie is en van wie die advertentie is. Voor consumenten geldt dat zij met eenvoudige procedures makkelijker kunnen ingrijpen als fundamentele rechten worden geschonden. Tot slot worden de regels rondom het monitoren en verwijderen van illegale of potentieel schadelijke content aangescherpt.”
De Wit: “De DMA is gericht op gatekeepers als Meta, Apple en Google. Je zag dat deze bedrijven hun eigen producten voortrokken op hun platforms door ze bijvoorbeeld bovenaan in de zoekresultaten te tonen. Google werd bijvoorbeeld beticht van het bevoordelen van Google Shopping en de Europese Commissie legde het bedrijf een boete van 2,4 miljard euro op voor concurrentievervalsing. Die zaak onderstreept het belang van heldere regels. De DMA bevat nu bijvoorbeeld een verbod op het bevoordelen van eigen diensten. En er komen hoge boetes te staan op overtredingen: 6 tot 10% van de wereldwijde jaaromzet.”
Waar komt het toezicht op de naleving van de nieuwe regels te liggen?
Jaspers: “Dat is op dit moment nog niet helemaal duidelijk, maar de EU zal van nationale toezichthouders veel vragen. En er is bijvoorbeeld een separaat Nederlands voorstel om een toezichthouder op algoritmes in te stellen die ondergebracht moet worden bij de Autoriteit Persoonsgegevens (AP). Maar de vraag is of dat logisch is, want algoritmen hoeven niet alleen gericht te zijn op persoonsgegevens, het kan bijvoorbeeld ook gaan om prijsafspraken. Dan zou een toezichthoudende rol door de Autoriteit Consument & Markt (ACM) voor de hand liggen. En waar het de bescherming van de consument betreft op de financiële markten, is een toezichthoudende rol door de Autoriteit Financiële Markten (AFM) ook een optie. Gaat het om advertenties, dan is dat weer het domein van de Reclame Code Commissie. Technologie doorkruist alle sectoren.”
“Dat is ook de reden dat Martijn Snoep, de voorzitter van de ACM, de verschillende toezichthouders heeft opgeroepen om meer samen te werken”, vult De Wit aan. “Hij wil een taskforce oprichten waarin kennis kan worden gedeeld: het Samenwerkingsplatform Digitale Toezichthouders.”
Wat zijn juridische valkuilen rondom digitalisering en technologie?
De Wit: “Je moet doorgronden hoe deze complexe producten werken: hoe werken de algoritmen en welke data verzamelen ze? Pas dan kun je bepalen binnen welk regelgevend kader ze vallen. Overigens vind ik dit een leuk onderdeel van mijn werk. Soms is het een uitdaging om een innovatief technologieproduct echt te doorgronden. Ook dat vind ik een mooi aspect van mijn werk: ik ben aan de voorkant betrokken bij deze vernieuwende ontwikkelingen.”
Jaspers: “Lastig is dat technologische ontwikkelingen vaak voorlopen op de regelgeving: de techniek gaat sneller dan het trage wetgevingsproces. Neem bijvoorbeeld de GDPR die bepaalt dat persoonsgegevens verwijderd moeten kunnen worden. Binnen de techniek van blockchain is het niet mogelijk om gegevens te verwijderen. Hoe moet je daar dan mee omgaan? Je kunt de ontwikkeling van blockchain niet verbieden. Het feit dat technologie in alle sectoren wordt toegepast, maakt ook dat het volgen van de ontwikkelingen niet alleen voor zogenaamde technerds en techjuristen van belang is, maar juist voor een bredere groep van personen. Binnen het bestuursrecht speelt kunstmatige intelligentie bijvoorbeeld een rol in de wijze waarop gemeenten het systeem van het aanvragen van subsidies en persoonlijke budgetten heeft geregeld. En neem het recente voorbeeld van toeslagenaffaire bij de Belastingdienst waarin algoritmes zijn toegepast die discrimineren.
De Wit: “Voor advocaten, juristen en legal counsels geldt dat het belangrijk is om voorbereid te zijn op de invoering van de nieuwe Europese regelgeving rond digitalisering en technologie. We kunnen wat dat betreft leren van de invoering van de GDPR: bijna iedereen was te laat met de voorbereidingen hiervoor. Zorg dat je dat niet weer overkomt en zorg dat je over elementaire digitale kennis beschikt.”
Is uw kennis over de regelgeving rond digitalisering en technologie nog op peil? Casper Jaspers en Floris de Wit verzorgen op 17 mei 2022 de cursus ‘Artificial Intelligence, Digital Markets en Digital Services’. Meer info & inschrijven
Casper Jaspers is advocaat te Amsterdam en Floris de Wit is advocaat bij DLA Piper Nederland. Dit interview verscheen eerder op verderdenken.nl.
