Op last van het Braziliaanse hooggerechtshof is X per 31 augustus van dit jaar geblokkeerd voor inwoners van het Zuid-Amerikaanse land. X moet bovendien ruim drie miljoen dollar aan boetes betalen aan Braziliaanse toezichthouders. Aanleiding voor de blokkade: X doet te weinig aan de bestrijding van haatzaaien op zijn platform en overtreedt daarmee al langere tijd de Braziliaanse wet.
Het is een van de vele juridische geschillen waarmee het sociale netwerk van eigenaar Elon Musk zich heden ten dage geconfronteerd ziet, weet ook Gerrit-Jan Zwenne, hoogleraar Privacyrecht aan de Universiteit Leiden en de Open Universiteit. “De Europese Commissie is eind vorig jaar op basis van de Digital Services Act een procedure begonnen tegen X. Er is veel mis met Big Tech. En de DSA is een van de instrumenten waarmee daaraan wat kan worden gedaan.”
Shadowbanning
De DSA trad begin 2024 in werking, maar heeft nu al gediend als grondslag voor gerechtelijke uitspraken. Zwenne zag van dichtbij hoe Danny Mekić, promovendus bij het Centrum voor Recht en Digitale Technologie van de Universiteit Leiden (eLaw), in juli van dit jaar een tweetal ‘DSA-zaken’ van X won. Dat leverde de promovendus diezelfde maand de titel ‘Mr. van de week’ op.
Mekić ontdekte dat hij door X een zogeheten shadowban had ontvangen: zijn account was nog wel actief, maar kon niet meer gevonden worden, ook niet als je er gericht naar zocht. Zo’n shadowban is een dubieus middel om het bereik van specifieke gebruikers te beperken, zonder iemands account daadwerkelijk te blokkeren. Mekić ontving de shadowban nadat hij een NOS-artikel deelde – onterecht, zo oordeelde de rechter, die X in twee afzonderlijke zaken op de vingers tikte.
“Die uitspraken zouden voor X aanleiding moeten zijn om serieuze aanpassingen aan te brengen in de dienstverlening, en wellicht ook in het verdienmodel”, legt Zwenne daarover uit. Over dat verdienmodel gaat het nu ook in Europa. Het zogeheten ‘blauwe vinkjes-model’, waarmee X extra inkomsten genereert naast die uit advertenties, ligt daar onder vuur. Het zou misleidend zijn, in de zin dat een blauw vinkje richting gebruikers de indruk wekt dat een account betrouwbaar en veilig is. Dat terwijl ook desinformatie verspreidende, malafide accounts eenvoudig zo’n vinkje kunnen kopen en behouden.
Vrijheid van meningsuiting
Elon Musk, sinds oktober 2022 eigenaar van X (toen nog Twitter geheten), legt zulke kritiek doorgaans naast zich neer. Op de blokkade op last van het Braziliaans hooggerechtshof reageerde hij door de hoogste rechter van het land uit te maken voor ‘dictator’. Ook de waarschuwingen vanuit de Europese Commissie lijkt hij niet ter harte te nemen: Musk beroept zich op de vrijheid van meningsuiting. Moderatie, accounts blokkeren en content verwijderen zou neerkomen op censuur, zo betoogt de veelbesproken ceo van het bedrijf. Maar hoe steekhoudend is dat argument?
“De vrijheid van meningsuiting is niet onbegrensd”, zegt Zwenne daarover. “Zeker waar het gaat om misinformatie is het maar de vraag wat daarvan de bijdrage is aan het publieke debat. Bij gemanipuleerde videofilmpjes en foto’s mag je op zijn minst verwachten dat erbij wordt vermeld dat het gemanipuleerd is. En juist dat deed Musk niet.”
Zwenne verwijst daarmee naar een akkefietje uit juli van dit jaar: Musk deelde een AI-bewerkte video van Kamala Harris, de Amerikaanse vicepresident, zonder erbij te vermelden dat het om een AI-bewerking ging. Dat is tegen de gedragsregels van X. Het leidde tot de opmerkelijke situatie dat de eigenaar van een platform de gedragsregels van datzelfde platform overtrad. Reageren op de ophef die daardoor ontstond, deed Musk niet.
Boetes
Of Musk ermee wegkomt om alle waarschuwingen en juridische complicaties zomaar naast zich neer te leggen en onder het tapijt der vrijheid van meningsuiting te vegen, is zeer de vraag, concludeert ook Guido Grevink van ICTRecht. In zijn functie als Program Manager Legal hielp hij al diverse bedrijven compliant te worden aan de nieuwe DSA en voerde hij voor tal van partijen inventarisaties uit om te bepalen in hoeverre de DSA voor hen geldt. Als X op de huidige voet doorgaat, brengt dat volgens Grevink zonder twijfel consequenties mee in relatie tot de DSA.
“Ik verwacht dat er boetes gaan komen”, zegt Grevink ondubbelzinnig. “Hoge boetes. Op grond van de DSA kunnen boetes tot zes procent van de jaaromzet van een bedrijf worden opgelegd. En dan gaat het om de wereldwijde omzet, niet alleen om de omzet in Europa.”
Volgens Grevink is het gebrek aan moderatie voor X het grootste risico in relatie tot de DSA. “De grote platforms zeggen altijd: het zijn de gebruikers die content plaatsen, niet wij, dus we zijn niet aansprakelijk voor die content. De DSA zegt juist: ook al ben je niet aansprakelijk, je hebt wel de verplichting om je platform veilig te houden. Hoe je dat doet, moet je zelf weten – de DSA zegt niet dat je minimaal dertig moderators in dienst moet hebben, bijvoorbeeld – maar je moet op een degelijke manier risico’s in kaart brengen en maatregelen treffen.”
Moderators ontslaan
Waar de verplichting om een platform veilig te houden het kloppende hart vormt van de DSA, deed Musk de afgelopen jaren juist het tegenovergestelde, constateert Grevink. “Een van zijn eerste acties als eigenaar was het ontslaan van bijna alle moderators. Hoe je het ook wendt of keert, dat komt de DSA-compliance van je platform niet ten goede. Het is evident dat X de regels ondermijnt en daarmee ernstige risico’s neemt.”
Musk ontsloeg moderators omdat moderatie wat hem betreft een beperking van de vrijheid van meningsuiting oplevert. Volgens Grevink klopt daar niet veel van. “Om twee redenen. Ten eerste: die vrijheid van meningsuiting is geen onuitputbaar recht en moet worden afgewogen tegen andere grondrechten. Zoals het recht om niet gediscrimineerd te worden. Het ene grondrecht houdt op waar het andere grondrecht begint.”
“Ten tweede: dat moderatie en de DSA de vrijheid van meningsuiting beperken, wordt alleen maar gezegd door mensen die de DSA nog nooit gelezen hebben. De DSA bevordert juist de vrijheid van meningsuiting. Je hebt als gebruiker van een platform als X op grond van de DSA bijvoorbeeld het recht om bezwaar te maken als jouw content wordt verwijderd. Je kunt naar een geschillenorgaan stappen. De DSA verplicht allerlei gereedschappen om als gewone burger je recht te halen en je mening te kunnen uiten, en het zorgt voor transparantie. Daar gaat Musk volledig aan voorbij.”
Collectieve acties
Of de modale X-gebruiker daadwerkelijk de strijdbijl oppakt en met de DSA in de achterzak het gevecht met zo’n groot platform aangaat, is echter nog maar zeer de vraag, denkt Zwenne. Hoewel het zijn collega Mekić lukte om X op de knieën te krijgen, is dat niet voor elke Europeaan weggelegd. “Er zijn weliswaar laagdrempelige procedures, maar de praktijk wijst uit dat een individuele internetgebruiker zich dan moet verweren tegen een handvol Zuidas-advocaten, die alles doen om de procedure zo ingewikkeld mogelijk te maken.”
“Als die internetgebruiker van de rechter gelijk krijgt, moet hij nog steeds heel veel moeite doen. X verlangt dat de uitspraak wordt vertaald door een beëdigd vertaler en vervolgens door een advocaat wordt betekend in Ierland, want daar is het Europees hoofdkantoor van dat sociale netwerk. Allemaal niet te doen, en veel te kostbaar, voor de meeste individuele internetgebruikers.”
Zwenne ziet daarom meer in collectieve acties, in plaats van zaken waarin individuele burgers het opnemen tegen een groot platform. “Collectieve acties, maar tot op zekere hoogte ook handhaving door toezichthouders. Het is wel jammer dat er in Nederland nog geen toezichthouder is omdat de uitvoeringswet nog niet is aangenomen.”
Die uitvoeringswet zou een Nederlandse autoriteit, zoals de Autoriteit Consument & Markt (ACM), de bevoegdheid geven om op basis van de DSA toezicht te houden op grote platforms. Als burger zou je dan geen gecompliceerde rechtszaak hoeven starten, maar zou je je bij die autoriteit moeten kunnen melden.
Desinformatie en illegale content
Zover is het echter nog niet, en tot op heden staat X nog altijd bomvol met desinformatie en andere problematische content. Onderzoek uit 2023 wees uit dat maar liefst 43 procent van de zoekresultaten op X op dat moment bestond uit desinformatie. Mede om die reden wordt het platform steeds vaker omschreven als ‘open riool’. Doordat X nauwelijks nog modereert, verbetert die situatie ook niet.
“Feit is dat er veel illegale content op het platform staat”, bevestigt Grevink. Onder de noemer illegale content vallen bedreigingen, maar ook haatzaaiende posts, doxing en gemanipuleerde foto’s en video’s. “Feit is echter ook dat het de gebruikers zelf zijn die zulke content delen. Die gebruikers moeten dus in principe ook worden aangepakt. Het probleem is alleen: dat kan vaak niet, omdat gebruikers die illegale content plaatsen, dat veelal anoniem doen. Je zou wel heel dom zijn om zoiets onder je eigen naam te plaatsen.”
Daarmee zijn we terug bij af, en is toch echt het platform zelf aan zet om door middel van gerichte maatregelen, zoals moderatie, de hoeveelheid illegale content terug te dringen. Grevink: “Politici krijgen bijvoorbeeld massaal doodsbedreigingen naar hun hoofd op X, en er gebeurt vrijwel niets tegen. Dat maakt uiteindelijk dat zij mogelijk hun mening niet meer durven uiten. Daarmee staat potentieel de vrije democratie onder druk. Dat kan nooit worden getolereerd.”
Politici en overheden
De aanwezigheid van al die illegale content ten spijt, zijn Nederlandse autoriteiten, overheden en politici onverminderd actief op X. In juli werd bijvoorbeeld bekend dat de nieuwe staatssecretaris Digitalisering Zsolt Szabó een X-account heeft aangemaakt, terwijl zijn voorganger Alexandra van Huffelen in januari met X stopte. Onderzoeksjournalist Rutger Otto van NU.nl deed navraag bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties en kreeg bevestigd dat ‘bewindspersonen door de directie Communicatie geadviseerd worden om accounts op verschillende sociale media te openen. Alle bewindspersonen van Binnenlandse Zaken en Koninkrijksrelaties gebruiken dezelfde socialemediaplatforms, waaronder X.’
Niet alleen Nederlandse kabinetsleden maken massaal gebruik van X. Ook overheden en belangrijke rechtsstatelijke instituten als de Hoge Raad, de Raad van State en het Openbaar Ministerie hebben en onderhouden accounts op het onder vuur liggende platform. Bovendien hebben alle gerechten van Nederland er een actief account.
Ongemakkelijk
Het levert de ongemakkelijke realiteit op dat een platform dat onophoudelijk juridisch in de clinch ligt met toezichthouders binnen en buiten Europa, omdat het doorlopend wetgeving overtreedt, tegelijkertijd wel massaal gebruikt wordt door degenen die de wetten maken en de rechtsstaat verdedigen. Grevink begrijpt evenwel dat politici en overheidsinstanties niet zomaar hun account op X opheffen.
“Overheden hebben de plicht om burgers te bereiken, en burgers slaan helaas de Staatscourant weleens over. Burgers zitten op YouTube, op Facebook, en ook op X. Mocht X in de toekomst inderdaad forse boetes opgelegd krijgen of zelfs geblokkeerd worden in de Europese Unie, dan wordt het een ander verhaal, maar tot die tijd is het prima te onderbouwen dat je als politicus of organisatie nog actief bent op het platform.”
Zwenne is het in grote lijnen met die zienswijze eens. “Er zijn ongetwijfeld veel burgers die via andere kanalen niet goed kunnen worden bereikt. En dan kan het voor de hand liggen om, ondanks de bezwaren tegen zo’n netwerk, toch daarvan gebruik te blijven maken. Maar dan nooit exclusief, zodat je als burger desgewenst ook nog langs andere kanalen gemakkelijk de informatie kunt verkrijgen.” Maar, voegt hij toe, “ergens houdt het natuurlijk wel op. Als bijvoorbeeld blijkt dat wetten en regels structureel niet goed worden nageleefd, moet dat een reden zijn om ermee te stoppen.”
Ermee stoppen
Ermee stoppen: exact dat deed Mr. medio augustus. In een laatste post op X kondigde de redactie aan afscheid te nemen van het platform. Geen lichtzinnig besluit, want met meer dan tienduizend volgers was X goed voor ruim tien procent van al het binnenkomende verkeer op de Mr.-website. Toch hakte managing editor Michiel van Kleef in samenspraak met de uitgever de knoop door.
“De vrees is dat X-eigenaar Musk zijn almaar toenemende macht en invloed, denk ook aan het satellietsysteem Starlink, ook zal inzetten voor zijn weinig frisse persoonlijke en politieke doeleinden. Zijn actieve steun aan Donald Trump is daar een recent voorbeeld van”, licht Van Kleef het besluit toe in het redactioneel van de nieuwste editie van het magazine. Van Kleef zag hoe het besluit – dat ook op LinkedIn bekend werd gemaakt – tientallen reacties losmaakte. Het overgrote deel van die reacties was begripvol van aard, maar er werden ook kritische noten gekraakt.
“In veel gevallen werd erop gewezen dat X – zelfs nu nog – een relevante bron van informatie is. Maar dat is iets dat wij ook vinden, en een van de redenen dat we vrij lang hebben geaarzeld met het nemen van deze stap. Dat is ook het schizofrene van X: enerzijds heel veel interessants, anderzijds zoveel haat en nijd”, legt Van Kleef uit.
Begrip
De kritiek nam in enkele gevallen helaas ook ruwere vormen aan, stipt Van Kleef tot slot nog aan. “Er waren er ook die ons vertrek ‘laf’ noemden, daarmee brandstof gevend aan de verruwing van de omgangsvormen op social media. Hun redenering komt erop neer dat we in gesprek moeten blijven met andersdenkenden, hoezeer hun opvattingen ook gericht zijn op disruptie en ontwrichting.”
“Maar die gedachte van dialoog, daar geloven we niet meer in. X is verworden tot een plek waar de megafoon de dialoog terroriseert. Het gezegde luidt: ‘Alles wat je aandacht geeft groeit’. En dat is de reden waarom Mr. ervoor kiest geen deel meer uit te maken van dit platform.”
Zwenne kan het besluit van Van Kleef en de Mr.-redactie goed volgen: “We zien dat er via het netwerk heel veel misinformatie wordt verspreid, nota bene door de eigenaar ervan. Ook zien we de onaangename gevolgen van het wegvallen van effectieve moderatie. Evident onjuiste of schadelijke berichten worden niet, of veel te laat, verwijderd. En dan heb ik het nog niet eens over kwalijke praktijken als shadowbanning of het zomaar, zonder toestemming van gebruikers en zelfs zonder deze te informeren, trainen van AI-systemen als Grok van xAI. Ik kan heel goed begrijpen dat de uitgevers en redacteuren daarmee niet in verband willen worden gebracht.”
