Wie betaalt de echte prijs van AI?

In een serie columns reflecteert Ilona van de Kooi op de impact van AI op het werk van de jurist. Deze keer over de werkelijke prijs van AI. Juristen adviseren hun cliënten dagelijks over risico’s en afhankelijkheden. Ondertussen maken ze zichzelf steeds afhankelijker van Big Tech. En ze betalen er nog voor ook.

Delen:

beeld: AI generated

De kunst van het verleiden

Voor een abonnementsprijs van enkele tientjes tot honderden euro’s per maand kunnen we nu AI intensief gebruiken, maar wat ‘kost’ dat gebruik ons eigenlijk echt?

In een artikel voor Mr. komen Elgar Weijtmans, Mark Zijlstra en ik aan het woord over de werkelijke kosten van AI. Elgar legt daarin uit dat de financiële kosten van intensief AI-gebruik veel hoger kunnen liggen dan de abonnementsprijs die we betalen. Zeker nu AI-agents zelfstandig aan het werk gaan en enorme hoeveelheden tokens verbruiken. Naast die mogelijk financiële fuik, bouwen we een enorme afhankelijkheid op. Big Tech bouwt aan het narratief dat wij nooit meer zonder generatieve AI kunnen.

Aanvankelijk waren veel generatieve AI-diensten gratis toegankelijk, daarna kwamen de betaalde abonnementen, met toegang tot geavanceerdere modellen en in sommige gevallen extra privacybescherming. Worden we misleid door de (te) goedkope abonnementen en de immer op interactie sturende inrichting van deze platforms? We worden in ieder geval continu verleid om nog een vraag te stellen, onze e-mail te koppelen, onze documenten te delen of weer een nieuw model of nieuwe functie uit te proberen. Achter de interface van de chatbot, vaak een strak vormgegeven pagina met een tekstvak dat uitnodigt om een vraag te stellen, gaan commerciële belangen en allerlei ontwerpkeuzes schuil. Als gebruikers zien we maar een deel. Dave Murray-Rust en Elisa Giaccardi beschrijven in Interfacing in Crisis hoe generatieve AI onze vertrouwde verhouding tot interfaces verandert. Zelfs de vraag wat of wie er tijdens de interactie met AI eigenlijk denkt, spreekt of schrijft, is onduidelijk. Wat de gebruiker daarvan ziet, is een ontwerpkeuze.

Cory Doctorow gebruikt de term enshittification, in het Nederlands ook wel platformverval genoemd, voor een patroon waarbij platforms eerst gebruikers aantrekken met aantrekkelijke diensten en vervolgens steeds meer voordelen naar zichzelf toe trekken, ten koste van gebruikers. Ook juristen ontdekken de mogelijkheden van platforms als die van OpenAI en Anthropic. Wat begint met een paar handige toepassingen, kan geleidelijk uitgroeien tot een vast onderdeel van ons dagelijks werk. En hoe meer we onze werkwijze daarop inrichten, hoe afhankelijker we worden van de aanbieders. Probeer dan maar eens over te stappen of helemaal te stoppen.

Wie betaalt de rekening, en wanneer?

De werkelijke kosten gaan veel verder dan tokens. Achter AI schuilt ook een enorme hoeveelheid menselijke arbeid. Mensen die data verzamelen en labelen, AI-systemen trainen en schadelijke of schokkende inhoud beoordelen. Werk dat vaak wordt uitgevoerd door laagbetaalde arbeidskrachten, bewust ver buiten ons zicht gehouden in de manier waarop AI aan ons wordt gepresenteerd en verkocht. In een vorig jaar verschenen artikel onderzoekt Fernando Secomandi hoe Big Tech dit datawerk uitbesteedt aan arbeidskrachten in het mondiale Zuiden en welke machtsverhoudingen daarbij een rol spelen. De lage prijs die wij betalen, zegt weinig over de prijs die anderen daarvoor betalen. Tel daar overigens het verbruik van elektriciteit, water en grondstoffen bij op, evenals de kosten voor organisaties om AI verantwoord en veilig in te zetten, van governance, juridische en ethische kaders tot cybersecurity en het beheersen van risico’s van externe leveranciers. En dan vergeet ik bijna de mogelijke financiële en imagoschade ‘als’ het misgaat.

Ik zie een mogelijke toekomst waarin een leverancier zijn prijzen vertwintigvoudigt of een dienst simpelweg stopzet. Tegen die tijd kunnen organisaties hun hele werkproces rond die technologie hebben ingericht, waardoor overstappen ingewikkeld en kostbaar wordt. Daarom lijkt het mij verstandig bij de inzet van AI regelmatig opnieuw te onderbouwen waarom we voor bepaalde technologie kiezen en welke juridische, financiële en organisatorische afhankelijkheden we daarmee opbouwen en accepteren. Commerciële AI-diensten combineren met open modellen die je zelf kunt beheren, kan helpen om alternatieven beschikbaar te houden. Dat vraagt ook om investeringen in kennis, infrastructuur en beheer. Grote(re) advocatenkantoren hebben doorgaans meer middelen om daarin te investeren. Voor de sociale advocatuur ligt dat heel anders. Wie kan zich straks nog veroorloven om onafhankelijk te blijven?

Wie betaalt, bepaalt?

Als we niet precies weten wat AI ons werkelijk kost, hoe kunnen we dan bepalen welke prijs we bereid zijn te betalen? Daarbij moeten we verder kijken dan de huidige financiële kosten en ons afvragen welke waarden we belangrijk vinden bij het ontwerpen en gebruiken van technologie. En die keuzes moeten we vervolgens ook technisch mogelijk maken, want zolang we dat nalaten, blijven we afhankelijk van puur commerciële belangen. Big Tech bepaalt nu grotendeels de spelregels én verdient er grof aan. Hoe zorgen we ervoor dat we daar zelf meer over te zeggen krijgen?

Van verbieden naar (her)ontwerpen

Barbara Kathmann (PRO) pleit voor een verbod op manipulatief ontwerp van digitale diensten, waaronder chatbots. Een goed begin, maar met een verbod alleen zijn we er niet. Juist juristen zouden moeten begrijpen hoe belangrijk het is om zicht te hebben op de risico’s en afhankelijkheden die je aangaat. Maar hoe beoordeel je die? Je kunt nu eenmaal moeilijk rekening houden met wat je (nog) niet weet.

Wat voor een jurist buiten beeld blijft, kan voor een ontwerper of engineer juist vanzelfsprekend zijn en andersom. Pas als de benodigde perspectieven samenkomen, zien we welke andere keuzes er mogelijk zijn. Precies daar gaan we op 18 november tijdens Just Design It! samen mee aan de slag. Het Justice by Design Lab van de TU Delft organiseert dit evenement op de campus in Den Haag. Daar buigen juristen, ontwerpers en engineers zich over vraagstukken uit de praktijk en ontwerpen ook oplossingen. Ook Dave Murray-Rust en Fernando Secomandi doen mee. Dus waar wacht je nog op? Schuif aan en ontwerp mee.

Delen:

Het belangrijkste nieuws wekelijks in uw inbox?

Abonneer u op de Mr. nieuwsbrief: elke dinsdag rond de lunch een update van het nieuws van de afgelopen week, de laatste loopbaanwijzigingen en de recentste vacatures. Meld u direct aan en ontvang elke dinsdag de Mr. nieuwsbrief.

Scroll naar boven