De impact van de AI-Act: dit moet je weten
De AI-Act bepaalt of jouw organisatie een hoog risicoprofiel heeft en welke verplichtingen daarbij horen. Volgens Bart is er nog veel onwetendheid: “Veel bedrijven realiseren zich niet dat ze door kleine aanpassingen aan AI-systemen plotseling als ‘aanbieder’ worden gezien. Dat brengt een berg extra verplichtingen met zich mee. Dat betekent dat je niet zomaar AI-oplossingen zoals ChatGPT kunt inzetten in hoog-risico-sectoren zoals HR, finance of juridische dienstverlening. Doe je dat toch, dan kun je zomaar aan de beurt zijn voor een flinke compliance-check.”
Wat zijn de risicocategorieën binnen de AI-Act?
De AI-Act onderscheidt verschillende risiconiveaus. AI-toepassingen vallen in een van de volgende categorieën:
- Verboden AI: denk aan toepassingen die manipulatief zijn of sociale scoring mogelijk maken.
- Hoog risico: AI-systemen die invloed hebben op fundamentele rechten, zoals HR-beslissingen, rechtspraak of kredietverlening.
- Beperkt risico: AI-modellen die interactie hebben met gebruikers, zoals chatbots, waarbij transparantie verplicht is.
- Minimaal risico: toepassingen zoals spamfilters of videogames, waarvoor weinig extra regelgeving geldt.
Bart benadrukt: “De AI-Act dwingt bedrijven een keuze te maken. Blijf je puur afnemer of stap je in de rol van aanbieder met alle gevolgen van dien?” Daarnaast waarschuwt hij voor verborgen risico’s: “Wat veel organisaties niet beseffen, is dat als je een bestaand AI-model aanpast, je mogelijk onder de aanbieder-regels valt. Dit kan betekenen dat je een volledig compliance-systeem moet inrichten, inclusief kwaliteitsbeheer en risicobeoordeling.”
Nieuwe wetgeving en toekomstige verplichtingen
De AI-Act staat niet op zichzelf. De wetgeving wordt verder aangescherpt met aanvullende regelgeving zoals de European Data Spaces, de Data Act en een Code of Conduct. “De AI-Act is pas het begin. Straks komen daar nieuwe richtlijnen bij die de verantwoordelijkheid rondom data-uitwisseling en transparantie verder zullen uitbreiden. Dit betekent dat organisaties structureel hun AI-gebruik moeten blijven evalueren”, aldus Bart.
Vergis je niet: AI werkt anders dan traditionele software
Een foutje in een AI-model kan grote gevolgen hebben. Het is niet zoals bij een standaard software-update. Om een metafoor te gebruiken, denk eens aan een skilift: als een exploitant zelf de kabels en snelheid aanpast, is hij ineens verantwoordelijk voor de veiligheid. Hetzelfde geldt voor AI. Zodra je een bestaand model aanpast, ben je juridisch verantwoordelijk voor de uitkomsten.
Bart geeft een treffend voorbeeld: “Stel je voor dat een gemeente ChatGPT inzet om bezwaarprocedures automatisch af te handelen. Op het moment dat dit model beslissingen neemt die burgers raken, kunnen er juridische gevolgen zijn. Je wordt dan aansprakelijk voor de uitkomst en moet voldoen aan alle eisen van de AI-Act.”
Wat kun je nu doen?
De AI-Act is complex, maar jij hoeft dat niet in je eentje uit te zoeken. Houdt vast aan een helder overzicht van de wetgeving en een concrete aanpak.
- Leer hoe je AI-compliant inzet zonder innovatie te remmen.
- Ontdek de strategische keuzes die de AI-Act afdwingt.
- Krijg inzicht in toekomstige verplichtingen en hoe je daarop voorsorteert.
- Ga naar huis met een concreet actieplan voor jouw organisatie.
Bart benadrukt: “De eerste stap die iedere organisatie nu al moet zetten, is werken naar AI-geletterdheid. Zorg dat medewerkers begrijpen hoe AI werkt, wat de risico’s zijn en waar ze op moeten letten. Dit alleen al kan voorkomen dat je onbewust in een juridische valkuil stapt.”
