Op 1 augustus 2024 is de AI-verordening in werking getreden. Het doel daarvan is om de ontwikkeling en toepassing van veilige en betrouwbare AI-systemen te bevorderen, om de grondrechten van EU-burgers te beschermen en om innovatie te stimuleren. De AI-verordening is risico gebaseerd: de eisen zijn afgestemd op de mate van risico die de AI vormt voor veiligheid, gezondheid of fundamentele rechten. Hoe hoger het risico, hoe strenger de eisen. De AI-Verordening onderscheidt bijvoorbeeld verboden AI-praktijken (het verbod op manipulatieve AI en het ongericht scrapen van gezichtsafbeeldingen met behulp van AI) en hoog-risico AI-systemen.
Rechtshandhaving
EU-lidstaten moeten zelf regelen hoe zij het toezicht op de naleving van de AI-verordening willen organiseren. Voor toezichttaken op het gebied van rechtshandhaving, migratie-, asiel- en grenstoezichtbeheer, rechtsbedeling en democratische processen stelt de AI-verordening specifieke eisen aan de markttoezichtautoriteit, met name aan de mate van onafhankelijkheid. Een nadere invulling van het toezicht staat in een brief die staatssecretaris Willemijn Aerdts (Economische Zaken en Klimaat, portefeuille Digitale Economie en Soevereiniteit) naar de Tweede Kamer stuurde.
Procureur-generaal
Voor het toezicht op hoog-risico AI-systemen die worden ontwikkeld en gebruikt door de rechtbanken, de gerechtshoven, de Hoge Raad, de Centrale Raad van Beroep, het College van Beroep voor het bedrijfsleven en het parket bij de Hoge Raad wordt de procureur-generaal bij de Hoge Raad (PGHR) aangewezen. Voor het toezicht op die systemen die worden ontwikkeld en gebruikt door de Afdeling bestuursrechtspraak van de Raad van State (ABRvS) wordt dit de voorzitter van de ABRvS. Organisaties binnen die gebieden houden daarmee contact met de voor hen reeds bekende toezichthouders, ook als het over AI gaat.
Grondrechtenautoriteiten
Verder moet elke lidstaat een lijst publiceren waarin staat welke autoriteiten op het grondgebied reeds opereren als grondrechtenautoriteiten. Wie dat in Nederland is, vloeit voort uit artikel 77 van de AI-verordening en de regelgeving op grond waarvan deze nationale overheidsinstanties of -organen bevoegd zijn toe te zien op de naleving van de bescherming van EU-grondrechten. In Nederland zijn dit vooralsnog het College voor de Rechten van de Mens (CRM), de AP (vanuit het toezicht op het grondrecht op gegevensbescherming), de procureur-generaal bij de Hoge Raad, de voorzitter van de Afdeling Bestuursrechtspraak Raad van State (ABRvS), het gerechtsbestuur van de Centrale Raad van Beroep en het gerechtsbestuur van het College van Beroep voor het bedrijfsleven. Iedere lidstaat moet publiceren wie deze grondrechtenautoriteiten zijn en deze lijst actueel houden.
Financiering
Toezicht kost geld. Over de financiering doet staatssecretaris Aerdts in haar Kamerbrief nog geen toezeggingen. “Dit kan betekenen”, schrijft zij, “dat aanvullende financiële middelen nodig zijn of dat herprioritering binnen bestaande middelen wordt overwogen voor de uitvoering van deze taken.”
