Op 1 augustus 2024 is de AI-verordening in werking getreden. Die moet ervoor zorgen dat AI (kunstmatige intelligentie) in de EU veilig en betrouwbaar wordt ontwikkeld en toegepast. Vóór augustus 2025 moeten de lidstaten nationale toezichthouders (’grondrechtenautoriteiten’) aanwijzen, die toezien op de naleving van de AI-verordening, inclusief de bepalingen daarin die grondrechten – zoals het recht op non-discriminatie – beschermen.
Bevoegdheden
Deze autoriteiten kunnen in hun werkzaamheden te maken krijgen met gebruik van AI. De AI-verordening kent hen daartoe een aantal bevoegdheden toe. Zo kunnen zij documentatie van hoogrisico AI-systemen opvragen en kunnen zij een verzoek indienen bij de markttoezichthouder om AI-systemen met een hoog risico te laten testen.
Informeren en samenwerken
Daarnaast dient de markttoezichthouder de relevante grondrechtenautoriteit te informeren bij ernstige incidenten, en over AI-systemen waarbij een risico voor grondrechten is vastgesteld. Als er corrigerende maatregelen moeten worden genomen, dan werkt de relevante markttoezichthouder hierin samen met de grondrechtenautoriteit. De taken van de grondrechtenautoriteiten onder de AI-verordening zien op artikelen die van toepassing zijn bij hoogrisico-AI-systemen. Dit betekent dat de eerste taken pas effectief kunnen worden vanaf 2 augustus 2026, het moment waarop de eerste bepalingen voor hoogrisico-AI-systemen van kracht worden.
College voor de Rechten van de Mens
Voor nu wordt het College voor de Rechten van de Mens vastgesteld als grondrechtenautoriteit Artificiële Intelligentie. Daarnaast wordt de Autoriteit Persoonsgegevens de grondrechtenautoriteit voor het gegevensbeschermingsrecht. De procureur-generaal bij de Hoge Raad, de voorzitter van de Afdeling bestuursrechtspraak van de Raad van State, het gerechtsbestuur van de Centrale Raad van Beroep en van het College van Beroep voor het bedrijfsleven worden ook grondrechtenautoriteiten, belast met het toezicht in het kader van de uitoefening van gerechtelijke taken.
Aanvullingen mogelijk
De lijst met grondrechtenautoriteiten is op 19 november 2024 met de Europese Commissie gedeeld en kan indien nodig worden aangepast. Er wordt nog verder onderzocht of ook andere autoriteiten als grondrechtenautoriteiten dienen te worden vastgesteld. Dan wordt die lijst aangevuld.
