Als het aan de Autoriteit Persoonsgegevens (AP) ligt, gaat het nieuwe kabinet haast maken met de uitvoering van de regelgeving voor artificiële intelligentie (AI) en het toezicht daarop. De AP waarschuwt voor grote risico’s op onveilige en discriminerende algoritmes, waartegen nu niet handhavend kan worden opgetreden. Dit blijkt uit de zesde editie van de Rapportage AI & Algoritmes Nederland (RAN), die de AP twee keer per jaar publiceert.
Grondrechten beschermen
De AP vertaalt, als ‘coördinerend toezichthouder’ op algoritmes en AI, risico’s als gevolg van AI naar negen graadmeters in de zogenoemde AI-Impactbarometer. In de vorige rapportage stegen twee van de negen graadmeters naar rood, nu zijn dat er vier van de negen. AP-voorzitter Aleid Wolfsen wijst erop dat ‘stevige’ regels voor algoritmes en AI, en de handhaving van die regels ontbreken. “Nu de druk om AI te omarmen toeneemt, moeten we grondrechten beschermen”, zo zegt hij op de website van de AP.
AI-verordening
De AP wijst erop dat risico’s van AI exponentieel toenemen. Ook proberen sommige organisaties onder de AI-verordening uit te komen door hun systemen als ‘gewone algoritmes’ te classificeren. Met die verordening moet betrouwbare AI in Europa worden bevorderd, met systemen die veilig zijn, grondrechten respecteren en tegelijkertijd innovatie mogelijk maken. Dit komt door besluiteloosheid onvoldoende van de grond, waardoor de invoering van AI-regels in gevaar komt, waarschuwt de AI.
Recidive
Een voorbeeld dat de AP noemt is OxRec, dat door reclasseringsorganisaties wordt gebruikt om recidive te voorspellen. Dat was als algoritme geregistreerd, terwijl het een AI-systeem is, met alle risico’s van dien. Om mensen te beschermen, vallen juist dit soort systemen onder de strenge regels van de AI-verordening. Elke week ziet de AP nieuwe registraties van systemen als algoritme in het algoritmeregister, terwijl het om AI-systemen gaat. Daardoor nemen de risico’s voor mensen voortdurend toe.
Uitvoeringswet
Deepfakes, AI-gestuurde fraude, psychische schade door chatbots – het neemt allemaal toe. Neem anders de wildgroei aan AI-stemwijzers en de problemen met Grok, een app waarmee niet van echt te onderscheiden naaktbeelden van ieder willekeurig persoon konden worden gemaakt. Dit brengt de bescherming van grondrechten en cyberveiligheid in gevaar, waarschuwt de AP. Daarom wil de AP dat het nieuwe kabinet vaart maakt van de uitvoering van de AI-verordening: de Nederlandse uitvoeringswet vaststellen, toezichthouders aanwijzen, financiering voor toezicht structureren en duidelijkheid scheppen over de toepassing van de regels.
