Op 8 december is er in Brussel, na intensief overleg en lobbypraktijken, een voorlopig akkoord bereikt over regels om AI op Europees niveau aan banden te leggen. Deze nieuwe ‘AI Act’ moet gaan zorgen voor een betere grip op de inzet van kunstmatige intelligentie. Het reguleert de ontwikkeling en implementatie van (opkomende) AI-technologieën met als doel ethische normen vast te stellen, de privacy van individuen te beschermen en de impact van AI op de arbeidsmarkt in te perken dan wel te beheersen. Er wordt veel waarde gehecht aan het beschermen van grondrechten, democratie, rechtstaat en het milieu tegen de werkingssfeer van AI-systemen.
Een van de kernpunten van de wet is de classificatie van verschillende toepassingen van kunstmatige intelligentie in verschillende risicocategorieën: hoe hoger het risico, hoe strenger de vereisten. Daarnaast wordt er nadruk gelegd op transparantie en de verantwoordingsplicht bij de ontwikkeling van AI-systemen. Zo moeten bedrijven documentatie verstrekken over hoe hun systemen werken: dit schept de mogelijkheid voor externe instanties om de technologische, ethische en juridische implicaties te beoordelen. Denk hierbij aan informatie over gegevensverzameling en -verwerking. Ook moeten bedrijven zich inzetten om ongerechtvaardigde verschillen in behandeling te voorkomen. Dit kan immers in sommige gevallen discriminatie in de hand werken. Ten slotte hebben burgers ook het recht om te weten wanneer ze met een AI-systeem te maken hebben.
Bovendien gaat de nieuwe regelgeving op bepaalde terreinen zo ver dat de toepassing van kunstmatige intelligentie verboden wordt. Denk hierbij bijvoorbeeld aan (gezichts)herkenning op beveiligingsbeelden of het herkennen van emoties door middel van beeldopnames. Met dit soort toepassingen kunnen democratische waarden en individuele vrijheden in het geding komen, wordt gevreesd. Hoewel veel mensen voorstander zijn van het in toom houden van kunstmatige intelligentie, een voor velen nog wat abstract, ongrijpbaar en soms wat angstig concept, zijn er ook criticasters. Zij doelen dan vooral op nadelige gevolgen voor innovatie en concurrentie.
Wat je er ook van vindt, de nieuwe wetgeving afkomstig uit Brussel vertegenwoordigt in ieder geval een mijlpaal wat betreft dit onderwerp. Het is wereldwijd dan ook de eerste in zijn soort. De Europese Unie hoopt door het reguleren van AI aan risicomanagement te doen, ter bescherming van het evenwicht tussen technologische vooruitgang en het goede dat daaruit voort kan komen enerzijds en de bescherming van fundamentele rechten van haar burgers anderzijds.
De AI Act moet nog meerdere stadia door in het wetgevingsproces van de Europese Unie voordat het naar verwachting begin 2025 in werking zal treden. Tegelijkertijd zal het maatschappelijk debat ondertussen onverminderd doorgaan. Het laatste woord is hier dan ook nog niet over gezegd of geschreven.