De president van de Chinese Hoge Raad vroeg begin vorig jaar aan lokale rechtbanken om gebruik te maken van ‘Xiaofa’. Xiaofa is een robot die het antwoord weet op zo’n 40.000 rechtsvragen. Zullen rechters en advocaten op termijn worden vervangen door robots?
Minister Dekker stelt dat de nieuwe technologie ons vele aantrekkelijke mogelijkheden biedt. Zij kan dienen ter ondersteuning van het besluitvormingsproces en zij kan onder omstandigheden ook leiden tot het volledig geautomatiseerd nemen van beslissingen. Ik zal vast niet de enige zijn bij wie het idee van een ‘robotrechter’ nogal bizar in de oren klinkt. In juli 2019 presenteerde de Europese Commissie meerdere richtlijnen die het vertrouwen in kunstmatige intelligentie (KI) zouden moeten vergroten. Een groep deskundigen heeft een lijst met essentiële vereisten opgezet waardoor het vertrouwen gewaarborgd zou kunnen worden. Zie het overzicht hieronder met zeven belangrijke kernwaarden:
- Invloed en toezicht door mensen
Het is van belang dat KI-systemen rechtvaardige samenlevingen mogelijk maken doordat de mens invloed uitoefent en de grondrechten worden ondersteund. De autonomie van de mens mag niet worden verminderd, beperkt of misbruikt. - Robuustheid en veiligheid
Betrouwbare KI heeft behoefte aan algoritmen die zo veilig, betrouwbaar en robuust zijn dat tijdens de gehele levensduur van KI-systemen fouten of inconsistenties worden opgespoord en aangepakt. - Privacy en data-governance
Het is noodzakelijk dat burgers de volledige controle hebben over zowel hun eigen gegevens als gegevens die met hen te maken hebben. Deze mogen niet worden gebruikt om hen te schaden of te discrimineren. - Transparantie
De traceerbaarheid van KI-systemen moet zijn gewaarborgd. - Diversiteit, non-discriminatie en billijkheid
KI-systemen moeten rekening houden met het hele scala van menselijke capaciteiten, vaardigheden en eisen, en ze moeten toegankelijk zijn. - Maatschappelijk en ecologisch welzijn
KI-systemen moeten worden gebruikt om positieve sociale veranderingen te bevorderen en de duurzaamheid en ecologische verantwoordelijkheid te vergroten. - Verantwoordingsplicht
Er moeten mechanismen worden ingevoerd om de verantwoordelijkheid en verantwoordingsplicht voor KI-systemen en de resultaten daarvan te waarborgen.
De tijd zal ons leren hoe en in welke mate dit fenomeen zal gaan voorkomen…
