Kansen en voordelen
AI biedt financiële instellingen een scala aan voordelen. Door het analyseren van enorme hoeveelheden data kunnen banken en verzekeraars hun klanten beter begrijpen en gepersonaliseerde producten aanbieden. Denk aan kredietbeoordelingen die rekening houden met een breed scala aan factoren, waardoor meer maatwerk kan worden geleverd bij de toe- of afwijzing van kredietaanvragen. AI kan ook helpen bij het opsporen van fraude en het tegengaan van witwassen, door patronen te herkennen die voor mensen moeilijk te detecteren zijn.
Daarnaast kan AI de efficiëntie van interne processen verhogen. Routinewerkzaamheden zoals het verwerken van transacties en het beantwoorden van klantvragen kunnen geautomatiseerd worden, waardoor medewerkers zich kunnen richten op complexere taken. Dit leidt tot kostenbesparingen en een hogere productiviteit .
Risico’s en uitdagingen
Maar AI brengt ook risico’s mee. Een van de grootste zorgen is de kwaliteit van de data die wordt gebruikt. AI-systemen zijn zo goed als de data waarmee ze worden getraind. Onjuiste of verouderde data kunnen leiden tot verkeerde beslissingen, met mogelijk ernstige gevolgen voor klanten en instellingen.
Daarnaast zijn er zorgen over gegevensbescherming en privacy. AI-systemen hebben toegang tot enorme hoeveelheden persoonlijke informatie, wat ze kwetsbaar maakt voor datalekken en cyberaanvallen. Financiële instellingen moeten ervoor zorgen dat ze voldoen aan strenge regelgeving om de privacy van hun klanten te beschermen.
Een ander belangrijk risico is de uitlegbaarheid van AI-beslissingen. Veel AI-algoritmen zijn complex en moeilijk te begrijpen, zelfs voor experts. Dit kan leiden tot een gebrek aan transparantie, waardoor klanten en toezichthouders niet volledig begrijpen hoe beslissingen worden genomen. Dit gebrek aan transparantie kan het vertrouwen in AI ondermijnen en juridische problemen veroorzaken.
Aansprakelijkheid
Op het gebied van aansprakelijkheid zijn de risico’s aanzienlijk. Als een AI-systeem een fout maakt, wie is dan verantwoordelijk? En hoe groot is de impact, gaat het dan bij iedereen fout en zo ja, in welke mate? Is het dan de ontwikkelaar van het algoritme, de financiële instelling die het systeem gebruikt, of de data-analist die de data heeft geleverd, die aansprakelijk gesteld kan worden? De Europese wetgever had daarom al in september 2022 een voorstel gedaan voor de Richtlijn inzake niet-contractuele civielrechtelijke aansprakelijkheid aan artificiële intelligentie (2022/0303), ook wel de AI Liability Directive genoemd. Hierin stond de aansprakelijkheid voor alle vormen van schade (geleden door natuurlijke personen en rechtspersonen) door AI-systemen centraal. Maar het voorstel voor deze AI Liability Directive is in februari 2025 ingetrokken. Het is mogelijk dat een aangepaste versie van de richtlijn opnieuw ingediend zal worden, maar ook dan zal het nog jaren duren voordat dit geldend recht is. Uiteraard is er nog wel de andere Europese en Nederlandse wetgeving, maar bijvoorbeeld op het punt van de openbaarmaking van de bewijsmateriaal had de AI Liability Directive echt iets toegevoegd aan de exhibitieplicht van artikel 194 Rv, die alleen maar werkt als de eiser een specifiek belang aantoont bij de afgifte van gevorderde stukken én de af te geven stukken voldoende door hem gespecificeerd worden. Dat zal zeker bij schade door een AI-systeem een groot probleem vormen: je weet niet wat je niet weet, dus hoe kun je daarom dan voldoende gespecificeerd vragen?
Financiële instellingen moeten zich bewust zijn van de mogelijke aansprakelijkheidsrisico’s en proactieve maatregelen nemen om deze te beperken. Zij staan als eerste in de wind als het mis gaat. Die risico’s moeten zij dus beperken door onder meer het implementeren van robuuste risicobeheerprocessen, het regelmatig controleren en bijwerken van AI-systemen, en het zorgen voor transparantie in de besluitvorming.
Conclusie
AI heeft het potentieel om de financiële sector ingrijpend te veranderen, maar het brengt ook aanzienlijke risico’s mee. Financiële instellingen moeten een balans vinden tussen innovatie en verantwoordelijkheid. Door zorgvuldig om te gaan met data, transparantie te waarborgen en proactieve maatregelen te nemen tegen aansprakelijkheid, kunnen ze de voordelen van AI benutten zonder de risico’s uit het oog te verliezen. Maar gaat het mis, dan is het allemaal nog niet zo eenvoudig.
