"De balans tussen innovatie en maatschappelijke waarden is een continue uitdaging"

Joris, kun je ons wat meer vertellen over jouw rol binnen de Volksbank en hoe je betrokken bent geraakt bij AI en ethiek?
“Zeker. Ik ben sinds 2019 ethicus en adviseur op het gebied van wat toen nog ‘eerlijke algoritmen’ heette bij de Volksbank. Daarnaast promoveer ik aan de Erasmus Universiteit op het onderwerp AI en ethiek.​ Mijn rol binnen de bank draait om het waarborgen van de ethische inzet van AI. Dat doe ik samen met collega’s binnen Compliance, waar ik de taak heb om mogelijke ethische risico's in onze eigen systemen op tijd op te sporen en te voorkomen. Sinds 2019 hebben we als Volksbank veel geleerd over wat werkt en wat niet in de aanpak bij AI, en we hebben manieren ontwikkeld om grip te houden op de ethische aspecten ervan. Dit heeft geleid tot concrete methodieken en beleidsvormen die we nu breder delen, zowel intern als extern, om anderen te laten zien hoe we dit hebben aangepakt. Een goed voorbeeld is dat we met een wetenschappelijke publicatie inzicht hebben gegeven in hoe we ethische toetsing hebben opgezet en ingeregeld en wat wel en niet werkte bij de ontwikkeling ervan. Daar kunnen anderen dan weer hun voordeel mee doen.

In mijn werk richt ik me op de vraag hoe we AI kunnen inzetten op een manier die zowel effectief als ethisch verantwoord is. We hebben bijvoorbeeld frameworks ontwikkeld die helpen bij het beoordelen van de ethische risico's van AI-toepassingen. Dit houdt in dat we kijken naar zaken als bias, uitlegbaarheid en de menselijke autonomie in AI-processen. Het is een continue uitdaging om de balans te vinden tussen technologische innovatie en de maatschappelijke waarden die we als bank nastreven. ”

Dat klinkt even complex als uitdagend. Hoe wordt binnen de Volksbank gereageerd op initiatieven rondom AI en ethiek?
“Wat ik zie, is dat de organisatie zich steeds meer bewust wordt van de implicaties van AI én oog heeft voor de balans tussen AI en ethiek. De aanvankelijke nieuwsgierigheid naar wat AI kan, zoals geavanceerde taalmodellen die e-mails kunnen schrijven, gaat gepaard met een bewustwording van de risico's, zoals geavanceerde vormen van scamming en phishing. Deze bewustwording leidt tot een groter draagvlak voor ethische initiatieven binnen AI. Mensen beginnen te begrijpen dat we niet alleen moeten nadenken over wat AI kan, maar ook over wat AI zou moeten doen binnen de ethische en maatschappelijke kaders die we belangrijk vinden.”

Draagvlak is er dus. Wat doen we op dit moment met AI binnen de bank?
“Als Volksbank hebben we een volwassen AI Center waar nieuwe kansen voor AI toepassingen binnen de bank worden uitgewerkt. Er worden pilots gedaan met het gebruik van generatieve AI en er wordt gekeken hoe we snel tot effectieve inzet van AI kunnen komen. Je kunt daarbij denken aan een slimme zoekmachine voor beleidsdocumenten of AI die documenten kan samenvatten. Verder kan AI een grote rol spelen bij bijvoorbeeld onze transactiemonitoring, sanctielijst screening en andere klantintegriteitsvraagstukken. De toekomst van die toepassingen zal mede afhankelijk zijn van de kwaliteit en integriteit van onze data en hoe we AI verder kunnen inzetten om zowel onze processen als de klantbeleving te verbeteren.”

Je laat het woordje ‘toekomst’ al even vallen. De ontwikkelingen volgen elkaar heel snel op. Hoe kijk jij naar de toekomstige rol van AI binnen de Volksbank?
“In de toekomst zie ik AI een nog grotere rol spelen in het verbeteren van onze diensten en het efficiënter maken van onze processen. We kunnen bijvoorbeeld denken aan gepersonaliseerde financiële adviezen op basis van geavanceerde data-analyses of het gebruik van AI om fraude en witwaspraktijken nog beter op te sporen. Maar alles valt of staat met de keuzes die we maken rond de inzet van dit soort systemen.

Daarnaast komt de Europese AI-Act eraan. Deze wetgeving richt zich niet op de complexiteit van de technologie maar op hoe risicovol AI in een bepaald toepassingsgebied is. Voor hoogrisico toepassingen, zoals kredietverstrekking en toegang tot het betaalverkeer, zijn er extra eisen zoals aanvullend riskmanagement en human oversight. Dit betekent dat er altijd een mens moet zijn die het proces overziet. Voor de Volksbank betekent dit dat we tegen februari 2025 de eerste analyses gedaan moeten hebben of er bijvoorbeeld geen verboden toepassingen draaien, wat ik overigens geenszins verwacht. De wet zal een impact hebben op hoe we AI inzetten, maar we zijn al bezig met gap-analyses en het aanpassen van ons beleid om te voldoen aan de nieuwe regelgeving. De AI-Act is een belangrijke stap vooruit in het reguleren van AI en het waarborgen dat deze technologie op een verantwoorde manier wordt gebruikt. Dit zal een uitdaging zijn, maar ook een kans om onze processen te verbeteren en te laten zien dat we serieus bezig zijn met de ethische inzet van AI.”

Andere banken zijn uiteraard ook bezig met een verantwoorde implementatie van AI. Hoe kijk jij daarnaar?
“Ik zie een toenemende aandacht voor het ethische gebruik van AI bij Nederlandse banken. Functies zoals ‘generative AI governance lead’ duiken op, wat aantoont dat banken serieus nadenken over verantwoord gebruik van AI. Wat ik hoop, is dat er meer openheid komt over de normatieve en ethische afwegingen rond AI-modellen. Banken moeten transparanter zijn over hoe ze met deze ethische vraagstukken omgaan.

Het is belangrijk dat we als sector niet alleen kijken naar de technische aspecten van AI, maar ook naar de bredere maatschappelijke impact. Dit betekent dat we open moeten zijn over de afwegingen die we maken en bereid moeten zijn om van elkaar te leren. Door samen te werken en onze ervaringen te delen, kunnen we ervoor zorgen dat AI op een manier wordt ingezet die in lijn is met onze waarden en die bijdraagt aan het welzijn van de maatschappij. Ethiek en AI zijn onlosmakelijk met elkaar verbonden.”

Nu we het toch over aanbevelingen hebben, wat kan de Volksbank op korte termijn doen om de balans tussen ethiek en het implementeren van AI te versterken?
“Omdat AI de bestaande organisatie- en risicokolommen overstijgt moeten we goed gaan nadenken hoe we de verschillende AI-initiatieven binnen de bank kunnen centraliseren en coördineren. Daarnaast is het essentieel om een duidelijke lange termijn strategie rond AI te ontwikkelen en deze te integreren in onze bredere maatschappelijke doelstellingen. Het gaat niet alleen om technische implementatie, maar ook om het bevorderen van een cultuur waarin ethische overwegingen een vaste plek hebben. Wat mij betreft kunnen we alleen toekomstbestendig AI inzetten als we oog blijven houden voor de ethische aspecten.”