Van regel naar algoritme: de menselijke kant van AI bij ABN AMRO

Daniël Meel werkt al 15 jaar bij ABN AMRO, de laatste jaren binnen de bestrijding van financiële criminaliteit. In deze aflevering vertelt hij, hoe zijn team AI-inzet om analisten te ondersteunen bij het beoordelen van verdacht gedrag. Want, als poortwachter, heb je te maken met enorme hoeveelheden data en de spelt in de hooiberg vinden, doe je niet meer met alleen regels. Laat we luisteren naar het unieke verhaal van Daniël. Joop: Leuk dat je weer luistert naar een nieuwe aflevering van AIToday. Joop: Mijn naam Joop Snijder, van Aigency Info Support. Niels: En mijn naam Niels Naglé, Area Lead Data & AI bij Info Support. Joop: En in de studio Daniël Meel. Joop: Daniël, fantastisch dat je wilde komen, zou je jezelf even kort willen voorstellen. Daniël: Dank voor jullie uitnodiging, Niels en Joop. Daniël: Ik ben Daniël Meel. Daniël: Ik ben werkzaam bij ABN AMRO, al 15 jaar inmiddels. Daniël: En de laatste jaren binnen het financiële criminaliteit, de bestrijding van financiële criminaliteit. Daniël: En voornamelijk hou ik me bezig met hoe we het beter kunnen doen vanuit onze processen, ons beleid, maar ook vanuit de technologie, de manier hoe we hoe we omgaan met de bestrijding ervan. Daniël: De risico's, de efficiëntie, dat soort zaken. Daniël: En de link met AI is vooral dat een van mijn teams echt druk bezig is met ontwikkeling van artificial intelligence in dit domein, maar we doen dit al jaren en je merkt natuurlijk dat het veel groter wordt. Joop: Wat is eigenlijk je achtergrond? Joop: Hoe ben je zelf terecht gekomen in het gebied van AI? Daniël: Misschien moet ik gestudeerd in Twente. Daniël: Dus je hebt sowieso een technische achtergrond. Daniël: Vervolgens binnen de bank heb ik eigenlijk altijd wel banen gehad waar de statistiek, de analyse kant belangrijk was. Daniël: Ik ben modelleur geweest in het begin. Daniël: Later ook altijd in mijn team een analytische component gehad. Daniël: Of het heeft door de jaren heen natuurlijk continu anders geheten, wat er precies was. Daniël: En het AI-stuk, dat is natuurlijk door de jaren heen steeds wat meer wat minder geworden. Daniël: Maar het is natuurlijk de afgelopen jaren heel erg booming. Daniël: Hoe ben ik hier gekomen? Daniël: Vervolgens ben ik bij de financiële criminaliteit beland bij binnen de bank. Daniël: En binnen die rol dan zie je dat er gaat om grote aantallen. Daniël: Het gaat over transacties van die klanten doen, het gaat over de aantallen klanten. Daniël: Dus je hebt ontzettend veel data. Daniël: En hoe ga je nou, dat is een beetje die spelt in de hooiberg: hoe ga je nou nuttig werk doen. Daniël: Hoe ga je nou die financiële criminaliteit vinden? Daniël: Hoe ga je nou het witwaspatronen herkennen? Daniël: Hoe ga je naar netwerk herkennen, hoe ga je enzovoort. Daniël: En dat werd vanuit natuurlijk vooral gedaan door een aantal regels in te stellen. Daniël: Maar eigenlijk al in het begin zeiden we van ja, we moeten hier toch wat intelligenters op loslaten. Daniël: En dan begin je met je machine learning modellen. Daniël: Dan ga je wat meer de complexiteit in het geavanceerder. Daniël: En zo bouwt dat op. Daniël: We hebben een jaar of zes geleden we begonnen met het grootste deel van de detectiemodellen neerzetten. Daniël: Daar kan ik van alles over vertellen, daar hebben we heel veel slagen in gemaakt. Daniël: Maar de laatste jaren zie je natuurlijk vooral dat niet alleen de detectie en meer een AI machine learning component krijgt, maar juist ook als je handmatig werk aan het doen bent. Daniël: Wat is dan de ondersteuning die je kunt krijgen. Daniël: En dan komt meer die GAI-kant naar voren. Daniël: Wat bedoel je met handmatig de mensen binnen de mensen binnen onze afdelingen die kijken naar het gedrag van klanten, is dit verdacht gedrag en die daar een oordeel over vellen. Daniël: Dat beoordelen. Daniël: En in dat werk, daar komt natuurlijk heel veel onderzoekswerk in terug. Daniël: Dus je gaat naar de grote data kijken, je gaat datapunten verbinden. Daniël: Je gaat kijken wat zouden de dat noemen we vaak de modus operandi kunnen zijn. Daniël: En dat is best wel heel moeilijk als je dat zelf gaan doen. Daniël: En die ondersteuning van die technologie, dus die netwerkanalyses tools die dat inzichtelijk maken. Daniël: die helpen daar enorm bij. Daniël: En je ziet ook dat generatieve AI ook in staat is om al een heleboel daarvan vooraf goed neer te zetten. Joop: Kan je mij iets vertellen over die netwerken? Joop: O wat voor. Joop: Kijk, ik zit in IT en dan is een netwerk is voor mij verbonden computers. Daniël: Als ik het over netwerken heb in mijn veld, heb ik het dan heb ik het over met name. Daniël: Je kunt allerlei vormen van netwerken hebben, maar je kunt het vooral hebben over hoe kun je ervoor zorgen dat je jezelf verrijkt. Daniël: Dat is wat er gebeurt in financiële criminaliteit. Daniël: En dan kun je bijvoorbeeld hebben over BTW carrousels. Daniël: Dus het oprichten van bedrijven en het rondpompen van geld en daarvan profiteren, omdat je uiteindelijk niks toevoegt aan de waardeketen, maar wel uiteindelijk het geld rondpompt. Daniël: Maar dat kun je niet heel goed zien met de blote oog. Daniël: Dat kun je ook niet echt in een regel vatten. Daniël: Daarvoor heb je eigenlijk algoritmes nodig en netwerkanalyses die laten zien hoe het met elkaar samenhangt. Daniël: Dat is het type complexiteit waar wij dagelijks mee te maken hebben. Niels: Dus dat is het netwerk van transacties die aan elkaar geketend zijn en zo eigenlijk gezamenlijk een beeld vormen waarvoor het wordt gebruikt. Daniël: Ja, dat zijn het kunnen transacties zijn. Daniël: Het kan ook zijn dat je met structuren, bedrijfsstructuren werkt, dus eigendomstructuren. Daniël: Op verschillende manieren kun je die netwerken dus in kaart brengen. Daniël: En juist daarvoor zie je dat meer geavanceerdere tools echt wel meerwaarde hebben. Niels: En waar zit dan het balans van wanneer laat je het AI doen en wanneer gaat de onderzoeker of de medewerker mee aan de slag voor de beoordeling. 75 Niels: Want dat lijkt me best wel een belangrijke fase die erin zit. 76 Daniël: Dat is zeker een belangrijke fase. 77 Daniël: Ik denk dat voorop gesteld, je moet een signaal hebben waar je op acteert. 78 Daniël: Dat kun je detecteren. 79 Daniël: En daarvoor heb je dan machine learning AI-algoritmes die meer de klassieke AI hebben. 80 Daniël: Op die manier kies je eigenlijk welke casuïstiek je wil gaan bekijken. 81 Daniël: Daar komt het een beetje op neer. 82 Daniël: Vervolgens train je die algoritmes om de juiste dingen te zien. 83 Daniël: Dus om zo hoog mogelijk percentage te hebben, nuttige signalen. 84 Daniël: En als zo'n signaal dan vervolgens daadwerkelijk materieel is of onderzoekswaardig is, dan komt daar een menselijke beoordeling bij kijken. 85 Daniël: Maar vervolgens moet je als analist die dat gaat beoordelen, moet je wel een heleboel informatie bij elkaar halen. 86 Daniël: Je hebt soms ook gewoon klantcontact nodig. 87 Daniël: En in heel veel gevallen is het gewoon verklaarbaar gedrag natuurlijk. 88 Daniël: Maar dat onderscheid maken, dat vergt kennis, maar het vergt ook heel veel opzoekwerk informatie wat je moet combineren. 89 Daniël: En dat werk, dat kent ook veel handmatig slagen. 90 Daniël: En dat zijn we dus stuk voor stuk aan het kijken, waar kun je er nou voor zorgen dat je met generatieve AI dat al voor de makkelijkste vorm is een stukje prefilling vanuit andere bronnen. 91 Daniël: Maar je kunt daar natuurlijk ook verdere stappen in maken. 92 Daniël: Daar staan we redelijk aan het begin. 93 Daniël: De eerste dingen zijn er, maar je ziet dat dat optelt. 94 Daniël: En uiteindelijk verwacht ik dat heel veel van dit soort processen uiteindelijk een aaneenschakeling van agents worden, zeg maar. 95 Daniël: Dus stappen die je in principe door door agents, AI agents laat laat uitvoeren. 96 Joop: Waar ligt dan nu de balans? 97 Joop: Want het is nog, het is een menselijke beoordeling, zeg je toch. 98 Daniël: Wat in het fraudegebied, we voeren net als andere financiële instellingen, de rol van poortwachter, zo heet dat in de wetgeving uit. 99 Daniël: En de rol van poortwachter, dat is inderdaad een menselijke beoordeling of hier mogelijk verdacht gedrag plaatsvindt. 100 Daniël: En wij zijn geen opsporingsdiensten. 101 Daniël: Dus het is vanuit vanuit onze taak is het melden van dingen die mogelijk verdacht zijn. 102 Joop: Niels is een beetje verkouden. 103 Joop: Dus je zit er af en toe een beetje doorheen toe. 104 Joop: Sorry daarvoor, sorry voor de luisteren. 105 Joop: Maar hij is er, dat is het allerbelangrijkste, toch? 106 Joop: Ja, zeker. 107 Joop: Omdat het een menselijke beoordeling is, moeten we natuurlijk ook altijd oppassen voor de vooroordelen die we zelf bezitten. 108 Joop: En daar ben jij natuurlijk ook, of tenminste, een team van jou is daar heel nadrukkelijk mee bezig. 109 Daniël: Absoluut. 110 Daniël: Ik denk dat als je het een beetje een beetje uitzoomt, je traint dus die modellen. 111 Daniël: Die train je natuurlijk op het herkennen van patronen, maar dat doe je voor een deel ook met historische data. 112 Daniël: Maar die data wordt natuurlijk ook gevoerd door wat wij eerder hebben beoordeeld. 113 Daniël: En in ieder mens zitten biases. 114 Daniël: Zo zeggen we dat. 115 Daniël: Dus ieder mens heeft dat. 116 Daniël: Dus dat betekent dat we daar ook ontzettend alert op moeten zijn. 117 Daniël: Alert op zijn of we daar genoeg bewust van zijn. 118 Daniël: Want het is niet zo, je kunt niet naar een niet biased situatie gaan. 119 Daniël: Maar je moet je er bewust van zijn. 120 Daniël: En alles in het werk stellen dat het geen onderdeel is van je beoordeling uiteindelijk. 121 Daniël: Dat is moeilijk. 122 Daniël: Maar dat is wel het doel wat hier achter zit. 123 Daniël: En daarvoor hebben we verschillende mogelijkheden van in die teams die die algoritmes trainen, dat moeten hele diverse teams zijn. 124 Daniël: Dat is wel gewoon een vereiste, vinden wij. 125 Daniël: Omdat je elkaar dan scherp houdt. 126 Daniël: Omdat je dan als je dat overlegt, ook een beeld krijgt bij ook misschien heb ik dan toch een aanname gemaakt in de data die ik hiervoor gebruik, heb ik misschien toch een keuze gemaakt. 127 Daniël: Dus dat doen we met het modelontwikkelingstraject. 128 Joop: Maar mag ik over dat team hebben? 129 Joop: Want we hebben het hier ook heel vaak over. 130 Joop: Multidisciplinair. 131 Joop: En dat je vanuit van verschillende hoeken. 132 Joop: Maar hoe weet je nou dat dat multidisciplinair genoeg is. 133 Daniël: Dat is echt wel een hele moeilijke vraag. 134 Daniël: Het antwoord is nog moeilijker. 135 Daniël: Ik denk dat het een optelsom van factoren, denk ik hier. 136 Daniël: Als ik er naar kijk, je kijkt naar een team waarbij je een poging doet om dat team zo divers mogelijk laten zijn qua achtergrond, qua ander werk. 137 Daniël: Alle doorsneden die je kunt bedenken op het gebied van hoe divers kun je zijn. 138 Daniël: Internationale kant moeten inzitten. 139 Daniël: Goede verdelingen van waar een team vandaan komt dat expertise is. 140 Daniël: Dat is wel echt een belangrijk belangrijk geheel, denk ik. 141 Daniël: Maar daarnaast is het ook het überhaupt agenderen van het topic. 142 Daniël: Het bias topic. 143 Daniël: En een van de dingen die wij bijvoorbeeld doen, is dat wij ook onze hele afdeling, dus ook de mensen die de beoordeling doen, die het klantcontact doen, dat wij die ook trainen op dit gebied. 144 Daniël: En de training, dat gaat er in eerste instantie om, ben je bewust van je eigen biases. 145 Daniël: Dat is best wel confronterend. 146 Joop: Best wel moeilijk lijkt me over. 147 Joop: Hoe weet je, zeg maar, waar je vooroordelen zitten. 148 Daniël: Vaak weet je het zelf niet. 149 Daniël: Er zijn wat testjes voor. 150 Daniël: Dus we beginnen ook vaak dat je. 151 Daniël: En daar kun je van alles van vinden van die testjes. 152 Daniël: Dus zeker geen waarheid. 153 Daniël: Er zit nergens waarheid in. Daniël: Maar we beginnen vaak proberen voor jezelf een van die testjes te doen. Daniël: En er dan op te reflecteren. Daniël: En misschien wat casuïstiek, geanonimiseerd uit de praktijk. Daniël: Of we hebben natuurlijk ook wel eens als bank natuurlijk wel eens wat klachten gekregen. Daniël: Dan ga je die kun je die ook oppakken. Daniël: En kun je natuurlijk naar kijken van hoe kijk ik daarnaar waar komt het op mij over, en dan begint dat gesprek. Daniël: En dit is iets wat we dus over alle mensen die hier aan werken, nu zijn er geloof ik ongeveer 2500 op dit moment. Daniël: En ik geloof dat nu zijn vorig jaar hebben we dat ingezet. Daniël: Ik denk dat nu 97% hier doorheen gegaan is, dat is even mijn aanname op dit moment. Daniël: Dus dit geeft aan hoe serieus we het nemen dat je je bewust bent van je van je wijs, maar ook dat je het gesprek over durft te hebben. Daniël: En dat je durft. Niels Naglé: De challenger misschien wel, je collega van, heb je dat perspectief ook meegenomen, dat durft te stellen in het proces. Niels Naglé: Ik was even nieuwsgierig, je zei testjes, hebben we dan over profieltesten, denk ik, wat voor persoonlijkheid jezelf bent, of niet of persoonlijkheidstest. Daniël: Ja, je kunt allerlei testen doen, maar je kunt testen doen over welke woorden je associeert met wat met man, vrouw of met je kunt allerlei dingen doen op dat gebied. Daniël: Om waar je nu onbewust van bent, om dan te kijken, nu moet ik zeggen, er zijn allerlei reden ervoor wel of niet dit soort testjes doen. Daniël: Maar het helpt op het aanzetten van de discussie en het durven daarover te praten. Daniël: En dat is wel een belangrijk. Daniël: Wat je ook zegt, het tegenlezen door anderen, van heb ik hier misschien toch te snel een aanname gemaakt, was het feit dat ik misschien in een gesprek een bepaalde kant op bent gegaan, ben ik een tunnel ingegaan in mijn gedachten. Daniël: En dat is dat is wel belangrijk. Daniël: Want de andere kant, want dat is natuurlijk wel om te benadrukken, wij zijn een bank, wij hebben gewoon deze rol uit te voeren en we doen dat zo goed mogelijk. Daniël: En daar willen we echt goed in zijn. Daniël: Maar we weten ook dat de klanten, waar dan gaat het over het algemeen om die wij hiervoor hiermee contacten. Daniël: Dat die daar ook een mening, een beeld, een gevoel bij hebben. Daniël: Het is zo belangrijk om te luisteren naar je klant. Daniël: En de goede dingen te doen op dit gebied en de goede analyses doen en een goede invulling aan te geven en niet heel snel richting een oordeel te gaan aan te verhaal. Daniël: Ja, precies. Daniël: Dat is best wel best wel ingewikkeld. Niels Naglé: En daarnaast is het natuurlijk nog, het gaat om witwassen en dat soort zaken te spotten, waar dus ook die patronen iedere keer natuurlijk wijzigen. Niels Naglé: Want als je eenmaal iets gevonden hebt van signalen, je denkt van nou nu we het signaal, dan weet de rest ook dat het signaal er is. Niels Naglé: En dan gaat er weer opnieuws het spel spelen. Daniël: Ja, ja, en sommige patronen zijn historisch redelijk stabiel moet ik zeggen hoor. Daniël: Maar er zijn ook wel trends. Daniël: En je ziet ook wel veranderende zaken. Daniël: Bij ons gaat het uiteindelijk natuurlijk om het betalingsverkeer, weet je waar het geld heen komt, waar het geld uitgaat. Daniël: En er zit nog de eigendomstructuur, weet je wie erachter zit. Daniël: Dat is dat is grof weg. Daniël: Ik doe het een beetje tekort, misschien te werk met grofweg, maar het is grof weg wat het wat het inhoudt. Daniël: Maar op het moment dat je meer spelers in de markt krijgt die iets mogen doen op het betalings in de betalingsverkeer, dan wordt het al wat troebeler. Daniël: Op het moment dat je met cryptovaluta kunt werken, je hebt er verschillende. Daniël: en ik heb het nu ook over bijvoorbeeld de PSP's en de cryptographed, allemaal mogelijkheden die er zijn, die heel veel kansen bieden aan de samenleving. Daniël: Maar die ook wel een versplinter veld creëren. Joop Snijder: En zeker zo de netwerken. Joop Snijder: Dat is een PSP. Daniël: Een PSP dat is een payment service provider. Daniël: En dat zijn onder de regio geef die een aantal jaar geleden is ingevoerd, mogen ook partijen, dat je wel licentie voor hebben en zo, mogen ook voor jouw betalingen initiëren en mogen rekening informatie van derde verzamelen als jij content geeft als klant om services op dat gebied aan te bieden. Daniël: En de bekendste zijn natuurlijk de grote, even de Bukken Rude Molly, de Ajen, dat noem ik gewoon een aantal grote PSP's. Joop Snijder: Want 2500 man trainen in zo'n korte tijd. Joop Snijder: Dat is echt wel een enorme opgave. Joop Snijder: Hoe hebben jullie dat voor elkaar gekregen? Daniël: Dat hebben wij voor elkaar gekregen door dat gewoon te doen uiteindelijk. Joop Snijder: Dat begint het vaak toch? Niels Naglé: Ja, precies. Daniël: Dus natuurlijk zit een heel plan achter met een planning en de ondersteuning en de goede communicatie op dat gebied ambassadeurs verzamelen. Daniël: Dus gisteren hadden we nog even een soort van terugkomtdag van alle facilitators. Daniël: Dus iedereen die deze die ook de gesprekken heeft gefaciliteerd, was ook een mooie mooie bijeenkomst op dit gebied. Daniël: En dan is de vraag na zo'n programma, hoe hou je het vast? Daniël: Daar kwamen allerlei allerlei ideeën ideeën boven. Daniël: Want het is natuurlijk ontzettend belangrijk om de discussie, want je lost het niet op, het is niet meetbaar. Daniël: Laten we voorop stellen. Daniël: Er zijn signalen meetbaar, maar het is niet een meetbaar of tastbaar onderwerp uiteindelijk. Daniël: En hoe je daar dan mee omgaat, dat is puur het levend houden van het onderwerp, maar je kunt moeilijk op de agenda punt geven. Daniël: We gaan het vandaag nog even hebben over bias. Daniël: Dus we hadden het er over, misschien moet je een soort stelling elke maand hebben of een geanonimiseerde of fictieve casuïstiek. Daniël: Dat je toch iedere keer weer even die bewustwording erin hebt. Daniël: En dit gaat door alle teams heen. Daniël: Dus niet alleen teams met klantcontact, ook teams die trainingen ontwerpen, ook teams die algoritmes waar we waar we het over hebt, die AI algoritmes trainen, het gaat door al die teams heen, dit verhaal. Joop Snijder: Hebben ze het net wel eens gedaan dan, zo op zo'n agenda gezet? Joop Snijder: Ik vind het niet eens heel gek idee, toch? Joop Snijder: Dat je dan inderdaad een casus pakt en zeggen van hoe zouden we daar nu naar kijken, met de kennis die we nu hebben. Daniël: Het gebeurt niet structureel. Daniël: Maar ik denk wel dat dat en dat is een beetje waar op zo'n dag als gisteren, dan ben je daarna op zoek naar hoe kunnen we dit doen. Daniël: En het is mooi om te zien dat daar heel veel animo voor is om dit ook te doen. Daniël: Omdat iedereen voelt dat wel, want dat is natuurlijk ook een beetje, we hebben het over AI, dan heb je het, als je het een aantal jaar geleden over AI en over data science had, dan ging het altijd de techniek in. Daniël: Dan ging het altijd over die algoritmes. Daniël: Dan ging het altijd over hoe kun je met neurale netwerken werken met Ferratio, outra en codes, iforce, isolation forrest. Daniël: Dat soort dat soort verhalen. Daniël: En wanneer gebruik je welke welke architectuur en welke en dat is een beetje weg. Daniël: Want het gaat nu vooral over de non-tech kant. Daniël: Dus de is dit ethisch, is dit privacy-wise, kunnen we dit kunnen we dit maken, is dit welke biases zitten er mogelijk in. Daniël: En wat zijn de gevolgen? Daniël: Dus we werken steeds meer toe naar non-technische assessments. Daniël: En dat gaat gaat een beetje de kant op, dat wordt ook vaker genoemd naar de fundamental rights impact assessment. Daniël: Dus het gaat niet eens meer over één of twee aspecten. Daniël: Het gaat echt, en nou daar ben ik een heel groot voorstander van echt over nadenken over de niet-technische gevolgen van het gebruik van algoritmes. Joop Snijder: En gebruik jullie die ook, die FRIA. Joop Snijder: Gebruiken jullie die ook. Daniël: Wij gebruiken inderdaad alle alles wat eindigt op IA. Daniël: Ik denk dat we moeten zeggen dat het dat dingen nog best wel ver in ontwikkeling zijn, vaak. Daniël: Maar opgeteld, denk ik wel, we doen altijd fairness en bias tests. Daniël: We doen altijd de vraagstukken. Daniël: Of is dit in het belang van de van de klant, belangen afweging een stuk, op privacygebied ook en zo. Daniël: En dat doe je op verschillende factoren. Daniël: Dus je kijkt naar welke data gebruik je überhaupt. Daniël: En is dat rechtstreek te linken aan het doel wat je ermee hebt. Daniël: Dus in mijn domein financial crime. Daniël: Als je een bepaald type criminaliteit wil detecteren. Daniël: Dan zijn die datapunten ook daadwerkelijk te linken, of vanuit de literatuur of vanuit vorm van bewijslast uit het verleden te linken aan hetgene je je aantal aan het opsporen bent, kun je kun je dat doen. Daniël: Dus dat is de input inputkant. Daniël: Dan de algoritmes selectie, waar je natuurlijk een keuze in maakt. Daniël: En dan natuurlijk ook aan die outputkant. Daniël: Komt er dan ook uit? Daniël: Wat je verwacht en kun je het daarmee ook verantwoorden. Joop Snijder: En je hebt nog de datakant toch, welke data selecteer je? Daniël: Ja, wat mij betreft was dat die invoerkant. Daniël: Dus welke datapunten, welke features. Daniël: Wat kies je aan variabelen, die überhaupt rechtstreeks te relateren is aan de modus operandi die je wil detecteren hier. Daniël: Dat doen we al nu al jaren, zeg maar op die manier. Daniël: En ik moet zeggen, dat gaat gaat best goed. Daniël: En daar bedoel ik mee. Daniël: De manier waarop er over gesproken wordt, de volwassenheid die ik daar bespeur. Daniël: Maar daar heb ik het wel over de classical AI. Niels Naglé: En de machine learning kan. Daniël: En dan heb ik het niet over Gen AI. Daniël: Want dan hebben we echt weer een heel ander echt een totaal andere situatie weer. Joop Snijder: Kun je zo'n situatie schetsen? Joop Snijder: Wat maakt het anders? Daniël: Wat het vooral anders maakt, Gen AI is in eerste instantie natuurlijk de toepassing. Daniël: Dus de toepassing van Gen AI zit niet heel sterk in de detectiekant. Daniël: Het zit hem echt veel meer dus in het transcript, informatie eruit halen, informatie verzamelen, informatie op een plek brengen en echt waar die large language models in eerste instantie voor bedoeld zijn. Daniël: Ik denk dat het maar het allereerste begin is. Daniël: Maar waar daarin zit is natuurlijk het grenst heel snel aan wanneer is het een model wat jouw richting op duwt, of wanneer helpt het model jou. Daniël: En ben jij nog steeds degene aan het sturen. Daniël: Dus de human in the loop in deze. Daniël: En omdat je dat natuurlijk niet echt die Gen AI-algoritmes zijn natuurlijk anders qua opzet en ze zeggen vaak transparantie, ik weet niet of dat zeggen, ik heb dat moeite met dat woord. Daniël: Maar in elk geval met de in de situatie van wat komt er dan precies uit, kan ik dat helemaal reconstrueren, dat is nog wel eens wat diffuus. Daniël: En je ziet ook natuurlijk. Joop Snijder: Dat is heel moeilijk toch? Daniël: Dat is heel moeilijk. Daniël: En dat is ook waarom natuurlijk altijd die human in the loop erin zit. Daniël: Maar we weten ook natuurlijk, als we de tijd een beetje vooruit draaien, dat nu corrigeert iemand de uitkomst. Daniël: Tot op zekerhoogte zou je ook kunnen zeggen dat overtypen van informatie ook nog iets doet met de manier waarop je erover nadenkt, en dat je dat je als je dat bewerkt dat jouw jouw beeld daarvan beter wordt, of in elk geval dat je er zelf actiever over nadenkt. Daniël: Maar hoe meer je in een reviewrol komt, hoe verder je er van afstaat, hoe eerder je misschien ook geneigd bent aan te nemen, en niet alles in checkt, dat dit correct is. Joop Snijder: Ja, want human in the loop, dat suggereert zeg maar dat we ook human in control zijn. Joop Snijder: En volgens mij is dat zeg maar, wat soms een beetje verwatert, zeker als dingen goed blijven gaan. Daniël: Dat is zeker een risico in het geheel. Daniël: En als je dan ziet, iemand was of iemand is, moet ik zeggen, en dat is bij elk bedrijf wel zo verantwoordelijk voor een proces. Daniël: Een uitvoering van een proces, van een bepaald begin tot een bepaald eindpunt. Daniël: En dan als we daar dan modellen gebruikten in het proces, dan was ook iemand vaak iemand anders die goed was in modellen, was dan verantwoordelijk voor modellen, dan had je daar validatiestappen in zitten. Daniël: En dat is ook een groot verschil trouwens tussen detectiemodellen en GI-modellen, de validatiestap. Daniël: Maar het verschil tussen degene die eigenaar was, zeg maar, of degene die verantwoordelijk was voor zo'n proces. Daniël: En die modellen die daarin gebouwd werden, dat was logisch, want dat was op competentie, op vaardigheid. Daniël: Maar hoe meer stappen, en we zijn nu nog aan het begin, maar ik ben ervan overtuigd dat de komende jaren enorm hard gaat. Daniël: Hoe meer stappen eigenlijk vervangen worden door AI agents, stapje voor stapje voor stapje, hoe meer jouw proces eigenlijk een aaneenschakeling van agents is. Daniël: En dan is die human in de loop. Daniël: Human in control vraag, dat is hele mooie. Daniël: Want vervolgens ga je natuurlijk de vraag stellen, maar wanneer gaat er dan geen mens meer? Daniël: Is dat in een paar procent? Daniël: Is dat in minder. Daniël: En zo gaat dat natuurlijk de komende jaren door. Daniël: Op dit moment is overal human in de loop. Daniël: Maar het is wel de vraag. Joop Snijder: Dan gaat het over een aantal jaar. Joop Snijder: En zeker als we zeggen dat agents heel veel werk over kunnen gaan nemen, heb je straks dus een hele vloot aan agents. Joop Snijder: Wil je dan nog wel de human in de loop zijn. Joop Snijder: Wie krijgt dat een appje op zijn schouder? Daniël: Dat is een mooie vraag over carrièreperspectief. Daniël: Los daarvan heb je natuurlijk de vraag, dan is degene die modellen. Daniël: Alles wist van die modellen. Daniël: En degene die alles wist over hoe je dat proces uitvoeren, dat wordt steeds meer één. Daniël: Dat kan niet anders eigenlijk. Daniël: Maar dat is een significante verandering van denken in dit soort patronen. Daniël: Een hele andere functieopbouw. Daniël: Ik vertel dit nu niet per se omdat we er als bank heel erg druk bij deze vraagstuk bezig zijn. Daniël: Maar wel als je een paar jaar vooruit denkt hoe die beweging nu is, is dat natuurlijk wel een interessante. Joop Snijder: En als ik dan ook nog terugpakt, omdat je zei transparantie, daar vind ik eigenlijk een rot woord. Joop Snijder: Dat is wel lastig als het zo diffuus wordt. Joop Snijder: En we eisen het vanuit de wetgeving, de AI Act. Joop Snijder: Dat is echt wel een vraagstuk voor de aankomende tijd. Daniël: Zeker een vraagstuk. Daniël: En transparantie voor de zekerheid. Daniël: Ik ben heel erg voor elke vorm van transparantie. Daniël: Omdat mensen het relateren aan de complexiteit van modellen, wat niet per se één op één aan elkaar. Joop Snijder: Het is goed dat je dat nog zegt hoor. Niels Naglé: Twee dingen. Niels Naglé: Die voor mij even naar voren komen, is het stukje inderdaad, ben je nog actief betrokken. Niels Naglé: Weet je genoeg van de context die speelt. Niels Naglé: Ik denk dat dat een belangrijke blijft, zeker als het diffuser wordt en heel veel agent aan het werk gaan. Niels Naglé: Dus hoe actief ben je nog betrokken, of ben je alleen maar ja, je mag door of je mag niet door de slagboom, zeg maar, dadelijk mee bezig. Niels Naglé: En een andere waar je hem optriggerde, dus waar ik eigenlijk nog wel een vraag was staan is, je zegt heel erg expliciet: validatie is echt wel anders bij witwassen. Niels Naglé: Wat bedoel je daarmee? Daniël: Nou, bij wit wassen niet per se. Daniël: Misschien wel vergeleken met veel andere terreinen, nog één vergelijken dan de antwoord op jouw vraag. Daniël: Het verschil met witwassen is, wie is degene die er last van heeft, de maatschappij. Daniël: Maar de maatschappij steekt vaak niet zijn vinger op van ik heb hier nu echt last van. Daniël: Bij heel veel andere toepassingen zit je eigenlijk in eentjes en nulletjes. Daniël: Je hebt een uitkomst goed en de uitkomst niet goed. Daniël: Binnenbank is natuurlijk vooral bekend. Daniël: We zijn natuurlijk veel in het financieren. Daniël: Dus je betaalt je lening wel of niet terug. Daniël: Dat voorspelmodel ongeveer. Daniël: Maar bij al deze klanten, alle transacties, daar is vrijwel alles is goed. Daniël: Laten we even voorop stellen, het is echt de speelt in de hooiberg hier, dat is een heel klein percentage. Daniël: Maar alles wat je niet verdiept in of het wel goed of niet goed is, heb je geen antwoord op. Daniël: Model technisch is dat een interessante situatie. Daniël: Dat is voor witwassen een groot verschil met andere toepassingen. Daniël: Niet alle, maar wel veel toepassingen, waarbij je als je dacht dat iemand niet zou terugbetalen, of wel, dat je uiteindelijk geconfronteerd wordt met de uitkomst. Daniël: En met witwas is het niet dat iemand zijn vingers steekt. 347 Joop: Je had mij niet gedetecteerd. 348 Joop: Maar ik heb het wel gedaan. 349 Daniël: Dat is modelmatig even een verschil. 350 Daniël: Omdat je maar een kleine set uiteindelijk bekijkt. 351 Daniël: Daarom gebruiken wij ook niet alleen supervised learning, dus zeg maar het leren van historie. 352 Daniël: Maar trainen wij ook algoritmes op unsupervised anomaly detectie, omdat je anders in die tunnel terechtkomt en je de trends ook later ziet. 353 Daniël: Tweede deel is die validatieverschil. 354 Daniël: Validatie is wat ik net zeg over detectie. 355 Daniël: Daar kun je een echte originele validatie op doen. 356 Daniël: Welke selectie heb je gemaakt, welke keuzes, enzovoort. 357 Daniël: Maar validatie wordt steeds ingewikkelder als je zeker met Gen AI gaat werken, maar ook omdat ook de wereld om je heen ook AI gebruikt. 358 Daniël: Dus jouw informatievoorziening, is ook deels gebaseerd op AI-uitkomsten. 359 Daniël: Ook wat van buitenaf wordt aangeleverd. 360 Daniël: Dus de optelsom in die keten wordt steeds groter. 361 Daniël: En dan is de vraag inderdaad, hoe kun je dat goed doen? 362 Daniël: En dan kom je steeds meer uit, en dat zie je ook wel terugkomen op meer die verantwoording over de data die je gebruikt in de input. 363 Daniël: En de output controles eigenlijk. 364 Daniël: Van komt eruit wat we verwachten wat eruit komt. 365 Daniël: En die verandering is significant anders dan wat we eerder hadden met gewone machine learning modellen, waar je gewoon een ontwikkelaar hebt, iemand die onafhankelijk checkt, dit is wat je erin hebt gestopt, dit heb je gekozen, dit is de uitgekomen, ik kom op hetzelfde of ik heb wat aanbevelingen. 366 Daniël: Dat is significant anders. 367 Joop: Ja, en daardoor is ook significant moeilijker. 368 Daniël: Moeilijker. 369 Daniël: Dit moment in tijd veel moeilijker. 370 Daniël: Maar ik denk dat het ook een verandering gaat plaatsvinden. 371 Daniël: Maar wat zijn dan validatiecriteria? 372 Daniël: Want dit zijn technische discussies. 373 Daniël: Maar ik denk dat het dus veel meer naar de niet-technische kant gaat. 374 Daniël: Als je het over de Gen AI en de doorontwikkeling hebt, heb je contracten met leveranciers, hoe zit dat in elkaar? 375 Daniël: Hoe zit het in elkaar inderdaad met de privacy van gegevens? 376 Daniël: Hoe weet je dat die uitkomstchecks, uitkomstcontroles, dat je die goed doet. 377 Daniël: Dat soort dingen, ik denk dat je het er veel meer over die controles gaat hebben in validatie. 378 Daniël: Wat we van origine vooral deed het reproduceren van modelontwikkeling hier. 379 Niels: Ja, mooi. 380 Niels: Dus dat betekent eigenlijk, voor mezelf probeer je dan een plaat te maken in mijn hoofd. 381 Niels: Dus dat je dus eigenlijk het vraagstuk centrale zet en daar andere vragen aan gaat stellen voor de validatie. 382 Daniël: Dat denk ik wel. 383 Daniël: En ook omdat je natuurlijk. 384 Daniël: Er zijn zoveel technologische trends die laagdrempelig zijn en daardoor snel gebruikt worden nu, maar nog niet zo volwassen. 385 Daniël: En als je een aantal daarvan optelt, dan wordt dit een hele interessante. 386 Daniël: Dus ik heb die AI agents, daar hebben we het steeds over. 387 Daniël: Maar een AI agent kan natuurlijk ook gebruik maken van informatie van buiten. 388 Daniël: Stel nou dat het hoeft niet een bank te zijn, het kan ook bedrijf zijn, mensen hebben wallets. 389 Daniël: En in die wallets zit ook informatie en steeds meer. 390 Daniël: En sterker nog, je gaat natuurlijk zien, volgens mij heeft het CBR ook aangekondigd dat de rijbewijzen vanaf 2030 in die wallet komen. 391 Daniël: Ik dacht dat dan ook, je krijgt natuurlijk digitale identiteiten, dezelfde waarde als een paspoort worden toegedicht. 392 Daniël: Als je die optelsom maakt, ik noem nu een paar dingen even los daarvan, maar je kunt dat. 393 Daniël: Die wallets, die worden groot. 394 Daniël: Als je als klant accepteert dat het bedrijf waarmee je, of je bank, of wat dan ook, informatie uit je wallet mag gebruiken hiervoor. 395 Daniël: Kun je elke keer opnieuw consent geven, dat soort dingen. 396 Daniël: Dan kan dus een AI agent op een gegeven moment informatie ophalen. 397 Daniël: In dit verhaal. 398 Daniël: Daarnaast heb je ook nog steeds meer mogelijkheden om data te delen op een privacy enhanced manieren. 399 Daniël: Bekende dingen zijn secure multiparty computation, dus dat je eigenlijk data deelt zonder te delen ten totdat de security codes zijn vrijgeven. 400 Daniël: Als je dit soort dit soort trends, alle drie bij elkaar optelt even. 401 Daniël: Dan heb je dus AI agents die een proces besturen. 402 Daniël: Die koppel je aan informatie die de klant heeft in wallet, wat gestandaardiseerd gaat bestaan. 403 Daniël: En je koppelt het aan het feit dat je informatie kan delen waar dat mag, en toegestaan en gecontroleerd is met privacy en hand tooling. 404 Daniël: Op die manier, en dan gaan we het over validaties hebben, wordt dat heel interessant. 405 Daniël: En ik vertel dit gewoon puur als een combinatie van ontwikkelingen nu. 406 Daniël: Maar ik zit dan wel zelf vooruit te denken de komende jaren. 407 Daniël: Dit zijn de echte vraagstukken waar het straks om gaat. 408 Daniël: Waar is mijn data? 409 Daniël: Hoe kan ik, en ik hoop dat we dat overal in kunnen houden. 410 Daniël: Dat er client consent is vanuit die wallets en vanuit die ontwikkelingen. 411 Daniël: Maar dat zijn wel essentiële vraagstukken aan het worden. 412 Daniël: Hoe valideer je dan dat je de juiste informatie hebt, dat het veilig is, dat je de juiste conclusies kunt trekken. 413 Daniël: En dan heb ik het niet alleen over mijn vakgebied, maar in de begrepen. 414 Joop: Want webshops krijg je ermee te maken. 415 Joop: Iedereen die interactie heeft zo direct met agents of klanten. 416 Niels: Of met bedrijven waarvan je niet weet dat er agents weer achter zitten. 417 Niels: Dus nog niet altijd transparant inderdaad. 418 Niels: En welk deel van mijn gegevens worden dan gebruikt? 419 Niels: Want steeds meer verzamelen we in één applicatie, één wallet of wachtwoorden, kluis, of noem het dan maar op. 420 Niels: En je geeft die ene sleutel geef je weg, maar waarvoor wordt het gebruikt? Daniël: En ik denk dat die optelsom van ontwikkelingen. Daniël: Die wordt, denk ik, een spannende en interessante. Daniël: Dus met AI, ik ben ik ben de optimist die er heel veel mogelijkheden in ziet, maar ik ben ook gelijk degene die denkt, ja, we zijn ook wel, het is wel een heel risicoveld globaal experiment, wat we met alle begonnen zijn. Niels: Hoe hou je jezelf dan inderdaad, tussen die twee werelden in? Niels: Want ik hoor je dan zeggen, ik ben de optimist en ik ben de pessimist. Daniël: Ik ben ze denk ik wel allebei inderdaad. Daniël: Nou, ik denk bij alles je afvragen in eerste instantie, ik denk niet dat het te stoppen is, de ontwikkeling, en dat moeten we ook niet willen. Daniël: Het is een ontwikkeling met volgens mij voelt iedereen dat daar heel veel waarde voor de maatschappij in zit, in zich heel in allerlei vlakken, maar ook wel iedere keer toch even die sceptische pet op zet, even een beetje wat gebeurt hier nu. Daniël: Kan ik uitleggen wat er uiteindelijk gebeurt. Daniël: En daar heb ik het gevoel van dat dit voldoende is voor nu wat we aan het doen zijn, en dit terughoudendheid ook wel echt betrachten daarin. Niels: Ja, ik denk dat dat een hele waardevolle is die je noemt, inderdaad, dat je zelf ook even in de pessimist kan zetten en even kritisch kan zijn met wat speelt. Niels: Heb je een paar voorbeeldvragen die mensen, vooral de rasoptimisten zichzelf wat vaker zouden moeten stellen. Daniël: Vind ik een hele mooie vraag. Daniël: Ik denk vooral niet zozeer een vraagje zelf stellen, maar elke keer afvragen. Daniël: Het meeste rasoptimisten gaan ervan uit, en dat is denk ik ook wat recht dat in een heel hoog percentage. Daniël: Als je gewoon alle waarborgen in de acht neemt, dat de uitkomst is wat je verwacht dat eruit komt. Daniël: Maar vraag je nou eens af en dat even andersom, als 99% goed is, is 1% fout. Daniël: Over hoeveel situaties hebben het. Daniël: En dat is één stap in de keten. Daniël: Als je de tweede stap pakt, die 1% nog een keer. Daniël: En dan gaan we door en gaan we door. Daniël: Hoeveel stappen heb je nodig om inderdaad te komen tot een situatie, waarin je zegt, dit vind ik best wel een grote foutmarge. Daniël: En ik denk als je dat iedere keer jezelf afvraagt, dus hoeveel schakels zit er in de keten met een foutmarge en kan ik daar nog achter staan. Daniël: En durf ik dan ook te bewijzen dat dat zo is, ik denk dat dat altijd wel een goede bewustwording is. Daniël: Dus het gaat voor mij altijd om bewustwording. Niels: Ja, helemaal heel mooi inderdaad zeg. Niels: Want ik denk dat dat echt wel ook heel moeilijk is om in ketens te denken, vaak zitten in onze eigen kaders. Niels: En zit er eigenlijk inderdaad nog een heel veel keten voor ons en achter ons processen, bedrijven, netwerken. Niels: En onderschatten we dat wat het effect daar vooruit en achteruit kan betekenen. Daniël: Wat we ook onderschatten is, denk ik, want dat is een mooie woord hier als bruggetje, denk ik. Daniël: Wat doen we nou met die GNAI? Daniël: Nou, we zijn in de kern. Daniël: Je ziet de eerste statistieken nu al een beetje ontstaan, zijn we startersbanen, junior banen aan het vervangen. Daniël: In de IT-kant, in de logistiek kant, in de operationele administratieve kant, overal. Daniël: We zijn uiteindelijk juniorbanen, startersbanen aan het vervangen. Daniël: De vraag is wel, als je in de reviewrol zit als senior en je reviewt de uitkomst van het systeem, dat zal de komende jaren best wel goed gaan, want het lijkt heel erg op wat we daarvoor hebben getraind door diezelfde mensen. Daniël: Dus uiteindelijk zal dat aan het begin wel redelijk goed gaan. Daniël: Maar vervolgens is natuurlijk de vraag, maar hoe is die doorstroom dan? Daniël: Wie is de nieuwe senior? Daniël: Dus eigenlijk is het een maatschappelijk vraagstuk ook. Daniël: Hoe leren we? Daniël: Dus hoe leiden we op. Daniël: En dat geldt ook in de volle breed. Daniël: Hoe leiden we mensen op tot de human in de loop of humanine control. Daniël: Hoe komen we daar? Daniël: En dat gaat zo huwelijk snel, nu die ontwikkeling. Daniël: Dat ik dat ik wel echt daar wel denk van als je het hebt over wat zijn nou de risico's hierop en wat onderschatten we, ik denk dat we dit stuk een beetje aan het onderschatten zijn met z'n allen, wat zouden we aan kunnen doen, misschien voor een deel ook wel. Daniël: En dat is altijd een beetje een moeilijke, maar je noemde net de AI-act. Daniël: En ik denk dat regelgeving, het traject waarop we regelgeving tot stand brengen. Daniël: Dat dat wel haaks staat, op de snelheid waarin AI zich ontwikkelt. Daniël: Dus de kans dat we dat dat de komende jaren een beetje in balans komt, lijkt mij best wel ingewikkeld. Daniël: Je zou denk ik naar een soort design principles moeten. Daniël: Dus naar een aantal uitgangspunten, een aantal principes. Daniël: En één daarvan zou moeten zijn dat je dat je ook een plan hebt hoe je opvolging doet van mensen die het systeem begrijpen. Daniël: En ik denk dat hoe je dat kunt doen, voor een deel zal dat natuurlijk sowieso vanuit veel opleidingen uiteindelijk wel die kant opwerken. Daniël: Dus dat denk ik wel, maar ook bedrijfsopleidingen zullen hier wel echt aandacht aan moeten besteden. Daniël: Wat doen nou al die schakels in een proces, kan ik nog uitleggen waar dat vandaan komt oorspronkelijk. Niels: Dus nog wat meer trainingen om inderdaad de kennis genoeg en context genoeg binnen je organisatie op te leiden, dan zijn we toch weer aan het opleiden. Daniël: Ja, uiteindelijk wel, het is een kennisintensief, bijna alles wat we vervangen, is toch uiteindelijk kennisintensief werk wat vervangen wordt nu. Daniël: En dat was natuurlijk in veel technologische ontwikkeling was dat net iets anders, maar nu wordt ook kennisintensief werk vervangen. Daniël: En dat betekent niet dat de kennis daarmee weg zou mogen zijn, die kennis moet juist geborgd zijn. Daniël: Dus de kennisborgingsvraag wordt een van de essentiële elementen, denk ik. Joop Snijder: Om we het nu toch over trainingen hebben. Joop Snijder: Je hebt in zo'n korte tijd zoveel mensen getraind. Joop Snijder: Er zijn natuurlijk nu heel veel bedrijven die bezig zijn met AI adoptie, eigenlijk ooit hoort daar dat ook bij. Joop Snijder: Wat zijn nou tips die je mee zou kunnen geven wat je geleerd hebt voor bedrijven die adoptieprogramma's eigenlijk aan het opzetten zijn of daarmee bezig zijn. Daniël: We hebben best wel de reis doorlopen, zeg maar. Daniël: We zijn wel begonnen met het idee, als je iets vervangt, dus eerst in de detectiekant waar ik het over had, dan moet je het wel zo doen. Daniël: Dat het gevoelsmatig niet een hele grote stap is. Daniël: Dat klinkt een beetje gek misschien. Daniël: Maar dat de uitkomst van een model eigenlijk weer teruggeleid wordt naar wat was ook weer de reden om er naar te kijken, dan maak je het redelijk lineair eigenlijk. Daniël: Dat was voor ons een van de van de van de best wel succesvolle tussenstappen. Daniël: En daarnaast inderdaad, het is toch wel uiteindelijk veel kleine stapjes communicatie. Daniël: En ik denk dat we nog steeds vooral zitten op het verbeteren en het vervangen van schakels in een proces, waardoor het proces herkenbaar blijft. Daniël: Je komt zo meteen natuurlijk wel op een kantelpunt. Daniël: Waarbij je gaat zeggen, eigenlijk is het niet logisch meer wat we doen. Daniël: En dan wordt het denk ik ingewikkelder. Daniël: Maar vooral de herkenbaarheid houden en de expertise, we hebben heel erg ingezet ook op benadrukken hoe belangrijk expertise is. Daniël: Want dat is voorlopig is dat voorlopig altijd nodig. Daniël: Deels kun je dat misschien daar kan AI rol voor spelen, maar je zult toch in je organisatie kennis moeten behouden. Daniël: Dus blijven inzetten op de kennis die je nodig hebt en stapje voor stap is dat herkenbare processen blijven. Daniël: Maar goed, we hebben ook niet de wijsheid altijd in pacht en dit soort dingen, maar dat is wel wat ik er van de afgelopen zes jaar dan. Joop Snijder: Je bent er heel intensief mee bezig geweest, ik denk dat het een hele mooie tip is. Niels Naglé: Ik had nog een vraag, maar dan moeten we even opzoeken, inderdaad, die had ik vanochtend met AI samengesteld. Daniël: Dus ik krijg nu een vraag van AI. Niels Naglé: Samengesteld door AI en mij. Joop Snijder: Wat is misschien wel leuk, het is wel eens vaker verteld, maar Niels die bereidt, wij bereiden sowieso natuurlijk deze gesprekken voor. Joop Snijder: Hij bereidt het ook voor in de auto. Joop Snijder: Hij zit regelmatig lang in de auto. Joop Snijder: waarin die spart om voor de voorbereiding om op goede vragen te komen. Niels Naglé: En dat doe je dan met dit geval ChatGPT en dan de Voice. Niels Naglé: Dus dan zet ik hem aan als ik in de auto stap en dan laat ik eerst de onderzoek weer in jou doen. Niels Naglé: En dat heb ik allemaal zelf gedaan, maar dan laat ik dat nog een keer doen. Niels Naglé: Komt dus nog soms met de verkeerde personen, maar goed, dat weet ik dan allemaal, en dan artikelen weer op laten halen en dat soort zaken, dan ga ik gewoon sparren met van wat zijn interessante vraagstukken die spelen in dit domein. Niels Naglé: Wat zijn zaken die je niet verwacht, maar wel van belang zijn. Niels Naglé: En zo komen er allemaal verschillende vragen naar voren. Niels Naglé: Ik heb het heel veel, dus ik heb er eentje uitgekozen. Niels Naglé: En volgens AI komt hij onder de provocerende vragen. Niels Naglé: Dus allemaal vast een beetje voor te brengen. Niels Naglé: Wat zou jij zeggen tegen critici, die vinden dat AI een black box is en te ondoorzichtig is voor zoiets belangrijk zoals financiële criminaliteit. Daniël: Dat is wel een. Daniël: Ik weet niet welke categorie. Daniël: Ik denk uiteindelijk ben ik niet. Daniël: Ik denk dat het verschillende kanten op hiermee. Daniël: Want uiteindelijk wil je heel graag verklaren wat het algoritme doet. Daniël: Maar op het moment dat je kunt verklaren waarom de output van het algoritme past bij de bedoeling die je erachter had. Daniël: Dus dat is meer een beetje cryptisch, maar ik kom een beetje terug op wat we net zeiden: je gaat van simpele logica, iemand komt met een sport als cash bij de banen, dat heb je bijna niet meer bij banken, maar dat was natuurlijk het klassieke klassieke voorbeeld, daar hoef je geen AI voor te gebruiken om te denken, ik ga een extra vraag stellen, even waar het vandaan komt. Daniël: Maar op het moment dat je moeilijkere patronen hebt, dan is het vooral de vraag: wat is je modus operandi, wat zijn dan de onderzoekswaardige situaties, en relateert dat aan elkaar en waar je vroeger dan probeerde alle logica daarachter helemaal uit te schrijven te begrijpen, zal dat steeds iets minder zijn, zolang je maar die feedbackloop hebt zitten en kunt uitsluiten dat daar echt ongewenste discriminatie plaatsvindt. Joop Snijder: Heel duidelijk. Joop Snijder: Wat zou je mee willen geven aan de luisteraar die nu luistert. Joop Snijder: Die zitten met vraagstukken in hun hoofd rondom: van ja, hoe kan ik nou zelf achter mijn vooroordelen komen of trainingen rondom adoptie, wat zou je de luisteraar mee willen geven. Daniël: Ik denk als mijn ervaring zou, het is toch het meest nuttige, is het gewoon uit te spreken in gesprek gaan. Daniël: En dat klinkt heel simpel en heel soft enzovoort. Daniël: Dat realiseer ik me heel goed. Daniël: Maar in elk gesprek wat ik tot nu toe daarover gehad heb, komen weer dingen naar voren. Daniël: Want iedereen heeft wel iets meegemaakt. Daniël: En dat kan op alle vlakken zijn. Daniël: En het hoeft ook niet werkgerelateerd te zijn om het gesprek te openen. Daniël: Het kan zijn dat je dat je elkaar. Daniël: Het gaat uiteindelijk heel vaak ook over communicatie, dat je elkaar niet goed begrijpt. Daniël: Of dat je inderdaad met een aanname zit over de ander en die verweeft in al je kan op allerlei vlakken zijn. Daniël: Maar stel je kwetsbaar op en ga het gesprek aan, dat is toch echt de belangrijkste. Daniël: En probeer ook om je heen te kijken, inderdaad, zijn er mensen waarvan ik denk, oh, die begrijp ik misschien niet zo heel goed. Daniël: En vraag dat ook een keer. Daniël: Want dat is ook superbelangrijk. Daniël: Maar heel heel bewust mee bezig zijn, ik stel mijn teams ook heel bewust divers samen, omdat ik gewoon weet dat uiteindelijk ga je dan mooie dialoog aan en ga je hele mooie gesprekken krijgen. Daniël: En krijg je veel perspectieven. Daniël: En hoe meer van die perspectieven, het is niet per se hoe meer hoe beter moet ik zeggen, maar het is wel zo dat het helpt heel erg in dingen verklaren. Daniël: Goede overwegingen te maken in wat je wel en niet of met modellen oplost of op allerlei terreinen. Daniël: Het is een hele simpele tip, maar agendeer het een keer over. Joop Snijder: Maar ik heb nog één één dingetje dieper. Joop Snijder: Want stel, ik wil dit gesprek met Niels, zo direct stoppen wij en ik wil dit gesprek met Niels openen. Joop Snijder: Wat is de conversation starten? Daniël: Wij hebben gedaan, is inderdaad dat we met een aantal stellingen ook begonnen. Daniël: En wat je dus inderdaad kunt doen, is dat je het dat je er wel even een moment voor pakt. Daniël: Want het is best wel lastig aan het koffiezetapparaat om een vrij willekeurige zin erin te gooien. Daniël: En zeker als het over discriminatie gaat, wat het onderwerp is, waar je toch uiteindelijke serieuze serieus aanvliegen om er iets goeds uit te halen. Daniël: Dus agendeer het wel een beetje, zou ik zeggen, maar begin met een paar stellingen. Daniël: Jij gebruikt dus overal ChatGPT voor. Daniël: Die heeft vast een paar hele leuke gespreksstarters. Daniël: Waarbij ik denk, begin met een stelling en een situatie, een casuïstiek iets. Daniël: En daar kun je echt heel makkelijk aan komen. Niels Naglé: En wat bij mij altijd helpt, en ik heb niet een voorbeeld nu direct voor deze voor dit onderwerp is iets opzoeken, wat eigenlijk zo voor de hand ligt, waar iedereen wel een beeld bij heeft, een beetje tot het extreme trekken. Niels Naglé: Dus voetballers van jongens in plaats van vermijden of iets van die standaardbeelden, om die eens op tafel te leggen. Niels Naglé: En dan eigenlijk te zeggen van zo dachten we er vroeger over. Niels Naglé: Dus hoe denken we over andere onderwerpen waar we het eigenlijk ook eens met elkaar over moeten hebben. Joop Snijder: Dat gaan we zo doen. Joop Snijder: En ik dacht te luisteren uit. Joop Snijder: Ik dacht te luisteren ook uit ons. Joop Snijder: Ga het gesprek aan. Joop Snijder: Dankjewel voor deze inzicht, Daniël. Daniël: Graag gedaan. Daniël: Wat leuk om niet te zijn. Joop Snijder: Leuk dat je weer luisterde naar deze aflevering van AIToday Live. Joop Snijder: En we hebben al over stellingen gesproken. Joop Snijder: We hebben twee kaartspellen die je kan bestellen, waarbij je rondom stellingen. Joop Snijder: En dat zijn niet alleen maar over biases. Joop Snijder: Dus dat gaat over van alles en nog wat rond de AI. Joop Snijder: Die zijn gratis te verkrijgen. Joop Snijder: Dus de link staat in de show notes. Joop Snijder: Daniël, nogmaals bedankt. Joop Snijder: Vergeet je niet te abonneren via je favoriete podcast-app. Joop Snijder: Dan mis je geen aflevering. Joop Snijder: Tot de volgende keer.