Onze kunstmatige toekomst: gesprek met de auteur (Joris Krijger)

In deze aflevering praten we met Joris Krijger over zijn nieuwe boek Onze kunstmatige toekomst. Joris deelt zijn visie op hoe we als samenleving met AI om moeten gaan om ervoor te zorgen dat niet alleen een kleine groep, maar iedereen profiteert van deze technologische transformatie. Veel plezier met deze aflevering. Hoi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Mijn naam is Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, Area Lead, Data & AI bij Info Support. En in de studio, Joris Krijger. Joris, je bent weer terug, al vrij snel. En daar zijn we ontzettend blij mee. Want je hebt een heel mooi boek geschreven. Onze kunstmatige toekomst, wat wij willen met AI en AI met ons. En voordat we dat boek induiken, zou je je even willen voorstellen aan de luisteraars? Ja, natuurlijk. Heel leuk om weer terug te zijn. Dus dank voor de uitnodiging. En ja, Joris Krijger, ik ben wat we nu hebben genoemd AI Governance Officer bij de ASN Bank. Sinds 1 juli de ASN Bank, voorheen De Volksbank. En daarnaast ben ik promovendus aan de Erasmus Universiteit op het gebied ethiek en AI. Ja, en waarom moest dit boek te komen? Oh, dat is gelijk een hele goede vraag. Nou, omdat ik me de afgelopen ruim zes jaar elke dag heb bezighouden met het onderwerp hoe zetten we AI nou verantwoord in. En ik heb een heleboel goede discussies voorbij zien komen, maar ik heb ook het idee dat een heel belangrijk deel van de discussie over de verantwoorde inzet van AI nog mist of onderbelicht is. Dat wilde ik graag in dit boek naar voren brengen, om te kijken hoe ziet het grotere plaatje daar nou uit van waar we met AI naartoe gaan. In welke mate is dat wenselijk en wat kunnen we er tegenover zetten om te zorgen dat we die hele AI-revolutie in goede banen leiden. Ja, en kan je nog even kort herhalen voor degene die de vorige keer jou niet gehoord hebben? Ze moeten vooral daarna gaan luisteren, maar even heel kort van wat je binnen de bank doet op het gebied van ethiek. Ja, ik ben bij de Volksbank dus ooit begonnen vanuit de vraag hoe kunnen we algoritmes eerlijk gebruiken. En mijn rol is een beetje geworden in die hybride functie tussen een promotieplek aan de Erasmus Universiteit en bij de bank. Om te kijken wat kunnen we nou in de organisatie inrichten om te zorgen dat we op een verantwoorde manier met die technologie omgaan. Er komen allerlei nieuwe vragen naar voren als je met AI aan de slag gaat. Allerlei dingen waarvan je je misschien niet direct verwacht dat ze naar boven komen als je met AI aan de slag gaat. Dingen als bias, maar ook vragen over is het uitlegbaar genoeg? Wie is uiteindelijk verantwoordelijk voor een AI-systeem? En mijn rol binnen de bank is een beetje geworden om te zorgen dat we structureel grip houden op die ethische aspecten van AI. En al best wel lang, toch? Ja, ik denk dat we na twee jaar, dus dan heb je het over 2021, dat we echt een goed werkend proces hier omheen hadden. Waarvan we dachten, ja, nu kunnen we ook dat waarborgen afgeven. Dat voor de systemen die we ontwikkelen, we vanaf de ID-fase tot het daadwerkelijk in productie nemen van zo'n systeem. Goede checks hebben om te zorgen dat we die ethiek goed inregelen. Toen ik dit boek binnen kreeg. Ik was sowieso heel benieuwd. Sowieso na ons vorige gesprek. Ik was wel geïntegreerd door de ondertitel. Want dat is dan wat wij willen met AI. En dan tussen haakjes en AI met ons. Ik ben heel erg voorstander ervan dat AI niet echt een intentie heeft. En hier spreekt wel een mate van intentie uit, toch? Van wat AI met ons wil. Ja, ik wist dat die reactie erop ging komen. En ik geloof ook niet, en dat bedoel ik ook gelijk in het boek, dat AI zelf een intentie heeft. Maar wat de ondertitel impliceert, is dat als we geen bewuste keuzes maken rond hoe we die technologie inzetten. En wat wij belangrijke waarden vinden om in die technologie mee te nemen. Dat AI ons wel degelijk op een bepaald pad zet. Als individu, als samenleving, als organisatie. Dus we moeten onszelf de vraag stellen, wat willen we eigenlijk met AI? Wat voor organisatie willen we zijn, maar ook wat voor samenleving willen we zijn? Omdat anders AI ons een bepaalde kant op brengt, en dat schets ik ook in het boek, waarin er toch tot op zekere hoogte voor ons gekozen wordt door hoe die technologie is ingestoken. Dus dat is niet zozeer de autonomie van AI zelf, die een plan heeft voor waar wij als mensheid naartoe gaan, maar de bedrijven erachter en de belangen die in die technologie zitten ingebakken, daar moeten we ons denk ik heel goed van bewust zijn. Vandaar die ondertitel om een beetje die spanning naar boven te halen. Mooie spanning die je creëert. En heb je daar voorbeelden van hoe dat nu in de praktijk al zichtbaar wordt? Nou, ik denk dat je op heel grote schaal eigenlijk ziet dat er allerlei... Misschien moet ik één stap terug doen. En eerst kijken, kijk, de verwachting van AI is dat het een heleboel problemen voor ons gaat oplossen. En wat ik schets is ook dat het een waanzinnige technologie is die ook daadwerkelijk heel veel kan oplossen. Maar wat we vaak vergeten daarbij te vragen is wat gaat het niet oplossen en welke nieuwe problemen creëert het. En ik denk dat als je kijkt naar bijvoorbeeld de nieuwe voorstellen rond deepfakes bijvoorbeeld. Allerlei maatschappelijke discussies over AI, nepnieuws, noem maar op, fraudevormen die nieuw ontstaan. Dat we ons heel erg focussen op die oplossingen en de gave toepassingen. Maar dat we de problemen die het misschien wel uitvergroot of de nieuwe problemen die het creëert, dat we die een beetje over het hoofd zien. En ik denk dat daar al een beetje die spanning zit van ja, we zien de wereld om ons heen al veranderen. We zien ons eigen werk, ons eigen leven veranderen door AI. Maar we proberen dat nog een beetje te kaderen vanuit ons oude denken. En ik denk dat we dat moeten gaan loslaten om te kijken wat gaat AI daadwerkelijk doen. waar bewegen we nou eigenlijk naartoe en wat zou een passend kader zijn om daar op een menswaardige manier invulling aan te geven. Dat klinkt heel makkelijk, dat even loslaten. Maar hoe doe je dat, dat even loslaten? Nou, en dat is denk ik de essentie ook van het boek. Dat is nadenken over hoe zit deze technologie in elkaar en wat betekent dat. Wat kunnen we bijvoorbeeld leren uit de geschiedenis over eerdere grote technologische doorbraken en de impact die dat heeft op onze maatschappij. En wat kunnen we met de kennis die we nu hebben over deze technologie al zien aankomen de komende jaren? Om ons zelf vervolgens de vraag te stellen, wat vinden we daarvan? Is dat iets waar we heel enthousiast van worden? Misschien van sommige delen wel. Of is dat iets wat we heel zorgelijk vinden? En ik denk dat er ook heel veel aspecten van die AI-revolutie zijn die we als zorgelijk kunnen zien. En waar we ook vanuit maatschappelijk oogpunt echt iets tegenover moeten zetten. En welke lessen zouden we uit de automatisering, want die slag zijn we eigenlijk nog steeds mee bezig. maar al best wel heel lang. Welke lessen zouden we mee kunnen nemen nu voor AI? Ik denk als je kijkt naar de studies over automatisering bijvoorbeeld, dan zie je, ik zeg zelf altijd, vooruitgang is nooit vanzelfsprekend. En dat is wat je ziet doorheen al die technologische revoluties, de stoommachines, elektriciteit, het internet, ze kunnen heel veel brengen. Maar wat je eigenlijk ziet in de geschiedenis is dat het voor eigenlijk maar een hele kleine groep heel goed uitpakt. En dat het voor een groot deel van de mensen veel minder goed uitpakt. En dat het heel lang duurt voordat zo'n disbalans in de samenleving hersteld is. Nadat zo'n technologie eigenlijk alles op zijn kop zet. Voor wie is AI nu dan? Wie zijn de grote winnaars van AI? Je zou kunnen zeggen de grote technologiebedrijven. Het is niet voor niks dat Nvidia nu het meest waardevolle bedrijf in de wereld is. Niet een bedrijf wat de brandstof voor onze auto's levert, zoals een oliemaatschappij. Niet het bedrijf wat onze technologie levert, zoals een Apple of een Microsoft. Maar alleen een bedrijf wat AI-chips maakt, is het meest waardevolle bedrijf in de wereld. Maar ik denk op iets meer maatschappelijke schaal, de verschuiving die ik een beetje zie, is dat werkgevers hier heel veel profijt bij gaan hebben. Ik denk dat bedrijven en organisaties, overheden, hier heel veel profijt van gaan hebben. Maar dat eigenlijk de positie van consumenten, van burgers en van werknemers erop achteruit gaat als we niks doen. En dat is een beetje de machtsverschuiving die je ziet door AI. En wat krijgen die werkgevers en de overheden erbij dan? Die krijgen, denk ik in ieder geval, mogelijkheden erbij om bijvoorbeeld werknemers meer te monitoren. Om consumenten, dat weten we al van de social media bedrijven, effectiever te beïnvloeden. Voor overheden om nauwkeurigere analyses, risicoanalyses te maken. Om processen geautomatiseerd te gaan afhandelen. En dat is voor een overheid misschien voordelig. Of voor een bedrijf misschien voordelig. Maar ik denk dat het voor het merendeel van de mensen niet direct in hun voordeel is. Dat we naar dit soort gestandardiseerde AI oplossingen gaan. Gegeven de risico's die daar aan het gebruik van AI zitten. En er kwam een plingetje binnen. De risico's, wat zijn dan die risico's? Je hebt op de schaal van de toepassing, zeg maar, heb je risico's dat een systeem natuurlijk vooringenomen kan zijn. Je hebt het risico dat het zo onuitlegbaar wordt, dat we niet meer snappen wat er nou precies in zo'n systeem gebeurt. En ik denk daaromheen heb je het risico dat bepaalde belangen, mensen die handiger zijn met die technologie, of die dat meer kunnen inzetten, dat die de boventoon voeren boven anderen. Dus dat je een grotere ongelijkheid krijgt. Dus als je een beetje uitzoomt van die toepassing af, Ik denk in het gebruik van AI ga je zien dat er een verantwoordelijkheidsvraagstuk ontstaat. Namelijk we delegeren een taak aan een AI systeem. Zeker de agents die eraan zitten te komen. Maar betekent dat ook dat we de verantwoordelijkheid voor die taak delegeren? En je zou misschien kunnen zeggen dat is moreel niet helemaal wenselijk. Maar het is wel denk ik de realiteit waar we naartoe gaan. En je ziet ook al voorbeelden van bedrijven die een poging doen in ieder geval. om de verantwoordelijkheid voor fouten in een klantenservice en dat soort dingen op AI af te schuiven. En ik denk als je daar weer van uitzoomt, dan is het risico dat je dus een soort samenleving krijgt met een heel grotere, niet alleen economische ongelijkheid, het verschil tussen rijk en armband steeds groter wordt. Ook omdat er verwachtingen zijn dat AI en de productiviteitsgroei die dat gaat brengen zich gaat concentreren bij de bovenste percentielen van de mensen die werk hebben. Dus niet eens meer een soort polarisatie van de arbeidsmarkt. Maar de groei constateert zich bij de mensen. De meest senior mensen eigenlijk. Ook dat overigens zie je nu al met junior functies en stage functies die vervallen. Omdat AI die rol kan overnemen. En ik denk dus dat je het risico hebt ook dat onze juridische mechanismen. Om bedrijven ter verantwoording te roepen. En om te zeggen we willen eigenlijk weten wat jullie daar aan het doen zijn. Is dat nog wel een democratisch belang. Dat die ook steeds ingewikkelder worden of misschien niet meer toepasbaar zijn. omdat ons wetboek achterloopt, omdat ons juridisch systeem achterloopt en niet bij kan houden waar we met die technologie naartoe gaan. Je triggert er bij mij iets, met name het stukje junior en senior en dan die bovenste percentile. Hoe kijk je er zelf tegenaan? Als we dadelijk geen junioren meer aannemen omdat we met de senioren werken. Dat is toch een vraag om een probleem voor de toekomst? Ja, precies. Dat is een probleem voor de toekomst. Ik heb zelf, voordat ik bij de bank begon en mijn onderzoek ging doen, heb ik bij een start-up gewerkt. En dat was een spin-off van een natuurkundig bedrijf. Dat was hartstikke gaaf. Maar de enige reden dat ik daar kon werken is omdat ik goed was in schrijven. Ik deed de business development, de marketing, maar ook de patentaanvragen bijvoorbeeld. Dus later zat ik te denken, ik was eigenlijk de chat-GPT van dat bedrijf. En de reden dat ik nu een boek kon schrijven is omdat ik eindeloos heb kunnen oefenen met schrijven en eigen maken van andere materie en van tekst en dat weer op papier zetten. Dus ik denk dat mensen ook, je gaat een soort vaardigheidskloof krijgen van mensen die niet meer de kans krijgen om dat te ontwikkelen, omdat AI dat makkelijker, sneller en goedkoper kan doen dan het inhuren van een junior. En dat is denk ik de verschuiving in de arbeidsmarkt die je in grotere zin gaat zien. Wie er aan werk gaan komen en hoe dat werk gewaardeerd wordt, dat gaat heel erg veranderen. Dus je krijgt mensen die misschien heel veel betaald krijgen omdat ze senior zijn en dit al heel goed doen. Maar je krijgt ook mensen die dat punt misschien niet gaan bereiken omdat ze de kans niet krijgen. En ik denk dat soort verschuivingen, daar moeten we vast op anticiperen. Dat is ook de boodschap van het boek. We moeten vast op veel bredere schaal anticiperen op de veranderingen die dit gaat brengen. Niet alleen van we gaan medewerkers trainen hoe ze een chatbot slim kunnen inzetten. Maar we moeten als samenleving ons voorbereiden op wat nou als deze hele grote groep niet meer aan een baan gaat komen. Als bepaalde banen gaan verdwijnen of zodanig gaan veranderen dat ze nieuwe skills nodig hebben. Hoe zorgen we dan dat we daar goed op anticiperen? En wat is het antwoord eigenlijk dan? Waarop? Het begin van het antwoord, het volledige antwoord, misschien deel twee. Maar het begin van het antwoord voor mij is om de manier waarop we naar die technologie kijken en hoe we over die technologie denken anders in te steken. We kijken hier nog steeds heel erg naar ook de wetgeving als een technisch probleem en een technische uitdaging. Hoe passen we deze technologie in, in onze processen enzovoort. En de strekking van het boek is dat we hier eigenlijk veel meer als een soort maatschappelijke uitdaging naar moeten kijken. En dat we dus ook de dingen die we er tegenover zetten op maatschappelijke schaal insteken. En voor mij zit dat bijvoorbeeld in een goede en krachtige consumentenbond. Goede krachtige vakbonden die in de CAO onderhandelingen aspecten over AI en de automatisering die AI kan brengen meenemen. Maar ook veranderingen in de wetgeving bijvoorbeeld. Je ziet dat nu op intellectueel eigendomsrecht voor deepfakes wat deze week is voorgesteld. En ik denk dat we veel meer op die schaal moeten kijken naar hoe gaan we die technologie in groene baden leiden. In plaats van wat we in de jaren dat ik hier naar onderzoek heb gedaan alleen maar hebben gedaan. Is zeggen tegen ontwikkelaars. Jullie krijgen een training. Jullie krijgen een waardekader. Een assessment op mensenrechten. En zorg maar dat het netjes gebeurt. En ik denk dat we daar de oorlog niet mee gaan winnen. En zie je de beweging al? Is die al ingezet? Dus dat we vanuit een andere blik naar kijken dan alleen technologie? Of is dat nog echt te schaars en moeten we eerst allemaal het boek lezen? Sowieso denk ik dat het verstandig is, aanbevelenswaardig, om kennis te nemen van het boek. Maar ik denk dat het tot nu toe nog steeds te ad hoc is. Dus ook wat we doen op het gebied van de deepfakes en de intellectueel eigendomsrecht. Ik denk dat het redelijk ad hoc is, omdat we het grotere plaatje eigenlijk nog missen. Dus we zijn brandjes aan het blussen voor individuele incidenten die ontstaan met die technologie. Zonder de link te zien tussen, hé, maar dit komt allemaal voort uit dezelfde aard van de technologie en hetzelfde systeem waarbinnen die technologie gebruikt wordt. En we moeten in dat systeem wat wissels omzetten om te zorgen dat we een andere richting opgaan dan wat we nu misschien aan het doen zijn. Maar dat is best heel groot, toch? Ik hoor wat je zegt, maar ik zie het nog niet voor me van wie of wat dit vorm gaat geven. Jij wel? Ja, ik denk dat er twee heel belangrijke aspecten zijn aan de verandering die we kunnen inzetten. De eerste heb ik genoemd de ethische infrastructuur van organisaties. Daar heb ik vorige keer ook al iets over verteld voor hoe dat voor de ASM bank is. Maar ik geloof heel sterk in dat we de technische infrastructuur nu best aardig op orde aan het krijgen zijn met data en hoe we dat allemaal inrichten. Maar de ethische infrastructuur waarmee ik bedoel de structuren en processen die we inrichten om de ethiek naar boven te halen. Te bespreken een zorgvuldige afweging in te maken. Te zorgen dat we de juiste stakeholders betrekken in die afweging. Die ontbreekt nog bij heel veel organisaties. Ook bij organisaties is het vaak nog een soort ad hoc en inderdaad op ontwikkelaars gerichte aanpak. Dus dat is stap 1. Dus dat je als organisatie volwassen wordt in het gebruik van ethiek rond je AI-systemen. Dat je volwassen wordt in de discussievoeren, het betrekken van de juiste mensen bij die discussie. En het tweede aspect, en dat heb ik morele veerkracht genoemd, is een samenleving met organisaties en instanties en stichtingen enzovoort, die ook een goede tegenmacht kan vormen op de macht die overheden en bedrijven gaan krijgen. En dat zit hem in zo'n consumentenbond die aan tafel komt zitten op het moment dat het over cao's gaat en automatisering. Dus ik geloof heel sterk in een structuur binnen organisaties waarin die ethiek naar boven wordt gehaald en waarin rechtvaardiging een belangrijke rol speelt. Wij kiezen ervoor om deze kant op te gaan met dit AI-systeem. Dit zijn onze redenen daarvoor en daar kun je over in gesprek gaan. Daar zitten allerlei aannames en waardes achter die tekenend zijn voor die organisatie. En ik denk dat het belangrijk is dat als die rechtvaardiging er is, dat er ook een partij is die kan zeggen wij kunnen ons hier wel invinden of niet invinden. En wij gaan dat bijsturen wanneer nodig. Ja, dus eigenlijk ook een soort van AI governance board op overheidsniveau. Ja, ik denk dat het veel meer, omdat AI zo'n ontzettend, het is een systeemtechnologie, omdat het op zoveel verschillende plekken doordringt en op zoveel verschillende plekken complexe vragen en dilemma's naar boven brengt, kun je dat denk ik niet centraal oplossen. Dus het is heel goed als een zorgenautoriteit enzovoort ook kennis nemen van wat AI is, wat het betekent voor de zorg, voor patiënten, voor mensen die in de zorg werken, Om op die manier eigenlijk ook goede afweging te maken in het belang van de werknemers of de consumenten of de burgers. Zodat hun belangen een plek hebben aan de beslistafel. En ook in het proces daarna. Want dat is misschien nog wel minstens zo belangrijk. Bij ethiek is het namelijk nooit zo dat je één keuze maakt en die is voor eeuwig de beste keuze. Het is een keuze die je ook vaak zal moeten herzien. Je zult je AI-systemen moeten monitoren of ze nog passen. En ik denk dat die correctiemechanismen, dat is wat ik bedoel met morele veerkracht, dat het feit dat ook als je de verkeerde kant op gaat of de verkeerde keus maakt, dat er mogelijkheden zijn om dat bij te sturen vanuit de samenleving of het publiek belang. Ik denk dat dat essentieel wordt om dit in goede banen te leiden. Ja, mooi. Een van de dingen die ik las in je boek, want we hebben het heel snel over problemen, maar je hebt ook een heel mooi voorbeeld van hoe AI in ieder geval ook een samenleving kan versterken. En dan haal je het voorbeeld van een integratievraagstuk in Zwitserland aan. Zou je daar iets over kunnen vertellen? Ja, zeker. Dat is voor de mensen die de podcast van de vorige keer gaan luisteren, die komt hier ook even voorbij. Dus excuus voor de herhaling. Maar dat is een heel mooi systeem wat ontworpen is met Zwitserland en Stanford. Waar ze eigenlijk het integratievraagstuk met AI zijn gaan oplossen. En zij gaan kijken hoe kunnen we dat nou op een effectievere manier doen. En wat ze gedaan hebben is ze kijken naar welke vraag is er, welke arbeidsvraag bijvoorbeeld is er in een bepaalde community. Wat voor skills hebben we behoefte aan? En met AI zijn ze mensen, vluchtelingen zijn ze gaan matchen met de vraag in die community. Zodat mensen snel aan een baan kunnen komen waar ze geplaatst worden. En daarmee, en dat laten de cijfers ook zien, significant, sneller en beter integreren. Wat voor de gemeenschap daar goed is, want ze hebben de mensen die ze nodig hebben. En natuurlijk voor degene die daar moeten integreren ook heel goed uitpakt. Omdat ze een vaste plek hebben, vastigheid hebben, bestaanszekerheid hebben. Ja, en wat mij vooral opviel in deze case is dat er zo anders nagedacht wordt. In de huidige politiek zien we alles als probleem. Terwijl hier heel erg vanuit de oplossing is gedacht. En dat lijkt me, als je het dan hebt over ethiek, lijkt me dit een hele mooie case. Ja, nee, absoluut. En ik benoem ook steeds, er zitten allerlei risico's aan AI. Maar ik probeer ook telkens naar voren te halen van dit zijn voorbeelden waar het wel goed is gegaan. Waar mensen wel vanuit de juiste insteek gekeken hebben. Hoe kunnen we die technologie die waanzinnig krachtig is. Die hartstikke mooie dingen kan doen. Hoe kunnen we die nou wel op zo'n manier inzetten. Dat het ook bijdraagt aan onze community. En dit is inderdaad echt vanuit een soort community idee ingestoken. Hoe helpen we deze mensen en de gemeenschappen waar ze moeten integreren. En dat is denk ik de juiste houding. In plaats van hoe zorgen we dat we mensen zo snel mogelijk of zo goed mogelijk eruit filteren. Voor ze hier binnen zijn en voorkomen we dat ze hier binnen komen. Dat is een andere insteek. En ik denk dat deze veel constructiever is en ook op de lange termijn veel meer gaat opleveren voor de Zwitserse samenleving in dit geval. Ja, ik bleef het een mooi voorbeeld vinden. Ja, en wat ik me dan afvraag, is dan de heldere en transparante intentie die zo naar voren komt? Want in principe hoop ik dat we dat als maatschappij altijd willen. Dus wat maakt het dan anders? Is dat dat ze de tijd voor hem gepakt hebben om het vanaf een afstand opnieuw te bekijken? Ja, ik denk dat het dat is. De reflectie op hoe gaan we deze technologie inzetten om deze mensen te helpen. En inderdaad wat al gezegd werd. Ook de houding waarmee ze die technologie zijn gaan uitrollen rond dit vraagstuk. Omdat je er heel veel verschillende dingen mee kunt doen. Visa controleren enzovoort. En dit is een manier waarin ze zeiden we willen zorgen dat we de mensen en de samenleving zo goed mogelijk helpen. Ik denk dat dat beseft, die houding. Ik zei al, AI stelt ons uiteindelijk voor de vraag... wat voor samenleving willen wij zijn? En ik denk dat dit een heel mooie invulling is van een antwoord... van hoe willen wij omgaan met mensen die hier naartoe komen? En een mooi antwoord op de vraag wie wij willen zijn. En hoe we dus technologie inzetten om eigenlijk die uitdaging aan te gaan. Ja. Ik kwam een heel grappig fragment tegen uit je boek. Dus die zou ik eigenlijk... Ik bedoel, ik vertel hem even aan jou. Joris, die kent hem. Maar ik ben wel benieuwd waarom je hiervoor gekozen hebt. Daar staat hoe goed de bedoelingen ook zijn waar we algoritmes en AI voor willen gebruiken. Ze allemaal moeten dealen met de data uit het verleden. En hoe passend die data zijn voor de situatie nu. Je zou kunnen zeggen dat we, als we iets aan AI vragen, antwoord verwachten van een soort Alexander Klubbing-achtige geest. Maar in de praktijk eerder een Johan Derkse antwoord krijgen. Dat is wel mooi. En waarom heb je het als zodanig beschreven? Dit was ooit een keer in een gesprek na een keynote. Kreeg ik de vraag van hoe zit dat dan? Het gaat heel erg over het thema die objectiviteit van AI. Waar in feite allerlei meningen omkleed met code wordt het ook wel genoemd. Er zitten allerlei subjectieve aspecten in. En de aanname die vaak leeft bij mensen is omdat het data gedreven is. Omdat het over AI gaat, wiskundige technologie ingewikkeld. Dat AI voor ons een soort de toekomst voorspelt. Zoals een Alexander Klubing dat doet. Zo ziet de toekomst eruit. Maar wat we vaak vergeten is dat het getraind wordt op data uit het verleden. En dat je dus eigenlijk ook heel vaak conservatieve antwoorden krijgt. Selectieprocessen waar voor de technische functies vrouwen op voorhand uit het selectieproces gehaald worden. Enzovoort. Dus het was voor mij een manier om te illustreren dat heel veel mensen de idee bij AI hebben dat het ons de toekomst gaat voorspellen. Terwijl we in feite allerlei conservatieve, en daar schaar ik Johan Derksen dan maar onder. Dat er allerlei conservatieve opvattingen aan het repliceren zijn en automatiseren zijn met die technologie. En dan nog een belangrijk aspect is dat de datakwaliteit van de historische data vaak ook nog ondermaats is. Ja, ik denk dat dat ook hierop gaat. En dat er dan heel selectief ook gekeken wordt. Want dat wordt natuurlijk ook bij dat conservatieve. Dat je er alleen uit pikt wat voor jou op dat moment handig is. Ja, en ik denk, nou ja, het illustreert een beetje het probleem van de problemen die in AI blijven zitten. Ik zei al van AI kan allerlei problemen oplossen, maar er zijn ook allerlei problemen die het niet op kan lossen. En de geschiedenis en de data die we uit die geschiedenis hebben gehaald, die kan het niet voor ons oplossen. Dus het is aan ons om te kijken hoe verhouden we ons daartoe en hoe willen we dat naar de toekomst toe vormgeven. En een beetje het mantra wat ik daarbij hanteer is AI kan ons iets vertellen over hoe de wereld was. Misschien iets over hoe de wereld is. Maar het kan ons niet iets vertellen over hoe de wereld zou moeten zijn. En dat is het ethische vraagstuk van waar willen we dan naartoe met die technologie. Mooi, mooi. Zo, dan zakt die vraag een keer weg. Ja, dat kan gebeuren. Wat we aan jou willen voorleggen is dat we zijn ook bezig met een nieuw kaartspel. Daar zit ook het onderwerp ethiek, een maatschappij in. We weten niet of jij die gaat kiezen. Met het hele idee hadden we de vorige keer natuurlijk ook. Dat je met elkaar dingen gaat bespreken aan de hand van een stelling. Dit is heel specifiek allemaal uit de zorg. Dus ik ben heel erg benieuwd naar wat jij vindt. Het kaartspel kun je al wel vast reserveren bestellen. Maar hij is nog niet gedrukt. Dus Niels kan niet schudden. Maar we kunnen wel aan jou vragen om een getal onder de 42. En dan gaat hij uit de Excel-sheets die we hebben. Gaat hij jou de vraag stellen? Welk nummer mag het worden? Ja, onder de 42 kies ik 41. Het thema is dan wetgeving en beleid. En de stelling luidt, iedere zorgverlener moet verplicht AI geschoold zijn. Poeh, iedere zorgverlener. Ja, ik zou zeggen van wel. Ik denk dat, en niet alleen voor zorgverleners, maar ook daarbuiten. Ik denk dat het heel goed is, omdat AI niet alleen in de zorg, waarin allerlei processen een steeds belangrijker rol gaat spelen, dat het heel goed is om in ieder geval in de basis kennis te nemen van wat is AI precies. En ook wat zijn de beperkingen van die technologie. Omdat de verwachting is in ieder geval, zeker in de zorg ook, dat je je werkende leven steeds meer gaat samenvallen met AI. Je werkt steeds meer met AI direct of indirect. En ik denk dat als je niet genoeg weet over hoe die technologie in elkaar zit, dat dat allerlei onwenselijke uitkomsten zou kunnen geven. Dus ik ben het wel eens met die stelling... dat mensen daar in ieder geval een basiskennis van moeten hebben. Helder. Mooi. Ik heb ook nog een soort van opmerking gekregen... van een van de luisteraars. En die zei, dit zou je eigenlijk eens aan ethici moeten vragen. Dus die wil ik eigenlijk ook aan je voorleggen. En er werd gesteld namelijk... hoe moeten we omgaan met de dubbele standaard... Waarbij we van AI perfectie eisen. Terwijl we accepteren dat mensen bij dezelfde taken vooroordelen hebben en fouten maken. Ja, dat is een hele grappige. Die heb ik ook in het boek zitten. Ik heb een heel hoofdstuk met reacties die ik vaak krijg op mijn verhaal. En daar is dit er een van. Als mens zijn we toch ook niet ethisch. Dus kunnen we dan van AI een perfecte standaard verwachten. Ja, mijn idee erbij, wat ik er altijd bij zeg is, het is een beetje hetzelfde als zeggen, we hebben ook geen extra codes voor een nucleair programma nodig, want mensen krijgen toch ook in de kroeg, we gaan in de kroeg toch ook wel eens met elkaar op de vuist. Zo van, ja, dat klopt, maar dit is echt van een andere orde grote, een andere schaal, met veel grotere consequenties. Dus ondanks dat we het niet eens kunnen zijn over wat misschien ethisch is, is het denk ik wel heel goed om na te denken over wat het best mogelijke is wat we kunnen doen hieromheen. Omdat dit, wat ik zei, op een zo grotere schaal is. En ik vind het ook een beetje getuigen van een soort morele laksheid. Om te zeggen, ja wij kunnen het ook niet. Dus waarom moeten we het dan aan AI opleggen? Ik denk ook dat we als mensen de verplichting hebben. Om zo goed mogelijk zorg te dragen voor onszelf, voor elkaar, voor de wereld om ons heen. Dus door dan te zeggen, ja we komen daar nooit helemaal uit. Ik geloof dat we absoluut betere van minder goede levensvormen kunnen onderscheiden. En ik denk dat dat voor AI ook zo is. En ik denk ook zelfs dat we die verplichting hebben om te zorgen dat we dit in goede banen leiden. En te zorgen dat we nu vast de keuzes maken die voor de volgende generaties een systeem of een samenleving opleveren. Die misschien beter is of een betere levensstandaard kan voorzien dan de onze nu. Ja, zeker. Het is wel zo natuurlijk dat, wat ik in ieder geval ook bij mijn praatjes en dat soort dingen tegenkom. is dat de perfectie wordt wel geëist net alsof AI geen fouten meer mag maken. En dat is natuurlijk wel weer de andere kant van het verhaal. Dus als je geen fouten wil, zeg ik altijd, dan moet je geen AI gebruiken. Dus daar zit wel ergens natuurlijk een balans in. Nee, tuurlijk. En ook AI gaat niet foutloos zijn. Dus het zou onredelijk zijn om dat te eisen. Wat ik merk is dat het vaak als argument wordt aangehaald. Om te zeggen van ja, maar als mens komen we er niet uit. Dus hoe kunnen we dat nou in een AI systeem stoppen? En ik denk dat we ons heel bewust moeten zijn van de beperkingen van AI. En dus ook het feit dat het fouten maakt, fouten zal maken. En vandaar dat ik heel erg hamer op die correctiemechanismen om dat bij te sturen. Omdat ik daar veel meer in geloof dan alleen de besluitvorming. Of wat we dan in de ethiek hebben als moreel beraad of zoiets. Waar we met z'n allen bij elkaar komen, een besluit nemen van zo gaan we het doen. En dan is dat wat het vanaf dat punt is. Dus ik denk dat het zeker waar is. En ook dat onze ethiek evolueert. Dus ook dat we kunnen terugkomen op een eerdere beslissing. Dat was toch niet de juiste. Als mens zijn we ook blackboxen tot op zekere hoogte. Als mens hebben we ook allerlei vooroordelen. Maar we moeten ons er heel goed van bewust zijn. Dat we die ook allemaal in die technologie stoppen. Dat we heel kritisch moeten zijn op wat die technologie doet. En dat we ons telkens de vraag moeten stellen. Zoals we dat ook aan onszelf zouden moeten doen. Is dit het systeem wat we willen? En zijn we daarmee wie we willen zijn? En die correctiemechanismen, zijn die ook voldoende verankerd in de AI Act, volgens jou? Nee, ik zou zeggen van niet. Met de AI Act ontstaat er een ontzettend goed bewustzijn over de risico's die aan AI zitten. En het risicomanagement, wat je zeker voor de hoogrisico toepassingen moet ingeregeld hebben. Maar ik denk dat het zelfs tot op zekere ochtend ook nadelig zou kunnen zijn voor de ethische discussie. Omdat je, dat noemen ze het Peltzman effect. en dat is vernoemd naar een econoom die bestudeerd heeft hoeveel verkeersongelukken er waren nadat de gordel verplicht werd in de auto en eigenlijk ging dat helemaal niet zo ver naar beneden als dat ze hadden gehoopt en dat kwam omdat mensen dachten ja we hebben nu een gordel in de auto en dan kunnen we meer risico's gaan nemen dus het is een soort juridificering van ethiek waardoor de ethische discussie zelf een beetje naar de achtergrond verdwijnt en dat zou ik heel jammer vinden als we dat als dat bij de AI act ook het gevolg zou zijn. Ik denk dat het absoluut de stap in de goede richting is. Maar ik zou het heel belangrijk vinden dat we nog steeds die ethische discussie blijven voeren over wat is bijvoorbeeld bias. Er zit in artikel 10 van de AI Act specifiek dat je bias moet signaleren, moet voorkomen en moet mitigeren op het moment dat je dat tegenkomt. Maar wat telt als bias? Wanneer is een onderscheid onwenselijk? Dat zijn denk ik allemaal ethische vragen waar we dat soort correctiemechanismen voor nodig hebben. Het is best wel heel erg moeilijk inderdaad, wanneer is iets bias. Ja, als het heel duidelijk is, dan gaat het juist om de subtiliteiten. Ja, absoluut. En ook waar het duidelijk is, zou je zeggen, uiteindelijk is het altijd, wat ze dan zeggen is, there are no solutions, there are only trade-offs. Uiteindelijk is het altijd een trade-off die je maakt. Je kunt je voorstellen dat misschien in bepaalde fraude-detectieprogramma's bepaalde nationaliteiten, neem Rusland bijvoorbeeld, vaker naar boven komt. En dat je dus mensen met een Russische nationaliteit vaker vragen gaat stellen over, is hier misschien sprake van fraude? Dan val je die groep structureel vaker lastig. Die hebben daar hinder van. Maar misschien is daarmee ook de kans dat je daadwerkelijke vormen van fraude opst wordt een stuk hoger. En als je zegt we halen nationaliteit hier uit, dan val je die groep minder vaak lastig. Maar mis je misschien ook veel meer vormen van fraude. En dat is een discussie van gaan we voor een zo optimaal mogelijke detectie van fraude. Of gaan we voor een zo eerlijk mogelijk systeem waarin nationaliteit niet zwaar meeweegt in wie daar geflagd wordt. Ik denk dat er in het begin al heel veel en in het verleden ook al heel veel over nagedacht is. Maar met de versnelling en met AI, de technologie die dat gaat versnellen, eigenlijk juist een kans is om dit gesprek opnieuw te voeren. Als we hem wel voeren, met wat kunnen we met de datapunten en hoe willen we ermee omgaan? In plaats van dat het intern bij de mens die die beslissing neemt. Ik denk juist dat de technologie daarbij gaat helpen om die bias in ieder geval transparant. Je zal het niet spotten, misschien gelijk. Maar het zou wel transparanter moeten worden door los te kijken naar de datapunten die er zijn om het te kunnen implementeren binnen AI. Helemaal waar. En dat is ook wat ik zo mooi vind aan dit veld. Ook aan de klassieke algoritmes waar ik mee gewerkt heb. Is dat het heel weinig of eigenlijk geen ruimte laat voor wollig taalgebruik en mooie beleidsvoorstellen enzovoort. Uiteindelijk komt er een systeem dat levert bepaalde uitkomsten op. Daar moet je bepaalde keuzes over maken. Zeker bij algoritmes is dat redelijk een soort deterministisch. Je kiest wat je wilt hebben en wat niet. En welke gewichten je eraan hangt. En dat maakt het ook voor ethisch gezien heel interessant. Want je wordt gedwongen om een bepaalde keuze te maken. En soms merk ik ook dat zo'n ethiek rond AI, het voelt voor mij soms als een soort paard van trooien wat je naar binnen rijdt. Omdat het ineens ook gaat over de werkpraktijk waarin dat systeem is ingebed en de keuzes die daar gemaakt zijn. De strategie waar die werkpraktijk dan weer onderdeel van is. Dus ik denk inderdaad dat het ook echt een opstap kan zijn naar een bredere reflectie op wat zijn we precies aan het doen. Waarom zijn we dat precies aan het doen en voor wie doen we dit precies. In het boek heb je ook vier vragen die je stelt eigenlijk en waar je uiteindelijk ook antwoord op geeft. Van als we steeds vaker taken uitbesteden met AI. En ik wilde daar twee uitlichten. Die andere twee moeten mensen maar lezen. Eén is van wat betekent het als deze systemen zo complex worden dat we ze niet meer begrijpen of kunnen controleren. Dat is echt wel een lastig probleem. En wat ik aan jou wil voorleggen is een van de dingen die hier dan tegenover wordt gesteld is vaak de uitlegbaarheid. Die zit ook in die AI Act. Maar als we het over generatieve AI hebben, wat stelt dan uitlegbaarheid voor in jouw idee? Ja, nee, ik denk dat dat onmogelijk is. De hoeveelheid datapunten in zo'n systeem, je kunt daar onmogelijk een vorm van uitlegbaarheid verwachten. Zoals je dat misschien zou hebben rond je hypotheekverstrekking of zoiets. Waar veel minder variabelen in gaan. En de vraag voor mij is niet zozeer, en dat zie ik nu toch best vaak opkomen. Moeten alle AI-systemen uitlegbaar zijn? Of hoe zorgen we dat alle AI-systemen uitlegbaar zijn? Voor mij is het veel meer een vraagstuk van wat betekent het als systemen niet meer uitlegbaar zijn? En hoe willen we daarmee omgaan? Wat we merken is dat vaak de meest complexe modellen ook de beste uitkomsten geven. De beste performance hebben. En in sommige vlakken zou je natuurlijk kunnen zeggen van ja, we willen absoluut dat dit uitlegbaar blijft. Omdat we niet willen dat we niet kunnen begrijpen hoe een systeem tot zijn beslissing komt. Op andere terreinen zou je kunnen zeggen, we vinden het zo belangrijk. Bijvoorbeeld rond de fraudedetectie die ik net noemde, richting betalingen naar Rusland of zoiets. We vinden het zo belangrijk dat we die eruit halen, dat het misschien minder erg is dat het niet volledig uitlegbaar is. Dus ik denk dat dat, zoals al die verplichtingen en al die principes, heel erg contextueel bepaald wordt. En dat je daar dus een heel goed besluitvormingsproces omheen moet hebben. Dus kom je eigenlijk weer terug op de trade-offs die je bewust kiest om het wel of niet in te zetten voor een bepaald doeleinde. Ja, exact. En de zorg die leeft rond die uitlegbaarheid is dat als je daar ook niet kijkt naar de keuzes die daaromheen gemaakt worden, dat het heel makkelijk wordt wat ik eerder al schetst om die verantwoordelijkheid af te schuiven op zo'n black box. Van ja, we weten het eigenlijk zelf ook niet, maar dit is de nieuwe realiteit. En dat gaat denk ik op maatschappelijke schaal heel onwenselijke consequenties geven. Want de derde vraag die je stelt, die heeft daarmee te maken. Even goed voorlezen. Hoe weten we zeker dat AI-systemen doen wat wij bedoelen? En dat gaat een steeds groter vraagstuk worden. Als we kijken naar de agents. Want zelfs als we een chain of thought vragen. Dus waarbij je bijvoorbeeld een ChatGPT eerst laat vertellen van hoe ga je dit aanpakken. Een plan wil het niet zo zijn dat het plan ook daadwerkelijk gevolgd wordt. Weet u uit ervaring. Dus het wordt steeds complexer om erachter te komen van voert die uit wat we bedoelen. Ja, dit is wat ze het klassieke value alignment probleem noemen. En dat heeft primair te maken met onze taal. Onze taal is altijd ambigu. Wij weten soms zelf ook niet precies wat we bedoelen. En het bekendste voorbeeld is van de paperclip robots die gevraagd wordt om zoveel mogelijk paperclips te maken. die uiteindelijk de hele fabriek, inclusief de medewerkers, afbreekt om er paperclips van te maken. Het is een simpel doel wat je zo'n systeem meegeeft, maar wij hebben daar allerlei contextuele waarden bij die we veronderstellen als we zo'n opdracht geven. Natuurlijk breek je niet de stagiair af om er ook een paperclip van te maken die niet in zo'n systeem zitten. En dat is het probleem met value alignment, hoe goed we de doelen ook specificeren. Het is altijd mogelijk, reward hacking is dan zo'n mooi voorbeeld bij AI. Het is altijd mogelijk dat het een andere route gaat vinden om dat doel te bereiken, die wij niet precies voorzien hadden of bedoeld hadden. Maar waarvan we terugkijken en denken dat was niet de bedoeling. Ik denk wel voor nieuwe inzichten waren vol. Maar de vraag is wat is de impact die het heeft. En daar weer bewust in te zijn. Ik had nog even een vraagje over die trade-offs. Want dat betekent ook wel over vastlegging daarvan. Vooral ethiek. Het kan over tijd weer veranderen. Je kan een nieuw besluit nemen. Er kan een verandering zijn. Hoe ga je dat soort zaken vastleggen om op terug te komen? Dat is gewoon een vraag die bij mij leeft. Ik denk dat je dat, in ieder geval hoe wij het hebben ingestoken binnen de ASN, is om gewoon te documenteren wat de overwegingen zijn om voor of tegen iets te stemmen of een bepaalde insteek te kiezen. En hoe dat eruit ziet is dat je kijkt naar een stuk van de context waarin het model wordt ingezet. Hoe werken we nu en wat gaat er veranderen als we AI introduceren? En daar zit voor mij ook een belangrijke opmerking dat ethiek niet alleen gaat over wat er niet mag, Maar dat je soms ook kunt zeggen, ja eigenlijk is het meest ethisch om hier te doen om wel AI in te zetten. Ondanks dat het model misschien niet perfect is, is het zoveel beter dan de manier waarop we nu werken. We hebben daar, merk ik, echt een soort status quo bias. Dat de situatie zonder AI, die is vertrouwd. En de situatie met AI, die is eng. Terwijl heel vaak het omgekeerde ook het geval kan zijn. Dus je maakt een afweging van de context. Je kijkt naar welke ethische principes het systeem raakt. Welke dilemma's of vraagstukken er ontstaan. en vervolgens kijk je welke aanpassingen willen we maken rond het model of het proces waar dit model in zit om te zorgen dat dit op een manier ingezet wordt die past bij onze waarde. En al die aspecten kan je vastleggen. Kun je documenteren in de vorm van een assessment of een andere vorm van verslaglegging en daar kun je gewoon in vastleggen. Deze keuzes hebben we uiteindelijk gemaakt. We weten dat we daarmee niet kiezen voor deze aspecten. In de context van fraude, we kiezen ervoor om geen onderscheid te maken op nationaliteit, wetende dat we daarmee mogelijk mensen gaan missen die wel fraude plegen. En dit zijn hier de redenen voor. We vinden het belangrijk dat eerlijkheid gerespecteerd wordt enzovoort. En op die manier kun je dat vastleggen. En dan kan een toezichthouder of een samenleving zeggen van, hé, maar wacht even, we vinden het belangrijk dat je wel zoveel mogelijk mensen pakt die frauderen. En dan kun je dat bijsturen. Maar ik denk dat het heel belangrijk is, elke keuze betekent ook dat je ergens niet voor kiest. En dat je die afweging heel bewust maakt. Dus goede vastlegging en rapportages daarop. Zodat je daarop terug kan komen. En ook gelijk weer kan toetsen. Zoals jij net zei Joop. Doet het wel wat we verwachten dat we het moeten doen. Precies. Ten tijde van de beslissing. Ja. Je hebt al eventjes in het begin genoemd. Je lost natuurlijk niet allerlei problemen op. Wat hoop je wat nu nog niet kan. Dat dat in de toekomst wel opgelost zou kunnen worden. Poeh. Ja, ik denk dat er... Er zijn zoveel vraagstukken waarvan ik denk... In de zorg alleen al problemen, wachttijden, geestelijke gezondheidszorg... waarvan ik denk dat AI echt een uitkomst kan bieden. In het onderwijs met gepersonaliseerde leerplannen. Ik denk dat er echt heel veel mooie mogelijkheden zijn... waar we nu nog aan het begin van staan die met AI mogelijk worden. Dus ik denk dat er op echt heel veel terreinen heel veel te winnen is met AI. Dingen die nu nog niet helemaal gerealiseerd zijn, maar zeker gaan komen. En wat ik vooral hoop en ook met het boek aan hoop bij te dragen, is dat we de discussie hebben over hoe gaan we dat in goede banen leiden. Wie profiteert uiteindelijk van die enorme transitie die we nu ingaan met AI? En hoe zorgen we dat we daar allemaal van mee profiteren in plaats van alleen een kleine groep mensen? Ja, en een van de leuke kopjes die ik in je boek zag is Too Big to Jail. Dat heeft daar denk ik ook mee te maken met van wie daarmee profiteert. Maar waarom Too Big to Jail? Ja, ik ben afgestudeerd ooit op de financiële crisis. Technologie en ethiek. En Too Big to Jail komt uit de onderzoeken naar de financiële crisis. Omdat eigenlijk daar de banken overeind werden gehouden. Omdat ze zo belangrijk waren voor het systeem. Dat we ze niet om wilden laten vallen en ook niet verantwoordelijk wilden houden. En daar komt voor mij een heel groot deel van de zorg rond AI nu vandaan. Omdat wat je ziet wat het gevolg is van die keuzes, is dat mensen massaal het vertrouwen verliezen. Niet alleen in het financiële systeem, maar in de overheid, in experts überhaupt. En ik denk dat dat wijst op een soort tekortschietende verantwoordelijkheidsmechanisme. En too big to jail betekent dus dat ze dermate groot zijn dat we ze niet meer aan durven pakken. Terwijl dat denk ik wel ontzettend belangrijk is voor de sociale cohesie, om als samenleving goed met elkaar om te gaan. En om die vertrouwen te houden en op te bouwen naar een overheid en naar experts en naar het financiële systeem toe. Wat zijn nou concrete zaken die mensen mee zou willen geven op het gebied van ethiek? Om daar eens mee te starten. Voor mij stap 1 is wat ik al zei, de andere kijk op AI en de uitdagingen rond AI en wie dat moet oplossen. Dus afstappen van het technische frame rond AI en AI als technische uitdaging. En het inzien als een grote maatschappelijke uitdaging. En een concrete stap daarmee is dat het verantwoord gebruik van AI niet alleen bij ontwikkelaars komt te liggen. Maar dat iedereen dat op de agenda kan zetten van zijn of haar gemeente. Van de bank waar je een rekening hebt. Van de organisatie waar je zelf voor werkt of organisaties waar je veel mee te maken hebt. En we vaak doorhebben dat we met AI werken op het moment dat we er direct mee interacteren met de ChatGPT's. Maar niet doorhebben dat bij al die partijen onze energieleverancier, onze verzekeraar, AI op de achtergrond draait. En keuzes voor ons maakt tot op zekere hoogte over de premie die we krijgen, de zorg die we krijgen enzovoort. En ik denk dat we daar al heel veel zouden kunnen winnen. Dus stap 1 is, kijk eens in je eigen organisatie, zet het op de agenda als het nog niet op de agenda staat. En probeer met elkaar te kijken van, hey, AI stelt ons de vraag wie willen we zijn? Welke antwoord gaan we eigenlijk geven? Welke antwoord kunnen we eigenlijk geven? Maar moeten we eigenlijk altijd weten dat er een AI-systeem gebruikt wordt? Nee, ik denk dat dat in veel gevallen niet nodig is. Je gaat ook gewoon met het vliegtuig zonder exact te weten hoe de motoren in elkaar zitten en de cockpit in elkaar zitten. Dus ik denk op een zekere hoogte, maar je moet wel het vertrouwen kunnen hebben dat het goed in elkaar zit. dat de veiligheidschecks toereikend zijn, omdat je anders dat vliegtuig niet meer instapt. Dus ondanks dat je niet exact hoeft te weten hoe het in elkaar zit, wil je weten, er is een instantie die toezicht houdt op hoe vliegtuigen gekeurd worden, op het onderhoud enzovoort. Dat moet aan de hoogste standaarden voldoen, voordat je dat vertrouwen gaat geven. En dat is met voedingsmiddelen in de supermarkt niet anders. Als het echt lukraak alles door elkaar zou zijn, zonder keurmerken en kwaliteitstoetsen, dan zou je een stuk voorzichtiger worden in wat je koopt. En dat is denk ik voor AI-systemen ook. We moeten een systeem opbouwen waarin we dat vertrouwen ook kunnen krijgen in de AI-systemen die ingezet worden. Bij een verzekeraar, in de zorg enzovoort. Ik heb het idee dat we daar nu aan het begin van staan. Dat we ons ervan bewust zijn dat het nodig is. AI kon heel lang voor de AI-act gewoon op de markt worden gebracht zonder dat er een vorm van toetsing op zat. Ik denk dat we nu die stappen moeten gaan zetten om een breder netwerk of een bredere infrastructuur, zoals ik het dan noem, rond ethiek en vertrouwen op te zetten. Je triggert mij met het vliegtuig even in de zin van, dat is heel praktisch, dat is heel erg duidelijk. We zien daar een bepaalde trackrecord, hoe vaak de ongelukken gebeuren, dat is heel transparant, of in ieder geval voelt als transparant. Terwijl bij AI-oplossing is dat minder transparant, maar het zal ook over tijd veranderen, want de datapunten veranderen, wij veranderen, de processen veranderen. Dus eigenlijk zou dat betekenen continu monitoring en trackrecord delen. Ik weet niet of dat voor alle systemen nodig gaat zijn, maar ik denk wel dat we sowieso een bredere discussie moeten hebben over wie houdt u hier toezicht op? Op welke manier houden we toezicht? En dan niet alleen het compliance vraagstuk van voldoen organisaties aan de wet, hebben ze een risicomanagement? Maar ook de toetsvraag hoe raakt dit aan de publieke waarde en waar we als samenleving naartoe gaan. Dus een bredere monitoring en transparantie op dat vlak. Ja. Ja, nou, ik denk dat we weer ontzettend veel gehoord hebben. Wat ik nog eigenlijk als afsluiten, want ik denk dat dat ook de structuur van deze aflevering is geweest. Een samenvatting, dat is eigenlijk de structuur van jouw boek. Want het is, wat gaat AI doen voor ons als maatschappij? Wat betekent dat voor ons? Is je deel twee? En wat kunnen we doen? En dat staat allemaal in een heel mooi boek beschreven. Wat fijn leest. Maar ik heb er ook weer een heel aantal inzichten uitgehaald. Dus ik wil eigenlijk de luisteraar ook oproepen. Bestel het boek, ga het lezen. Maar maak er vooral gebruik van van de inzichten die je deelt in het boek. Ja, dankjewel. Dankjewel weer voor het luisteren naar deze aflevering. Vergeet je niet te abonneren op onze nieuwsbrief. We hebben hele leuke dingen voor achter de schermen. Deze nieuwsbrief echt wel speciaal. Dus mis het niet. Tot de volgende keer. Tot de volgende keer.