Hoe uitlegbaar zijn menselijke beslissingen?

Welkom bij een nieuwe, korte aflevering van AIToday Live met vandaag. Als we onze eigen besluiten al niet echt kunnen uitleggen, verwachten we daar niet te veel van machines om besluiten wel uit te leggen. Ik ben te gast geweest in de podcast 'De Dataloog' en daarin spraken we uitgebreid over Explainable AI. En een reactie die ik vaker krijg als ik over Explainable AI spreek of schrijf is het volgende. Hoe uitlegbaar zijn beslissingen eigenlijk als mensen ze nemen en weten we altijd van onszelf waarom we iets vinden en besluiten? Hebben we eigenlijk wel altijd toegang tot deze argumenten en kunnen we deze uitleggen? Om goed antwoord te geven moeten we eerst kijken naar hoe we als mensen besluiten nemen en die uitleggen. Want deze menselijke beoordeling is namelijk niet altijd goed de grond. Het maken van beslissingen is een fundamenteel aspect van het menselijk bestaan en speelt een cruciale rol in zowel ons persoonlijke als professionele leven. Hoewel we vaak streven naar rationele besluitvorming, gebaseerd op logica en feiten, is de invloed van irrationele of emotionele factoren niet te onderschatten. Laten we kijken naar de complexiteit van het besluitvormingsproces, de balans tussen rationele en emotionele componenten en hoe we deze kennis kunnen gebruiken, juist als argument voor explainable AI. Rationele besluitvorming is het proces waarbij individuen beslissingen nemen op basis van feiten, data en logische redenering. Dit model gaat ervan uit dat mensen optimaal handelen binnen de grenzen van de beschikbare informatie en consistent streven naar wat gezegd wordt aan het maximaliseren van hun welzijn of winst. Het rationele proces omvat het identificeren van het probleem, het verzamelen van informatie, het evalueren van alternatieven en daar dan het uitkiezen van de beste optie. Een kernaspect van rationele besluitvorming is het concept van bounded rationality. Hoewel mensen streven naar rationaliteit, zijn onze cognitieve capaciteiten beperkt. We kunnen niet alle mogelijke informatie en alternatieven verwerken wat leidt tot sacrificing, het kiezen van een optie die goed genoeg is in plaats van optimaal. Daarnaast hebben we te maken met emotionele besluitvorming. Dat verwijst naar beslissingen die sterk worden beïnvloed door gevoelens, stemmingen of andere niet-logische factoren. Emoties kunnen onze perceptie van feiten kleuren, leiden tot vertekeningen in ons oordeel en ons duwen naar beslissingen die niet noodzakelijk in ons beste belang zijn. Zo kennen we bijvoorbeeld de confirmation bias. Die zorgt ervoor dat we informatie zoeken die onze bestaande overtuigingen bevestigt. Ook hebben we soms te maken met loss aversion, waardoor we meer gemotiveerd zijn om verliezen te vermijden dan om gelijkwaardige winsten te behalen. In werkelijkheid zijn de meeste beslissingen die we nemen niet volledig rationeel of emotioneel, ze zijn een mengsel van beide. Emoties kunnen ons oordeel vertroebelen en ons leiden naar ondoordachte beslissingen. Emoties spelen een cruciale rol in de initiële besluitvorming omdat ze snel en efficiënt onze aandacht kunnen richten op iets anders dat belangrijk is of voelt, gebaseerd op eerdere ervaringen en waarden. Maar in een wereld die veel waarden hecht aan logica en rationaliteit, kunnen mensen zich gedwongen voelen om hun emotionele keuzes te rechtvaardigen met logische redeneringen. Dit kan leiden tot selectieve interpretatie van de beschikbare informatie om de gemaakte keuzes te ondersteunen. Dus, inderdaad, als mensen besluiten nemen, is het niet even transparant, niet even uitlegbaar. Maar nu krijgen we te maken met een technologie die keuzes kan maken en waarvan wij kunnen bepalen hoe die technologie eruitziet. Dus als we de stap maken naar machine learning, dan is een machine learning model een benadering van de werkelijkheid en heeft ook niet alle informatie ter beschikking en kan vaak maar op één uitkomst gemaximaliseerd worden. Bijvoorbeeld klantbehoud optimaliseren of e-mail in de juiste categorie indelen. Maar het kan wel gebruik maken van de informatie die wordt aangeboden en dat kunnen honderden of duizenden variabelen zijn. Hier bepalen wij ook wat de boundaries zijn van de informatie die meegenomen kan worden in zo'n model. Met deze technologie, als we dan daar besluitvorming mee gaan modelleren en mogelijk besluiten gaan automatiseren, krijgen we dus een keuze. Gaan we dat wel of niet uitlegbaar maken? Ik zie dan liever hoe het model een besluit neemt. Hoe het als het ware redeneert. Wij hebben de keuze of een blackbox model waar we niet in kunnen kijken, laten we zeggen hoe wij als mens besluiten nemen, of wij zo'n blackbox acceptabel vinden of dat we willen begrijpen hoe de machine tot een uitkomst is gekomen. Wat mij betreft hoe belangrijker het besluit, hoe belangrijker het is dat we uitleg krijgen. Bij uitlegbare AI weten we de gebruikte informatie, zien we hoe de besluiten worden genomen en met deze uitleg kunnen we fouten opsporen, mogelijke vooroordelen vinden en krijgen we de mogelijkheid om een uitkomst op zijn betrouwbaarheid te controleren. Maar nogmaals, een machine learning model is een benadering van de werkelijkheid en tussen de input data en label, de uitkomst, zat meestal een menselijke beoordeling. Dat moeten we niet vergeten. Dus ook al proberen we het zo objectief mogelijk te maken en kunnen we inzicht krijgen in hoe het model een besluit neemt, zit daar nog steeds het ondoorgrondelijke van de mens in. Toch, als het mogelijk is, kies ik altijd voor uitlegbare AI. De technologie kan zo een nieuwe dimensie toevoegen ten opzichte van onze ondoorgrondelijke besluitvorming en daarmee inzicht geven die voor ons als mens onvoorstelbaar is. Leuk dat je weer luisterde naar een korte aflevering van AIToday Live. Mijn naam is Joop Snijder, CTO bij Aigency. Tot de volgende keer! -