De Spiegelfunctie van AI: Hoe systemen waarden reflecteren met Judith Zoë Blijden

In deze aflevering hoor je Judith Zoë Blijden, filosoof en jurist bij Hooghiemstra & Partners. Judith legt uit hoe AI-systemen onbedoeld onze maatschappelijke waarden en vooroordelen weerspiegelen. Vanuit haar unieke combinatie van juridische expertise en filosofische onderzoek belicht zij hoe organisaties deze spiegelfunctie kunnen benutten om bewustere keuzes te maken in de ontwikkeling en toepassing van kunstmatige intelligentie. Dus blijf luisteren! Hoi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Mijn naam is Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, Area Lead Data & AI uit bij Info Support. En we hebben vandaag een gast in de studio, zoals jullie van ons gewend zijn. Judith Zoë Blijden. Judith, ontzettend bedankt dat je wilde komen. Helemaal vanuit Den Haag. Dat was toch best wel een reis, hè? Maar voordat we gaan het hebben over wat jij doet met kunstmatige intelligentie, Zou je je eerst willen voorstellen aan de luisteraars? Ja, natuurlijk. Mijn naam is Judith Zoë Blijden. Ik doe verschillende dingen. Ik ben filosoof en jurist. Als filosoof heb ik ook mijn eigen bedrijf. Het is This Art Maybe. En daar doe ik filosofisch onderzoek in samenwerking met anderen altijd. En daarnaast ben ik ook jurist. Ik werk als senior adviseur bij Hooghiemstra & Partners. En dat is een adviesbureau gespecialiseerd in technologie en recht. Ja, klinkt goed. Mooie combinatie. Ja, jij had een vraag over die combinatie. Ja, ik kan het zeggen inderdaad. Wat heb je getrokken? Waar was je mee begonnen? Was je eerst vanuit de juristenkant filosoof gehad? Of gewoon nog filosoof naar jurist? En hoe verhoudt dat toch tot elkaar? Ik ben begonnen met de rechten. Dus eerder gewoon bachelor rechtsgeleerdheid gedaan. En ik vond dat een heel toegepast studie eigenlijk. Terwijl ik eigenlijk heel erg vooral geïnteresseerd was in meer de bredere concepten zoals rechtvaardigheid. Dat we meer in de hoek van politieke filosofie zitten en wat minder bij rechtsgeleerdheid. Dus toen ben ik de master encyclopedie en filosofie van het recht gaan doen. Dat is nog een rechten master. Dus daar kan je ook nog, als je dat zou willen, advocaat of wat dan ook mee kunnen worden. En dat was al een master die nog wel echt voor rechtsgeleerdeheid studenten was. Maar wel heel erg al gericht op filosofie en rechtstheorie meer onder het recht. En dat vond ik, ja, ik vond heel veel dingen van die master. Maar vooral kwam ik er daar echt achter dat filosofie, dat daar echt mijn hart ook ligt. En dat ik juist die combinatie heel leuk vind met rechten en filosofie. Dus toen heb ik daarna ook nog een pre-master politieke filosofie gedaan. En toen ook nog een filosofiemaster bij geesteswetenschappen. Dus bij de andere filosofen. En hoe werkt de filosofie in jouw voordeel bij jouw vakgebied als jurist? Ja, ik denk wel heel veel. Want daarna ben ik wel gaan werken eigenlijk als jurist. Want als filosoof, in ieder geval toen, ik heb nu inderdaad het idee, zeker met de opkomst van AI en technologie, Dat filosofie veel meer arbeidsmarktwaarde heeft gekregen. Maar toen ik net op de arbeidsmarkt kwam was dat nog niet zo. En toen ben ik dus wel begonnen als jurist. En ik werk dus nu nog steeds als jurist. En daar zie ik dat de meerwaarde van filosofie wel heel erg is. Dat je bij filosofie heel goed abstract leert nadenken. Ik denk net als bij een studie wiskunde dat ook bijvoorbeeld is. En je leert dat ook heel goed. Dus je leert heel goed concepten toepassen in verschillende contexten. En begrijpen dat wat iets betekent heel erg afhangt van hoe het gebruikt, door wie het wordt gebruikt. En dat contextualiseren van abstracte concepten, dat is iets waar ik echt heel veel heb ook als jurist. Ik wil eigenlijk dan ook met een best wel abstract begrip beginnen, want jij noemde net rechtvaardigheid. En rechtvaardigheid en AI, dat is vaak wel een thema. Ja, klopt. Dus ik was eigenlijk wel benieuwd, wat is dan eigenlijk rechtvaardigheid? Ja, dat is een goede vraag. Dus ik zou eigenlijk zeggen dat je dat in algemene zin... kan je dat best beantwoorden. Rechtvaardigheid misschien dat iedereen... de rechten die hij heeft goed kan uitoefenen. Bijvoorbeeld, dat zou je een invulling van rechtvaardigheid kunnen noemen. Maar wat het echt betekent is volgens mij iets wat je alleen kan zeggen... in een specifieke context. Dus bijvoorbeeld je hebt een conflict met een collega. Wat zou daar een rechtvaardige oplossing voor zijn? Dan moet je eigenlijk weten wat lag er onder dat conflict. Wat waren de belangen van de verschillende personen. Wat is eerder afgesproken tussen die personen. En welk context werken ze met elkaar. En dan kan je eigenlijk preciezer zijn met wat rechtvaardig is in die specifieke situatie. Maar met de laag van AI eroverheen. Wordt het volgens mij lastiger om te bepalen van wat is dan rechtvaardig. Wat is een rechtvaardig gebruik van AI. Ja, ik weet niet of dat met AI heel anders is dan bij andere middelen die je kan gebruiken als je iets wil doen. Maar ja, en dat is eigenlijk hetzelfde ook met een beetje met de AI. Om heel algemene termen iets te zeggen over rechtvaardigheid in AI is heel lastig. Omdat AI in heel veel verschillende specifieke contexten kan worden toegepast door verschillende mensen. En ook AI is eigenlijk een soort van paraplu term voor heel veel verschillende soorten technologieën. En eigenlijk heb je feiten over al die verschillende aspecten nodig. Om iets echt zinnigs te kunnen zeggen over rechtvaardigheid en AI. Waar ik daarom vraag is dat vaak in beleid, beleidstukken van zeker wat grotere bedrijven, staat er nou typisch dit in? Rechtvaardig of responsible. En dan denk ik altijd van ja, maar wat houdt dat dan concreet in? Dus hoe ga je dit dan praktisch maken? Ja, dat klopt. Zeker met responsible AI is natuurlijk nu een hele populaire term. Wederom denk ik eigenlijk dat je daar, ook als bedrijf, als organisatie, als je dat ergens neerzet, niet kan toedichten aan de technologie zelf. Maar of je rechtvaardig bent, is iets wat je als mens kan zijn. Dat is denk ik misschien stap één. Dus als je een bedrijf bent en je zegt, we willen responsible AI maken, Dan moet je eerst je afvragen wat betekent rechtvaardigheid voor ons als bedrijf. En dat zal dan in relatie tot de dienst of het product dat je ontwikkelt, moet je dat bedenken. En dan krijgt het al wat meer vorm. En vervolgens kan je dan nadenken hoe past AI hierin of welke AI past eigenlijk in het idee van rechtvaardigheid dat wij hier met elkaar hebben afgesproken. Dus die stappen zou ik een beetje nemen. En die labels zoals rechtvaardigheid, maar ook eerlijk of goed, die zouden denk ik altijd van toepassing moeten blijven op een actor. Dus een bedrijf, een rechtspersoon of een natuurlijk persoon. Die kunnen rechtvaardig zijn en AI kan daarbij helpen. Maar AI kan zelf niet rechtvaardig zijn eigenlijk. Want dat blijft eigenlijk bij de persoon of mensen die in onze samenleving een zeggenschap hebben over wat er gebeurt. En dat is AI zelf niet. Mooi, duidelijk En dat is denk ik ook met de blik van juristen erop Want met aansprakelijkheid of toetsen van de wet en de regelgeving Heb je ook die actoren nodig om dat eigenlijk te kunnen vaststellen Ja klopt, inderdaad Het is ook soms die vragen van bijvoorbeeld bij zelfrijdende auto's of wat dan ook Wie is eigenlijk dan verantwoordelijk? Voor een jurist is dat eigenlijk niet heel erg onduidelijk Want uiteindelijk bepaalt iemand dat je iets inzet Dat kan AI zijn en degene die dat bepaalt, die komt altijd met een bepaalde verantwoordelijkheid en dan kan je niet verschuilen achter een nieuwe technologie omdat die slimmer is dan de vorige. En dan toch even daarop doorpakken op die auto inderdaad, maar is het dan degene die de auto levert of is het degene die in de auto stapt? Want als je stapt wil je van A naar B. Ik moet zeggen, heel specifiek zou ik niet weten. Ik denk ook daar moet ik zeggen dat het ook ligt aan de context. Was het een fout in de software waarvan de ontwikkelaar, dat het al lang had kunnen weten of ze hebben niet goed getest. Ik kan me voorstellen dat het sneller daar ligt. Maar lette iemand gewoon niet op of ik veel was die onder invloed van alcohol. En daardoor begreep je het systeem niet goed, dan zal het bij die persoon liggen. Ja, dus de context is daar en blijft daar van essentieel belang om die helder te hebben en de situatie schetsen. In voorbereiding op deze podcast hebben wij met je gesproken en Niels heeft ook wat dingen zitten kijken. En dan noem jij ook dat, als ik het goed zeg, dus verbeter me als ik het niet goed zeg, dat de AI-systemen een soort van afspiegeling geven van wie wij als mensen zijn. Zou je daar wat over kunnen vertellen? Ja, dat is iets wat ik heel leuk vind van technologie. En soms kan het ook heel problematisch zijn, maar het is iets dat mij nieuwsgierigheid heel erg triggert. Dus technologie, en dat geldt ook voor AI, staat niet los van de samenleving. Dus mensen maken iets, mensen ontwikkelen iets en maken daar keuzes in. En dat geldt voor een tv-programma net zoveel als voor een AI-systeem. En hoe dat AI-systeem dus werkt en voor wie het goed werkt, dat hangt heel erg af van de keuzes die mensen maken. En ook hoe je het gebruikt als gebruiker hangt ook erg af van hoe de gebruiker zich gedraagt. En wat ik interessant vind is dat daardoor iets dat wij maken altijd tot een bepaalde hoogte onze waarde zal reflecteren. Het is namelijk onmogelijk om dat niet te doen. Dat vind ik ook interessant. Nu is natuurlijk heel veel aandacht voor waardegedreven ontwikkelen of waardegedreven technologie. Maar ik zou zeggen, er bestaat geen waardeloze technologie. Technologie, alles wat je maakt, dat geldt ook voor niet. Het geldt dan de waarden. We hebben dus niet waarden in geld. Maar de normen en waarden die wij hebben. Ja, zoals rechtvaardigheid zoals je eerder noemde. Precies. Dus als je iets ontwikkelt. En zeker bij een AI-systeem waar je misschien gebruik maakt. Van hele grootschalige hoeveelheden aan data. Is het onvoorkomelijk dat daarin de dingen die wij vinden. Enigszins uitkomen of kunnen laten zien. En dat vind ik heel interessant. Omdat aan de ene kant wil je heel graag dat wat je maakt samenhangt met wat je bedoelde. Dus stel je wilt een eerlijk systeem dat bijvoorbeeld iedereen evenveel geld geeft. Of wat dan ook. Dan wil je heel graag dat hij dat op een goede manier doet zoals jij dat zelf ook had gedacht. Dus het is belangrijk dat die AI die waarde van jou goed weer spiegelt. Maar het kan soms ook andersom. Dat je daar helemaal niet heel erg bewust over na hebt gedacht. En dan de AI iets gaat doen waarvan je denkt, oeh, dat is misschien niet zo goed. En soms kan dat ook iets zeggen over de data die je verzameld hebt. Of misschien de selectie die je hebt gemaakt. Of misschien bepaalde gedragingen die bij de ontwikkelaars heel normaal zijn. Die dan toch subjectiel, zeg maar zonder dat het heel bewust is, ook worden gereflecteerd in het AI systeem. En dat vind ik allebei heel interessant. Ja, want dat kan dus ook eigenlijk een signaal zijn. waar je dan uiteindelijk iets mee zou kunnen. Ja, je kan dus aan de ene kant soms dan zeggen het AI-systeem werkt niet goed. Maar soms kan je ook zeggen wat wij doen werkt misschien niet goed. En dat is interessant. Dat is eigenlijk het spel dat je hele tijd speelt. En eigenlijk denk ik als je iets ontwikkelt probeer je dat steeds beter te doen. En heb je daar voorbeelden van gezien van organisaties, zonder ze het hoeven noemen, maar die dit eigenlijk heel goed doen? Ja, ik denk dat organisaties die dit heel goed doen, wat ik eerder eigenlijk ook al zei, heel goed zijn en heel specifiek zijn wanneer ze wat toepassen. Dus ja, dat is eigenlijk het belangrijkste, dat je dus bewust bent van beperkingen, bewust bent ook met zelfreflectie van wat kan een systeem wel en niet aan mij bieden, en dan daar een keuze over maakt en daar ook verantwoording over legt en na een aantal lange tijd weer eens evalueert van klopt het nog eigenlijk wat ik aan het doen ben. Het zit eigenlijk meer in die werkvorm ook, in een soort van ruimte voor zelfreflectie en aanpassing, dan dat je op één moment de juiste keuze voor de juiste technologie moet maken. Dus meer de systematiek opzetten binnen je organisatie, de governance op orde brengen, zodat die ruimte er is om dat eigenlijk te doen. Ja, precies. Heb je voorbeelden gezien van beleid binnen organisaties die dat echt ondersteunen? En heb je er voorbeeld van? Ja, dus je hebt zeg maar goede en slechte voorbeelden. Dat zijn heel vaak dezelfde voorbeelden voor mij. Dus een heel bekend voorbeeld hiervan. Ook waar je heel erg ziet dat bepaalde waarden of praktijken van een bedrijf. Werden gereflecteerd in een iSysteem. Is het voorbeeld van Amazon. Die kennen jullie misschien wel. Bijvoorbeeld in 2014 begonnen ze met het ontwikkelen van een iSysteem. Dat het doel had om automatisch de beste kandidaat te kunnen selecteren. Uit een pool van cv's. En ongeveer na een jaar werd al heel erg duidelijk. Dat dat systeem heel erg een voorkeur had voor mannen. En dat kwam omdat veel meer mannen daar werkten. En ook dus veel meer cv's had. Dus dat systeem had automatisch het factor man gekoppeld aan een goede kandidaat. Dus aan de ene kant is het een voorbeeld van niet goed. Want eigenlijk is het niet dat Amazon heel bewust wilde dat ze vrouwen dus gingen discrimineren. Maar door hoe ze zelf werkte, reflecteert het toch bepaalde waarden terug in zo'n systeem. Dat aan de ene kant is een voorbeeld van dat het niet goed was. Maar aan de andere kant, Amazon is hier uiteindelijk open over geweest. Ze hebben dit ook verteld, dat dit is gebeurd. En ze hebben ook gekozen om het systeem te stoppen. En vervolgens hebben ze gekeken hoe kunnen we op andere manier technologie ondersteunend inzetten bij onze HR. Dus het is zowel, zeg maar, dat bedoel ik met zowel slecht en goed, dat is heel vaak. Het is niet, ja, het gaat ook, ik wil ook graag voorkomen dat als iets fout gaat, alsof je dan zeg maar slecht bent. Dat is niet hoe ik ernaar kijk. Het gaat juist dat je geïnteresseerd bent van hoe. Ik heb iets gemaakt, oh nu doet het dit, dat wil ik eigenlijk niet. En dat je er dan ook iets mee gaat doen. En dat is dan die spiegel eigenlijk waarvan jij zegt van, hé, dat systeem spiegelt ons. En als je daar dan genoeg reflectie op hebt, heb je de mogelijkheid om je spiegelbeeld eigenlijk te veranderen. Ja, precies. Wat een mooie benadering. Heb je daar eventueel nog een voorbeeld van? Deze is wel heel interessant. Ik heb ook een voorbeeld. Die is grappiger en negatiever. Maar daardoor meer ruimte onder het spiegelbeeld te veranderen. Zeker bij AI zie je soms nu ook heel duidelijk... dat bepaalde voordelen heel nadrukkelijk naar voren komen. Dat zie je al anderen bij het genereren van afbeeldingen. Dus als je die prompts geeft, dan hebben die toch heel erg de neiging om stereotyperingen te kopiëren. Zeker. En dat komt werderom niet alleen door AI. Want ook als je bijvoorbeeld in Google intypt, en dat is al heel lang zo, verpleger. Dan zal je heel vaak vrouwelijke jonge verplegers in witte pakjes zien. Terwijl mannen ook verpleger kunnen zijn, bijvoorbeeld. Dus dat probleem is niet een heel nieuw probleem dat we nu pas zien omdat we generatieve AI hebben. Dat is eigenlijk iets omdat we al langer ook de data die online beschikbaar is, heel vaak helemaal niet representatief is voor hoe onze wereld er echt uitziet. Een concreet voorbeeld. Er was onderzoek gedaan naar de werking van gezichtsherkenning op verschillende mensen. En daar werd heel duidelijk uit gebleken dat met name zwarte vrouwen veel slechter kunnen worden herkend door AI-systemen. Vaak omdat er veel minder data, waarschijnlijk in de data, niet goed representatief genoeg was van de verschillende mensen die bestaan in de wereld. En weer om dan ook dat het niet eenzijdig is. Dat is aan de ene kant niet goed als je graag wil dat je telechnologie goed toepasbaar is en accuraat is. Zeker als je gezicht wil herkennen, wil je meestal van heel veel mensen goed het gezicht kunnen herkennen. En niet per se alleen maar van witte mannen of zwarte mannen. Daar was het ook veel beter. dus dat is minder goed maar bijvoorbeeld ook de leeftijd werd bij zwarte vrouw heel vaak veel jonger ingeschat waarschijnlijk wil je dat niet omdat je wilt dat het systeem accuraat is maar het is wel om te laten zien het is niet alleen maar iets waar je waarschijnlijk zouden mensen het vervelender vinden als ze veel ouder worden ingeschat dus het is niet dat alles wat we negatief vinden altijd ook negatiever uitkomt soms kunnen dingen niet kloppen omdat de data dus niet representatief of andere redenen. En die kunnen heel verschillende uitwerkingen hebben. En soms kan dat heel veel zeggen over hoe wij naar mensen kijken. Maar soms ook niet. Soms kan het ook gewoon, ja, kleiner zijn. En er is een interessant onderzoek en die hebben toen gekeken naar als je alle acteurs uit de Black Panther film door verschillende gezichtsherkenning systemen doet, kunnen die dan accuraat de seks en de etniciteit en de leeftijd inschatten. En daar kwam dus heel duidelijk uit dat ze dat heel slecht konden. Bijvoorbeeld. Wij maken machine learning modellen bijvoorbeeld waarbij je data van bedrijven gebruikt. En dan moet ik ook eigenlijk altijd zeggen we hebben een gebalanceerde dataset nodig. Dus het is niet alleen maar de positieve gevallen, maar het is ook de negatieve gevallen. De uitzonderingen moeten bijna net zo groot in die dataset zitten Als de tussen aanhalingstekens gewone data. En dat is vaak heel erg lastig. Want er wordt natuurlijk heel snel gedacht. We hebben dit. We willen hier een voorspelling op doen. Of een classificatie. En daar hebben we de data voor. En dan is het vinden van die balans vaak heel erg moeilijk. En is het ook nog wel eens een lastige boodschap. Om te denken van ja maar eigenlijk heb je geen gebalanceerde dataset. En ook het effect ervan is dus ook niet in algemeenheid heel makkelijk iets over te zeggen. Dus bijvoorbeeld bij die gezichtsherkenning. Stel je wilt dat inzetten omdat je je telefoon goed wil kunnen openen. Dan de consequentie dat sommige mensen dat misschien niet kunnen gebruiken is heel vervelend. Omdat je product ook minder toegankelijk wordt. Maar mensen voelen zich ook letterlijk niet gezien. Maar tegelijkertijd heb je ook veel grotere negatieve effecten die je erbij kan bedenken. Stel, het wordt ingezet door handhaving in een politieketen of zoiets dergelijks. In Amerika is dat het geval. Daar gebruiken ze dat heel veel. En dan ben je als zwarte man behoorlijk het haasje. Laten we wel wezen. Ja, voorbeelden van dat mannen verkeerd herkend zijn door zo'n systeem. En dat in een strafzaak wel is gebruikt. En het is ook heel moeilijk als persoon om je daartegen te verweren. Om aan te geven dat er een fout in zo'n systeem zit. Of dat het niet goed werkt. In Nederland had je daar ook een voorbeeld van. Een student die ook met... Zeker, Robin Pokor. Ik ben niet of ze ook. Ja, ze is ook bij ons in de podcast geweest. Zoek dat op. Ja, maar vertel me even voor de luisteraars die het geval niet kennen. Ja, daar was dus ook het geval. Het was nog steeds niet helemaal duidelijk, maar het lijkt er toch sterk op. Zij was een student. Volgens mij studeerde ze bij de VU, als ik het goed herinner. En gedurende de pandemie moesten ze thuis tentamens maken. en er werd dan gebruik gemaakt van spieksoftware, of dat je niet gaat spieken. Dus die kijkt dan mee terwijl je je tentamen maakt. Daarvoor moet je gezicht zichtbaar zijn. Maar bij haar was het geval, zij heeft dan donkere huid, kon hij haar gezicht niet goed herkennen. Wat voor haar heel lastig was, waardoor ze met een lamp in haar gezicht moest werken. En ze zei zelf, dit is eigenlijk niet de manier waarop ik mijn tentamen kan doen. En volgens mij is deze software eigenlijk niet goed genoeg om te kunnen inzetten. En zij heeft natuurlijk ook een klacht voorbij ingediend bij het College voor de Recht van de Mens. Nou, die zijn, vond ik zelf, wat ambivalent uiteindelijk geweest in een uitspraak. Of er wel of niet sprake was van discriminatie is er eigenlijk niet heel duidelijk naar voren gekomen. Wel was er naar voren gekomen, als ik het goed herinner, dat de VU beter onderzoek had moeten doen of de software nou wel geschikt was. Maar dat is zo'n ander voorbeeld waar het gebrek aan representativiteit die we hebben, zeker online, waar sommige groepen niet altijd goed worden meegenomen, tot hele vervelende consequenties kan hebben. Waardoor het belangrijk dus is om die spiegelfunctie heel serieus te nemen en kritisch te kijken van waar zijn we mee bezig, past wat we maken goed bij, voor wie we het maken en zo niet, hoe kunnen we dat aanpassen. Hoe kijk jij dan tegen het feit aan dat Meta, die gaat nu alle foto's gebruiken van Instagram van de mensen. Dat is natuurlijk een, laten we zeggen, op zijn minst een soort van lachspiegel van de samenleving. Want dat is niet representatief van wat er daadwerkelijk in de wereld gebeurt. Hoe kijk je daar dan tegen aan? Maak je dan zorgen? Want het lijkt me niet dat dit een verbetering gaat zijn rond die representativiteit. Ja, ik maak me daar zeker zorgen over. Ook omdat ik denk, dat geldt niet alleen maar bij dit geval bij Meta, die dan eigenlijk aan de ene kant zegt, we hebben meer data nodig, want we weten dat we niet representatief zijn. Maar tegelijkertijd, de data die ze vervolgens kiezen om te verzamelen, zijn dat ook niet. Dus er is geen oplossing voor het probleem dat ze zelf ook duidelijk zijn dat ze daar bewust van zijn. Dat is daar heel gek aan. maar überhaupt dat de online wereld het idee dat de online wereld een goede representatie is van de werkelijke wereld dat idee dat is denk ik heel problematisch omdat dat heel vaak niet zo is en zeker inderdaad de manier hoe we ons uit op social media is niet per se representief hoe we ons de hele dag voelen nee, zeker niet ja en daardoor is die spiegel dat is ook wederom waar die spiegelfunctie zo belangrijk is omdat er heel vaak tussen het spiegelbeeld en jezelf dus een soort van disconnectie zit. En het doel zou zijn als je iets ontwikkelt, maar ook als je iets gebruikt, dat je dat aanpast en verbetert, zodat het overeenkomt met elkaar. Zeker dat gebruik wat je zegt. Want misschien dat mensen die dit luisteren denken van ja, boeien. Ik heb er niks mee te maken. Maar uiteindelijk zeg maar in het bedrijf waar je werkt en ze gaan daar gebruik maken van dit soort modellen, zitten dan wel uiteindelijk deze vooroordelen erin. Of in ieder geval missende representatie. En krijg je daar vroeg of laat wel mee te maken. Al is het maar dat je aan co-pilots direct vraagt van... maak een afbeelding over iets. Niemand ontkomt hier denk ik aan. Ja, helaas. Dus dat vraagt ook inderdaad van de gebruikers. Dus van de kleinere bedrijven of individuen die zoiets gebruiken. of dat nou een ChatGPT is of iets anders. Wel een kritisch vermogen. Dat vraagt het eigenlijk vooral. Want je kan er niet van uitgaan dat omdat een product overal toegankelijk is... en gratis en makkelijk gebruik is, ook goed is voor waarvoor je het wil gebruiken. Ja, ik ben even... Het gaat aan de andere kant op, dus sorry als het er een beetje raar uitkomt. Eigenlijk is het inderdaad, ik heb geen Facebook of geen Instagram... dus mij maakt het niet zoveel uit. Dat is dan vaak het beeld. Maar eigenlijk is het te abstract. Waar gaat uiteindelijk die data en de toepassing uit komen waar dat op gevoed is? En ik denk dat dat voor veel mensen niet duidelijk is. En dat het misschien te ver van de bad show is. En ook daar niet transparant genoeg is over waar wordt die data vergaard. En waarvoor wordt het gebruikt. Dat het zo ver weg voelt. Terwijl het gaat niet ver weg zijn. Het zit dadelijk in je modellen. In de dagelijkse systemen die we gewend zijn om te gebruiken. Zoals je ook noemt. ChatGPT, co-pilot. Daar zit het dadelijk in. Maar het besef en de bewustzijn ervan is er denk ik niet. dus nee dat moest ik even ik was wel nieuwsgierig die spiegel hele mooie beeldvorming en hoe zouden organisaties die spiegel goed kunnen inzetten één om te begrijpen het is meer een soort spiegel soms zoals in wat is het sneeuwwitje dus soms klopt het spiegelbeeld helemaal niet met wat je zou willen zien ik denk dat dat heel belangrijk is voor mensen om te begrijpen dus die spiegelfunctie is niet omdat ik gebruik dat woord niet omdat ik denk dat die online wereld of een technologie een accuraat reflectie is van wat wij doen maar het zegt wel heel vaak iets over onze wereld maar het zegt ook heel vaak dingen over die in onze normale wereld, dat vind ik dus ook als filosoof heel interessant vind, heel ongrijpbaar zijn, het zegt heel vaak iets over machtsdynamiek bijvoorbeeld iets gebruikt in het werk niet goed voor jou, heeft dat vaak te maken met dat degene die dat heeft gemaakt waarschijnlijk jouw belangen wat minder meenam in de ontwikkeling. Dus soms zegt het altijd iets over hoe de wereld in elkaar steekt, maar het zegt niet altijd iets waar we naar op zoek zijn. Nee, oké. De spiegel of in ieder geval kijkvenster waar je dan in kijkt, omdat kritisch zijn, wat zien we nu eigenlijk? En eigenlijk de uitdaging of de oplossing die we inzetten, die van meerdere kanten durven bekijken. En daarvoor moet je in de spiegel of in kijkvenster kijken naar het vraagstuk wat er is. Dus eigenlijk stilstaan bij wat zijn we aan het doen? Waarom zijn we aan het doen? Wat zijn onze waarden die er aan gekoppeld zitten? Wie gaat het gebruiken? En is het voor die mensen van toepassing? En voor wie is het niet van toepassing? En wees daar transparant in. Ja, precies. Ik vind ook bescheidenheid een heel belangrijke waarde bij het gebruik en ontwikkeling van technologie. En dat staat heel erg ook in contrast met wat Silicon Valley heel vaak belooft. Want die beloofden altijd gouden bergen. Maar ik denk voor goed en verantwoord gebruik van technologiebescheidenheid een hele belangrijke waarde is. Zowel voor gebruikers als voor bedrijven die op een grotere schaal misschien technologie afnemen. En hoe uitzicht die bescheidenheid? Eén om te denken dat zeker bij complexe problemen, maar ook soms bij simpele problemen, daar heel vaak ook niet een hele simpele oplossing voor is. Dus soms is het te mooi om waar te zijn. Ik vind op zich daar ook is dat Amazon best een goed voorbeeld van. Want Amazon is natuurlijk een bedrijf dat op heel veel verschillende plekken in hun keten AI gebruikt. Om te optimaliseren. Ik zelf vind dat het in zo'n groot monopoliebedrijf is dat ik daar wel wat kritiek op heb van hoe groot ze zijn. Maar tegelijkertijd kan je wel zeggen dat ze heel veel dingen hebben geoptimaliseerd. Ze kunnen in ieder geval zorgen dat je je pakketje heel snel hebt. Even los van andere consequenties die dat hele systeem met zich mee heeft. En daarbij denk ik ook dat zo'n bedrijf als Amazon, doordat ze vaak gewend zijn om een werkproces verder op te knippen in kleinere stukjes die ze vervolgens konden automatiseren, dat ze ook dachten dat alles te automatiseren is. En soms te weinig aandacht hebben dat bijvoorbeeld zo'n proces als het aannemen van een persoon een heel complex, ingewikkeld probleem is eigenlijk. Dat je niet heel makkelijk kan opknippen in een te automatiseren systeem. En daarover nadenken van het probleem dat ik heb, wat voor soort probleem is dat? Is dat een klein en simpel probleem dat omlijnd is en waarvan ik heel goed begrijp wat er aan de hand is? Of is het eigenlijk een complex probleem waar heel veel factoren een rol spelen die niet zo makkelijk ook in een cijfermatige of een ander rekenmatig module op te lossen zijn? Ja, dat is niet makkelijk, maar ik denk dat dat een heel belangrijk punt is. Duidelijk, duidelijk. Wij hebben ook een kaartspel met stellingen. Juist ook om dingen met elkaar te bespreken die misschien best wel lastig kunnen zijn. En wij willen ook heel graag zo'n stelling aan jou voorleggen. Niels heeft weer geschud, hè? Ja. Gebruik en toepassing is het thema deze keer. En de stelling luidt als volgt. De samenwerking tussen mensen en AI zal verbeteren met generatieve AI. Nou ja, ik zou zeggen dat je dus niet echt samenwerkt met AI. Je werkt samen met andere mensen. En je kan AI gebruiken als een hulpmiddel. In die zin, dat onderdeel van de stelling zou ik sowieso niet mee eens zijn. En het tweede was dat generatieve AI die samenwerking ook gaat verbeteren. Ja, daar ben ik ook beperkt. Ik denk dat generatieve AI ook voor kunstenaars een hele interessante nieuw middel kan zijn om kunst te maken. Of andere dingen te genereren. Tegelijkertijd denk ik ook dat generatieve AI heel veel beperkingen heeft. Omdat het ook denk ik heel afhankelijk is van de input. Ik heb wat argwaan hoe creatief generatieve AI is. Dus ik denk dat daar de mens nog steeds wel heel erg veel beter in zal blijven. Voor een hele lange periode. Dus daar ben ik ook. En zeker met samenwerken is nou een heel goed voorbeeld van iets. Dat heel vaak heel complex is. Dus ik denk dat technologie daar niet heel snel heel veel beter. Heel veel meerwaarde heeft. Waarvan ik denk, wauw dat gaat alles veranderen. Maar meer een bescheiden bijdrage. Zou je toch nog iets over dat samenwerken? Want dat triggert je, dat woord. Wat zie jij dan als samenwerking? En waarom AI daar eigenlijk niet in zit? Ja, dus AI, ik zie dat net als dat je... Als ik een rapport op met Word schrijf... Dan zie ik dat niet als een samenwerking met Word. Maar meestal werk ik samen met een opdrachtgever en met collega's... om dat document af te maken. En datzelfde zie ik wel ook bij AI. Dus ik zie niet als ik AI gebruik, dat gebruik ik vaak genoeg. Dat zie ik niet als een samenwerking met AI. Maar meer misschien als iets dat mij input kan geven om mijn eigen gedachten, om met mezelf te brainstormen van, hij klopt het gedachten wel. Of een soort van actievere versie van een notebook. Van gewoon een boekje waar je dingen voor jezelf opschrijft. Zo zie ik AI. Dus AI is geen persoon of een acteur waarmee ik werk. Maar is gewoon een hulpmiddel. Net als een pen dat is. Of een computer. Ja, duidelijk. Waar ik nog benieuwd naar ben. Je hebt ook wat onderzoek gedaan. Naar AI. En normen en waarden. Zo mag ik dat denk ik noemen. Zou je daar wat verder over kunnen vertellen? Ja, wat ik zelf net zei. Ik vind het heel belangrijk om dingen in context te bekijken. En ik vind zelf ook. Ik vind filosofie heel leuk, zoals jullie hebben gehoord. En het nadenken over conceptuele relaties, dat kan ik heel graag heel lang doen. Maar ik zelf wel denk dat nadenken en doen twee dingen zijn die elkaar heel erg versterken. En ook dat, want vaak, nou niet vaak, soms, ik ook, denk je soms van ik moet er eerst over nadenken en dan kan ik iets doen. Maar ik ben steeds meer van mening dat dat eigenlijk niet zo is. Dat je nadenken en doen de hele tijd met elkaar moet afwisselen. En dat dat voor allebei heel vaak een positief effect heeft. Dus zo heb ik eigenlijk mijn eigen onderzoekspraktijk ontwikkeld. Wat ik doe is dat ik kijk naar een filosofisch concept. En vervolgens kijk of ik voorbeelden van een toepassing van het concept kan vinden in een hele concrete zin. Dus ik kijk naar hele specifieke applicaties. En ga dan met mensen in gesprek over hoe zien we dit concept hierin terug. Dus ik heb onder andere onderzoek gedaan naar de rol van autonomie bij menstruatieapps. En daarbij zijn menstruatieapps dan voor mij het middel om te kijken naar autonomie. Maar ook om autonomie tot een bepaalde niveau te kunnen praktiseren. Dus stel ik wil meer zeggenschap over mijn lichaam. Omdat dat mijn autonomie verbetert. Dan kan je daar een menstruatieapp voor gebruiken. En in die zin is een menstruatieapp dus een toepassing voor mijzelf. Om te kijken hoe kan ik autonomie praktiseren in mijn eigen leven. En dat was dan het uitgangspunt voor dat onderzoek. En ik kijk dan samen. Het zijn collectieve projecten waar ik samen met ontwikkelaars, gebruikers en filosofen nadenk over. Wat zien we als we dit met z'n allen hiernaar kijken? En nu doe ik onderzoek naar de rol van kwetsbaarheid en dating apps. En dat is een zelfde soort aanpak. En hoe zouden bedrijven hier zelf ook iets mee kunnen? Ja, dus als ze iets willen... Nou, bijvoorbeeld stel je... Waar we begonnen in het gesprek... Je vindt het heel belangrijk als bedrijf... om een rechtvaardig bedrijf te zijn. Dat op een bepaalde manier eerlijkheid of rechtvaardigheid... meeneemt in de manier waarop je werkt... of de producten die je ontwikkelt. Om over rechtvaardigheid in abstracte zin te blijven nadenken... is heel erg lastig. Dan wordt het ook snel een soort van academische exercitie. Dus ik zou dan een bedrijf aanraden om te kijken... kunnen we iets maken? waarbij we dit begrip rechtvaardigheid als belangrijkste uitgangspunt nemen. En wat betekent het dan van hoe we samen werken, wat we maken en voor wie we maken. En dan kan je in concrete zin vaak heel veel dingen leren over wat je dan met elkaar eigenlijk vindt dat rechtvaardigheid is. Dus op die manier zou ik dat aanraden voor bedrijven. Want het wordt veel minder ook een filosofische exercitie. En als wij nou eens... Kijk, ik ben heel erg van de uitlegbaarheid. Maar dat zit heel erg aan de machine learning kant. Omdat je daar nog een vorm van uitlegbaarheid hebt. Met de grote taalmodellen is dat heel erg lastig. Maar ook weer in de beleidsstukken staat heel vaak... Onze systemen moeten uitlegbaar zijn. Hoe ga ik dan met zoiets aan de slag als ik dat aan jou zou vragen? Ja, nou een goede vraag. Aan de ene kant, ik ben zowel filosoof als jurist. En het verschil wel tussen die twee is dat je vanuit een ethisch perspectief... kan je heel erg nadenken over wenselijkheid. Wat zouden we idealiter graag willen? En vanuit juridisch perspectief moet je toch wel ook veel meer kijken... over wat mag en wat mag niet en wat zijn daar grenzen. En dat is wat harder dan als je alleen maar vanuit de ethiek ergens naar kijkt. Het mooie is in de AI Act staat ook uitlegbaarheid. Ja, precies. Dus daar wil je ook naartoe. Dus als je iets maakt of bijvoorbeeld een systeem wil gebruiken... waarbij het belangrijk is dat je kan uitleggen hoe je tot een besluit bent gekomen... dan kan het al heel goed zijn dat je bepaalde systemen dus niet kan gebruiken... omdat we die niet kunnen uitleggen. Dus daar is niet zoveel aan te tweaken. Dat is meer een harde realiteit die, denk ik, voor soms heel moeilijk te accepteren is... omdat mensen denken, maar het kan zoveel meerwaarde hebben op dit vlak. Maar het kunnen uitleggen van besluiten of het kunnen uitleggen hoe een systeem heeft bijgedragen aan een bepaald besluit dat op een individu van toepassing is. Dat is in een voorordening heel belangrijk. En dat betekent ook dat bepaalde systemen eigenlijk op sommige plekken niet kunnen worden ingezet. Soms zijn dingen toch uitlegbaar, maar wil je het misschien toch niet vanwege andere doeleinden als organisatie zijnde. Wat ik bij het menstruatie app en die data verzameling eigenlijk al heel mooi naar voren vond komen tijdens de podcast die je ook gemaakt hebt en ook verschillende onderzoeken die gedaan zijn, is dat er vaak heel veel mogelijk is. Dat technologie echt wel heel veel meer mogelijk maakt dan dat het vroeger in een boekje werd opgeschreven. Dus je hebt veel meer autonomie zoals je zegt, maar door wel besef te hebben van de technologie ook te gaan kijken van wat moeten we dan het goede ervan inzetten. Maar wat zijn de nadelige kanten waar we wat mee moeten? En daar dus eigenlijk holistisch naar te kijken. En dus af en toe wat minder snel gaan. Dan dat de technologie gaat door te kijken. Hoe wil ik dat als organisatie dan eigenlijk inzetten? Want wat ik begreep is. Het is heel veel nieuwe informatie die je voor jezelf hebt. Maar je hebt er geen controle meer over. En ik denk dat dat vaak is. Kijken we goed genoeg naar de use case. En naar het probleem dat we willen oplossen. Vanuit de verschillende perspectieven. En vaak wordt dan de negatieve blik erop gezet. Maar het hoeft niet altijd negatief te zijn. Dat vind ik wel heel mooi naar voren komen. En ik denk dat het ook wel iets is om de luisteraars ook mee te geven. Soms kan iets negatief overkomen. Maar door daar naar het negatief te kijken kan je het positief maken. Maar dan moet je er wel mee aan de slag. Precies, dat is eigenlijk precies het doel van mijn werk. Want soms denk ik ook dat mensen heel graag de kansen willen horen. En ik denk dat dat heel goed is. Want er zijn heel veel kansen. Maar soms ook dat ze daardoor minder willen focussen op de risico's. Dat hoor je soms mensen zeggen. Maar juist die risico's zijn super interessant. Omdat je daardoor iets goed of beter kan maken. Dus het is heel goed om die in het gezicht te kijken. Bij MensenGelaatsen heb je een heel mooi voorbeeld. Het biedt in potentie heel veel meerwaarde. Je hebt er ook heel veel verschillende soorten apps. Dus je hebt er ook genoeg die wel goed zijn. En die ook die rol van autonomie niet alleen maar hebben vertaald. In dat je informatie krijgt over jezelf. Maar ook dat je een hele goede gegevensbescherming hebt. En dat de informatiebeveiliging et cetera op orde is. Dus er is heel veel mogelijk om heel vaak een bepaald begrip. Zoals autonomie of rechtvaardigheid. Op alle verschillende niveaus van een technologie goed te vertalen. Maar dat vraagt van ons zelfreflectie. En soms denken dit is nog niet goed genoeg. Dus dat moeten we aanpassen. Ik denk dat het vaak in de kleine details zit waar we niet besef van hebben. En dat was voor mij een trigger. Van gewoon een knop in de app hebben. Ik wil mijn data verwijderd hebben. Maar dat dat dan ergens via een mail moet. En dat is wel een hele praktische. Die je gewoon mee kan nemen in je designkeuzes. Als je dat moet doen. Maak het dan ook wel makkelijk genoeg. In apps. Dat was een heel concreet voorbeeld. Een ander mooi voorbeeld vond ik. Met de menstruatie apps. Ook bedrijven die soms wel bewust zijn. Dat gegevensbescherming heel belangrijk is. Zeker bij menstruatie apps. Waar je hele gevoelige data deelt. Met de app. Dat ze dat wel hadden bedacht. de data die je heel bewust invoert, bijvoorbeeld wanneer je ongesteld bent, maar dat ze dat niet dachten van de metadata. Terwijl de meeste mensen die menstruatie app gebruiken, die heel vaak zullen gebruiken en dan zullen openen als ze ongesteld zijn om hun ongesteld data in te doen. En dat is dus metadata die hij heel veel zegt eigenlijk over de cyclus. Dus het is niet altijd onwil, soms ook wel. Want sommige zijn genoeg menstruatie apps die alleen maar worden gemaakt omdat ze die data graag willen doorverkopen. Maar soms is het ook gewoon echt nieuwsgierigheid denk ik dat nodig is om te begrijpen hoe kan je dit verbeteren en hoe kunnen we problemen voorkomen. Je hebt een heel duidelijke denkwijze over hoe je als je spiegelbeeld niet goed is, hoe je dat beter kan maken. Hoe je naar dingen kijkt. Ik denk dat dat wat anders is dan hoe de gemiddelde gekeken wordt. Is er iets of iemand geweest die je daarin beïnvloed heeft? Dat je hierop bent uitgekomen? Nou eigenlijk heel veel mensen. Ik ben mijn filosofische praktijk eigenlijk begonnen drie jaar geleden nu. Of drie jaar, vier jaar geleden. En dat kwam door heel veel redenen. Ondanks dan onder andere door wat er aan Amerika gebeurde. En ook direct met Roe v. Wade. En de rol van vrouwen en de positie van vrouwen in de maatschappij. Waarvan ik dacht, ik moet daar iets mee. Maar het kwam ook omdat ik in mijn werk heel erg vaak met hoogopgeleide experts interacteer over onderwerpen. En zelf heel erg merkte ook gewoon met gesprekken met mijn vader of met vriendinnen. Dat ik dacht, die hebben super interessante inzichten. Zowel over eigenlijk filosofische concepten als technologie. Ik vind het nog steeds dat er zoveel wijsheid zit bij mensen die elke dag technologie gebruiken. en dat is eigenlijk denk ik mijn grootste inspiratiebron voor ook hoe ik er nu over nadenk, omdat ik juist denk dat er heel veel kennis zit bij mensen die direct met technologie iets doen dus die zijn eigenlijk mijn grootste inspiratiebron en dat kunnen zowel ontwikkelaars zijn, maar ook dus gewone gebruikers ja, soms wordt er gezegd dat we heel gemakzuchtig met technologie omgaan maar in mijn projecten merk ik eigenlijk dat dat niet zo is. Dat mensen als je overvraagt, wat vind je hiervan? Of wat denk je over ChatGPT? Of wat dan ook. Dat je dan hele interessante diepe soms gesprekken kan hebben over wat het betekent om mensen te zijn. En dat vind ik heel mooi. Dus ja, juist die wijsheid bij iedereen. Omdat juist die individuele ervaring ook heel erg kan verschillen tussen mensen. Dat vind ik heel interessant. Omdat ik op die manier iets anders leer dan dat ik zelf ervaar. En dat vind ik heel leuk. Dat leidt ons eigenlijk naar... Dat is een geweldig bruggetje. Heel mooi bruggetje. Want eigenlijk zijn we benieuwd. Dus als je heel vrij zou mogen zijn. Van hoe jij dan naar technologie zou willen kijken. En dan vooral naar AI. Van wat voor systeem of AI zou je in je leven willen hebben. En of dat werk is of privé. Maakt me niet zoveel uit. Want dat zegt iets dan over jouw inzicht. En we geven je even tijd om daarover na te denken. Ik denk dat het zonder grenzen is. Ja, zeker. Ik denk wat ik heel leuk zou vinden. Nu is technologie nog heel vaak voor een individu. En is het gebruik ook heel individueel. Ik zou het heel interessant vinden. Of er een AI systeem zou kunnen worden ontwikkeld. Waarbij je veel gezamenlijker ervaringen kan opdoen. Dus ik zit even te denken. Want ook onze mediaconsumptie is nu ook bijvoorbeeld heel erg individueel. En vroeger had je de tv en kon je samen bijvoorbeeld een tv-programma kijken. En ik weet niet wat er volgt. En nu zijn we eigenlijk naar een heel geïndividualiseerde consumentengebruik überhaupt gegaan. Het zou interessant zijn als er weer een volgende stap kan zijn. Waar die gezamenlijkheid van een ervaring. Waar je daar makkelijk in kan delen op een bepaalde manier. Wat mooi. Want AI wordt natuurlijk heel vaak gecombineerd met juist hyperpersonalisatie. Zo. Ik struikel er even over. En jij zegt van nee, maar ik wil eigenlijk weer terug naar het groepsgevoel. Ja, dat zou mooi zijn. Hoe kijk je dan nu tegen die hele beweging van die hyperpersonalisatie aan? Aan de ene kant vind ik het persoonlijk soms fijn. Namelijk het is gewoon meer geënt op wat ik wil zien. Het is de producten die ik wil hebben. Ja, ik denk er ook aan, want ik kijk nu naar de rol van kwetsbaarheid bij datingapps. En ik denk daar dus het idee ook dat daten een heel individuele ervaring is, een verkeerde aanname is. Dus voor een mens, we zijn sociale wezens, we willen heel graag bij groepen horen. Denk ik dat die hyperpersonalisatie eigenlijk best problematisch is soms. voor ons gevoel van ergens bij horen of met andere mensen relateren en communiceren. En ook dat communicatie, het heeft ook communicatie heel erg opgeknipt in dat je je uitcommuniceert. Terwijl ik denk niet dat dat communicatie alleen is. Voor communicatie wil je eigenlijk dat iemand naar je luistert, je begrijpt en hoeft niet per se een antwoord op te komen. Maar dat aspect van iemand horen of iemand zien, dat ontbreekt nu denk ik eigenlijk totaal bij hypergepersonaliseerde consumptie. Ja, en heel veel van eigenlijk wie wij zijn, wat wij doen, is niet gedigitaliseerd. En dat zit niet in de hyperpersonalisatie, als ik voor mezelf even voor word. Mooi. Ik denk dat we een duidelijk beeld hebben gekregen van hoe jij naar deze technologie kijkt. Vooral het idee van het spiegelbeeld zal denk ik lang blijven hangen. ontzettend bedankt voor het delen van je inzichten ja jullie bedankt dankjewel leuk dat je weer luisterde naar deze aflevering van AIToday live vergeet je niet te abonneren via je podcast app het zijn allemaal tongenbrekers blijkbaar en dan mes je geen aflevering tot de volgende keer