De kracht van diversiteit in kunstmatige intelligentie

Hoi, welkom bij een nieuwe aflevering van AIToday Live. Vandaag deel 2 van het gesprek met Samaa Mohammad en Noëlle Cecilia. Heb je deel 1 nog niet geluisterd? Doe dat absoluut. We praten verder met de twee dames over ethiek vooral. Nou ja, en wat ik zei, heb je de eerste nog niet geluisterd? Is absoluut interessant om wel te doen. Mijn naam is Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, Chapter Lead Data & AI bij Info Support. Samaa en Noëlle, welkom in deze aflevering. We praten verder, deel 2. Zou je voor de luisteraars je toch nog even kort willen introduceren, Samaa? Ja, tuurlijk. Mijn naam is Samaa Mohammad. Ik ben 23 jaar en ik ben de oprichter van de Dutch AI Ethics Community. Ik ben Noëlle Cicilia. Ik ben de oprichter van Brush AI. en ik doe een engineering doctorate in data science, waar ik onderzoek doe naar algorithmisch fairness. Heel erg interessant. En Sama, ik was jou op het spoor gekomen, omdat jij een prijs had verdiend binnen de Women in AI. Zou je daar iets over kunnen vertellen? Welke prijs heb je gehad en wat houdt die in? Ja, ik had de Women in AI Diversity Leader Award gewonnen. -Waar? Gefeliciteerd. -Dank je wel. En dat houdt in, die kreeg ik vanuit mijn inzet voor de Dutch Aeoretics Community. Dus het promoten van inclusief AI en een betere sociale impact voor algoritmes. En ja, dus dat was echt wel een hele eer. En ook fijn gewoon dat dat erkend werd, dat mijn werk voor de community, dat ik op het juiste spoor sta daarvoor. Onderdeel van mijn speech op het podium, ik moet een speech geven. Spannend. Een hele mooie speech. Ik vertelde over dat ik op de basisschool gepest werd voor hoe ik eruit zag. Dat liep ook eigenlijk door tot aan de middelbare school, maar op de basisschool was het wel het meest. Want ik was de enige Irakees in de klas. En ook de enige die er zo uitziet als ik. Met echt een duidelijke bruine huidskleur. En ik zag altijd dan, wie ik ben, mijn diversiteit is daarom dus een zwakte. Maar naarmate ik steeds ouder werd en begreep dat diversiteit juist heel goed is. Bijvoorbeeld uit onderzoek bleek dat diverse teams betere beslissingen maken. dat mijn diversiteit me eigenlijk uniek maakt en dat daar eigenlijk ook kracht in zit. Ik probeerde dat dus om te draaien naar dat ik dat niet meer zag als een zwakte, maar als een kracht. En onderdeel, die award gaf dus eigenlijk een soort van duwtje in de juiste richting van een bevestiging van ik zit wel op de juiste richting, het is goed juist om ook zichtbaar te zijn. En ook aan andere diverse mensen, mensen die misschien in hetzelfde schuitje zaten als ik toen ik nog jong was, te laten zien van, ja, je diversiteit is gewoon jouw kracht. Ja, wat mooi. Heel mooi. Dus als er misschien mensen in het, al die luisteraars zijn die, ja, die twijfelen misschien over een carrière in IT, go for it. Want onderdeel van de prijs was ook dat ik mee mocht doen aan een rolmodelcampagne van Equals. Dat is een organisatie in Amsterdam die zich inzet voor vrouwenrepresentatie in de IT. Dus ik mocht met mijn hoofd heel groot in zo'n paal in Amsterdam staan. En daarvan was de boodschap, deze vrouwen, het waren 166 vrouwen die meereden, dit zijn allemaal rolmodellen in de IT. En als je dan naar ze kijkt, besef dan dat jij ook hen kan zijn. Het zijn niet per se mensen die ver van je bed zitten, maar jij kan dat ook zijn. Dus vrouwen zijn er wel in IT en het punt is dat ze gewoon zichtbaarder moeten worden. Ja mooi, en dan juist weet je, kijk diversiteit is sowieso belangrijk, maar in het vakgebied waar we het nu over hebben, AI, is het essentieel. Ja, toch? Ik bedoel, zonder diversiteit hebben we gewoon geen goede modellen. Volgens mij probeer je de, wat het woord zegt, de wereld te modelleren. Ja, precies. En daar hoort iedereen bij, toch? Daarom vind ik het ook zo'n mooie campagne. Het motiveert hopelijk dus ook meer vrouwen en jonge meisjes om een carrière in IT te maken. Want uiteindelijk maak je echt een verschil als je die teams ingaat, die de modellen maken. Je hebt echt daadwerkelijk invloed op hoe biased bijvoorbeeld het model zal zijn. Want je hebt een andere kijk dan de gemiddelde team die daar zit. Mag ik het zeggen? - Ja, tuurlijk. Witte, hetero, middle-aged man. Ik ben wel een beetje aanschroken. Klopt. Dat is gewoon zo. Ik behoor tot die groep. Maar uiteindelijk, veel teams bestaan daar uit. Daar hoeven we niet moeilijk over te doen, toch? Nee. Het gaat om het vertegenwoordigen van zoveel mogelijk wereldbeelden. Dat gebeurt nu gewoon niet. Ik vind het ook jammer, want er is nu juist zoveel aandacht voor bijvoorbeeld vrouwenrechten, of rechten van de LHBTQ community. community. En zeg maar, we zijn al nu een soort van in de maatschappij bezig met het vechten voor die rechten, maar tegelijkertijd zijn we wel allemaal technologie aan het ontwikkelen waar we eigenlijk niet vechten voor die rechten. En dat is super jammer, want dan hebben we straks wel een maatschappij waar dat allemaal super goed gaat, maar we hebben wel nog allemaal algoritme waar dat niet op die manier goed gaat. Terwijl algoritme een veel groter onderdeel gaan worden van die maatschappij. Ja, die gaan de maatschappij beïnvloeden. Die gaan het bepalen. Absoluut. En zie je daar al wel iets van een verschuiving in plaats vinden? Of is het nog steeds een mannenfeestje? Nou, ik zie wel steeds meer diversiteit gelukkig op de werkvloer. En ik denk dat over de jaren heen, bijvoorbeeld op de universiteit, ik deed de bachelor AI in Utrecht. Daar hadden we 40% vrouwen. kwam misschien ook omdat het bij humanities zat en ook wat psychologievakken en taalkundervakken bij zaten die over het algemeen vrouwen meer aantrokken. Maar uiteindelijk was dat wel een mooi opzetje voor vrouwen om dan ook meer de techniek kant op te gaan binnen de bachelor. En dat is fijn, want op dit moment denk ik dat veel, dat andere studies zoals informatica en informatie kunnen vrouwen simpelweg afschrikken vanwege de dominante cultuur van mannen. Dus ik denk dat... Ik hoop dat daar ook een verschuiving in plaatsvindt. Ik kijk even Noëlle aan. Ik wil graag heel positief zijn. Ik was heel positief toen ik net klaar was met studeren. Want op de studies vind ik dat het echt supergoed gaat wel. Omdat daar de cultuur is, is daar ook echt wel gewoon goed, vind ik. Ik merk wel dat nu ik meer vrienden heb, bijvoorbeeld die ook aan het werk zijn. Ik heb zelf een start-up, dus ik kan zelf de cultuur verpalen. Maar dat ik wel merk rondom in mijn kring, zeg maar met mijn vriendinnen, dat die het wel lastig vinden soms. Omdat er gewoon een hele erge mannencultuur is. En ook al zijn er dan steeds meer vrouwen, de cultuur die daar dan al jaren heerst, is heel erg gericht op mannen. Dus ik probeer zelf in mijn eigen bedrijf dat heel anders aan te pakken en ervoor te zorgen dat wij dat niet... Hoe doe je dat? Wat doe je anders? Nou ja, ik vind het belangrijkste, denk ik, is dat ik me niet ga aanpassen aan mannen. Ik denk dat heel veel vrouwen denken van, oh, ik moet mij als man gedragen, bijvoorbeeld, om succesvol te zijn in het bedrijfsleven. Of, ik mag nooit bijvoorbeeld over mijn menstruatie praten, want daar zitten mannen niet op te wachten. Ja, ik denk dan, sorry, het kan mij niet zoveel schelen of je er niet op zit te wachten of niet. Ja, het is er. Ja, het is er en ik moet ermee dealen. En als dat mijn werkzaamheden beïnvloedt, dan vind ik dat ik daar gewoon, als ik ziek was, had ik dat ook gezegd. Weet je, waarom zou ik het niet mogen zeggen? Dus zo probeer ik daar wel een beetje verandering in te brengen. Maar ja, ik vind het zelf als ondernemer soms best wel lastig, omdat wat we als goed ondernemerschap zien, of de kwaliteiten daarvan, dat zijn allemaal kwaliteiten die in mijn opzicht soms best mannelijk zijn, of die niet per se bij mij passen. Dus ik moet daar ook meer mijn eigen invulling aan geven. En ik vind zelf dat vrouwelijk leiderschap of vrouwelijk ondernemerschap net zo legit is, als mannelijk ondernemerschap of leiderschap. Kijk bijvoorbeeld naar de premier van Nieuw-Zeeland. Ik denk dat zij een heel goed voorbeeld is van dat leiderschap ook op een andere manier kan. terwijl hoe we dat zien in de maatschappij is dat dan meteen allemaal te gevoelig en dat hoort niet bij een leider. En dan denk ik, wie bepaalt eigenlijk wat dan goede kwaliteiten voor een leider zijn? Dat bepalen altijd mannen en dat vind ik stom. Dat kan ik me alles bij voorstellen. Ik heb me ook geërgerd aan alle kritiek, bijvoorbeeld op die Finse minister-president, de premier, omdat ze een feestje aan het dansen was, dat dat iets met tekent. Ja, precies. En dat ze dan gaan vragen van... "Oh, gaan jullie ook veel los met elkaar om met die Nieuw-Zeelandse premier?" En zij dan... "Ja, chillen jullie ook buiten werktijd?" En dan zeggen ze "Hallo", alleen omdat ze dan allebei groes zijn of zo. Ja, het is gewoon heel raar. - Ja, bijzonder. Ik zie echt twee dames met heel veel passie voor ethics en AI en dat soort zaken. En jullie stralen gewoon energie uit als ik naar jullie kijk. Dat is heel mooi om te zien. Wat zouden jullie toekomstige volgers na jullie mee willen geven waarom dit vak zo mooi is? Het is gewoon super interessant. Het is ook heel dynamisch, dus het verandert steeds. Ik denk oprecht dat geen aandacht hiervoor hebben dat dat gewoon onhoudbaar is. Dus ik denk dat als we toekomstbestendige AI willen ontwikkelen, dat dit gewoon bovenaan moet staan. aan moet staan. Maar wat het denk ik vooral heel interessant maakt, is dat het heel erg gaat om de vertaalslag tussen de mens en de techniek. En techniek op zich is heel interessant, maar hoe zorgen we ervoor dat de techniek een soort van ten dienste zaait van de mens? En een soort van die interactie daartussen, dat is gewoon heel tof. En omdat het ook steeds verandert, zeg maar de wereld om ons heen verandert steeds. Dus zeg maar je baan, als je je hierin gaat verdiepen, verandert steeds. Veel meer, denk ik, dan als je alleen op de techniek... Ik bedoel, als je alleen op de techniek focust, verandert je baan ook wel enigszins. Maar de kern blijft wel hetzelfde, terwijl ik denk dat bij AI-ethiek dat wel echt anders is. Het is een heel dynamisch veld. En je kan ook gewoon hele grote bijdragen leveren natuurlijk. - Ja, en daar wilde ik dan juist inderdaad, dat wilde ik benadrukken van iedereen kan een bijdrage leveren. Dus of je nou AI hebt gestudeerd of of je meer, ik noem maar iets randoms, bedrijfskunde hebt gedaan of iedereen heeft te maken met AI op dit moment. Elke burger, iedereen in het werkveld, elke onderzoeker misschien wel. En je komt het hoe dan ook tegen in je dagelijks leven. Dus iedereen heeft ook een bepaalde perspectief op ethiek of je daar nou bewust van bent of niet en ik vind ook dat iedereen dat ook moet kunnen delen en iedereen moet ook invloed kunnen uitoefenen op onze maatschappelijke kijk of onze maatschappelijke definitie van deze ethiek. Ja wat ik zelf mooi vond is wij zijn bij het AI annotatielab geweest daar hebben we over gesproken in de vorige podcast Dus als je die aflevering niet gehoord hebt, luister die even terug. Maar er gaat even heel kort over mensen met afstand tot de arbeidsmarkt, labelen data. Wat ik daar mooi aan vind, is want als we het hebben over etiek, voor sommige mensen zijn dat ook best wel dure woorden. Dus hebben het al vrij snel over hoogopgeleide. Maar daar zag je juist typisch mensen die laag opgeleid zijn, als ik dat zo mag noemen, zijn er dus dan ook mee bezig. Want dat is ook een ethische kant en het meedoen aan de kunstmatige intelligentie... en het verderbrengen van dit vakgebied. Dus het is niet... Ik ben soms ook bang dat het een soort van uitsluitend, hoogopgeleid feestje wordt. Absoluut niet, want dan heb je weer die diversiteit niet. Precies. Ja, je wilt juist al die verschillende perspectieven bij elkaar brengen. Je kan daar per definitie gewoon geen mensen bij uitsluiten. Geen groepen in ieder geval. En daar moet je dus juist ook burgers meenemen. Gewoon echt de meest representatieve groep mensen die er is. Dat zal je nooit hebben, maar in ieder geval om dat te proberen. En die mensen dan ook mee te nemen in beslissingen die we maken over AI. Ja, en ik denk ook dat het heel belangrijk is dat AI wat toegankelijker wordt. Heel veel als ik met mijn oma over AI praat, die denkt dat ik een soort genius ben. Dat ik een hacker ben. Trouwens niet alleen mijn oma, ook gewoon vrienden van mij. Maar de principes achter AI zijn super simpel. Dus ik zou ook graag willen dat we veel meer gaan nadenken, oké, wat is het principe hierachter nou? In plaats van, wat zijn alle technische details? We hebben heel lang gedaan alsof AI een soort hocus pocus was, want dat komt ons natuurlijk allemaal super goed uit. Want hocus pocus, wie wil dat niet? Dat verkoopt lekker. Dan kan je zeggen, ik ben heel slim. Maar uiteindelijk is de technologie zelf helemaal niet zo heel ingewikkeld. En ik vind dus dat als we dit soort gesprekken voeren over, nou, wat vinden we wel oké en wat vinden we niet oké, dat we niet gaan praten over allerlei ingewikkelde technische details, maar gewoon heel simpel, wat betekent dit voor jou? En heb je daar een goed gevoel bij of heb je daar geen goed gevoel bij? Of als jij deze persoon was, of je je in die situatie zou verplaatsen, of als het om jouw dochter of zoon zou gaan, wat vind je daar dan van? Ja, en hoe impact de technologie jou op jouw morele waarden, zoals bijvoorbeeld, hoe vind je dat het gaat op het geval van jouw welzijn, privacy, jouw community gevoel, al dat soort dingen en dat zijn niet alleen dingen die je vanuit een technisch oogpunt hoeft te beschrijven, maar ook vanuit meer persoonlijke kant en ik vind dat iedereen daar getrokken bij moet zijn. En daarom dus als je een AI bouwt, dat je dan dus een zo divers mogelijke stakeholder groep moet betrekken bij alle beslissingen die je maakt. Zet mij even aan het denken, dus ik probeer even te voren, misschien dat er jabberish uitkomt, dat gebeurt wel vaker bij mij, maar ik ga het toch proberen. Wat ik je eigenlijk wil zeggen is, zorg voor een diverse groep aan mensen... om te komen tot een gedeeld perspectief... om de impact helder te krijgen. Want eigenlijk hebben we de impact niet altijd helder... en focussen we ons misschien maar op een deel van de impact. Misschien wat hetgene wat in de data zit... en niet zozeer wat er in de context eromheen zit. Dus volgens mij proberen we dus eigenlijk de impact breder in kaart te brengen... door te zorgen dat er zo veel mogelijke perspectieven zijn... dat we de grootste kans hebben dat er geen bias of complete bias is op een vlak. - Ja, je kan ook zeg maar vaak als je een AI ergens in een proces ofzo introduceert, is het niet zo van, oh we hebben nu een deel van dat proces geautomatiseerd en verdienen we meer geld. Het verandert ook gewoon het proces eromheen. En dat vergeten we vaak, dat het niet alleen zo is dat er ineens een AI is, maar mensen gaan zich ook verhouden tot die AI. En hoe verhouden ze zich dan tot die AI? vertrouwen mensen, bijvoorbeeld de AI wel. Dat zijn ook dingen waar je over na moet denken. Daarvoor moet je dus wel zo veel mogelijk blikken meenemen, zodat je die verschillende actoren die er eigenlijk zijn, dat je weet wat voor een verhouding zij hebben met de technologie. Ja, ik hoorde een aanvalkeer het woordje impact. Dus ik moest meteen denken aan een impact assessment, Op mensenrechten en algoritmes, die nu bij de overheid leeft, Yama. Ik zie Sama ziek heel bedenkelijk kijken. Heb je daar een mening over? [GELACH] [GELACH] [GELACH] Dit is een hele moeilijke vraag, vind ik altijd. Ik vind het ten eerste super nice dat ze dit naar de Tweede Kamer hebben kunnen brengen. Ik volgte die motie. Ik vond het alleen al echt heel stoer dat ze de Tweede Kamer hebben kunnen... eindelijk kunnen overtuigen dat dit een onderwerp is waar ze zich mee bezig moeten houden... en dat er ook concrete plannen voor zijn. Alleen denk ik dat dit bij lange na niet genoeg is. Ik denk dat... Kan je even schetsen voor degene... Wat houdt het assessment in en wat dekt het wel? Want dan kan je denk ik ook vertellen wat het niet... Ik zit er natuurlijk niet in. Ik heb dit alleen maar vanuit mijn eigen interesse doorgelezen, van 90 pagina's. 90 pagina's. En daarin kwam ik achter dat... Ja, het houdt volgens mij... Correct me if I'm wrong, in dat je een gesprek gaat met verschillende stakeholders, en dat er verschillende stappen zijn in het proces. en bij elke stap betrek je ook andere stakeholders en ga je ook op een andere manier langs de impact van het algoritme op mensenrechten. Maar wat ik dus, het ontvat dan dus wel dat je dus praat met juristen, met beslissingsmakers, met allemaal mensen in het bedrijfsleven, dus dat betreft goed, maar wat ik heel erg miste was dat er weinig gesprekken gegaan waren met data scientists. En ook heel weinig, eigenlijk bijna nooit met daadwerkelijke ethici. En ik denk dat ik dat heel erg mis. Dat het veel te veel vanuit een juridisch oogpunt gebeurt... en te weinig, zeg maar, in context gebracht wordt van ethiek. Ik weet niet hoe ik dit goed uitleg, maar... En ook zonder te discrediten wat het allemaal is. Want ik vind het verder echt supergoede stappen in de juiste richting. Maar ik mis daarbij heel erg te kijken naar normatieve overwegingen van het algoritme. In plaats van dit is hoe het is, dit is hoe mensenrechten impact, vanuit een compliance manier om er naar te kijken. Wat ik daarvan begrepen heb, ik ben met de training geweest over de IAMA en onder andere de professor die bij betrokken is geweest, die het geschreven heeft, die heeft daar ook een soort van gaslezing gegeven. Wat mij afdronken daarvan was, is dat het ook heel moeilijk normatief te maken is, omdat het gaat juist over ethiek. Dat je niet te maken hebt met wetgeving. Dus dat het ook heel... Kijk, als er één van de vragen die erin zit, gaat over wetgeving. En als je die zou kunnen invullen, dan heb je je fundament voor je beslissingen. En ben je eigenlijk als goed als klaar. Het probleem is juist waar geen wetgeving is, welke afweging je dan maakt en dan wordt het echt heel erg lastig. Precies en vandaar dat ik het dus jammer vind dat het voornamelijk vanuit juridisch oogpunt wordt bekeken en niet vanuit ethisch oogpunt. Dat er zo weinig, ja dat er geen ruimte voor is in die gesprekken daar, dat hele assessment. Klopt dat? Nou ja, ik had juist het idee, omdat je dus dan heel erg bezig bent met welke mensenrechten raak je. Je raakt altijd een hele waslijst aan mensenrechten. En sommige beïnvloed je positief, sommige beïnvloed je negatief. En dat het daar vooral over gaat van ben je daar überhaupt bewust van? Dat je die mensenrechten beïnvloedt. En hoe is die afweging en hoe, met die hele context, besluit je of je dat moreel acceptabel vindt dat je aan die mensenrechten zit te sleutelen. Denk je dan ook na over bepaalde trade-offs die je maakt? Ja, zeker. Nee, want dat is het juist. Als je bijvoorbeeld gaat voor veiligheid, we hebben allemaal een recht op een veilige leefomgeving, kom je vaak heel snel in de kluie met privacy. Ik heb bijvoorbeeld daar geleerd dat je meer dan 200 mensenrechten schijnt te hebben. Dus als je aan het één sleutelt, zit je waarschijnlijk aan het andere. En daar ging het wat mij betreft heel veel over, juist over die trade-offs. Maar het deel waarvan jij zegt, daar heb ik niet goed genoeg naar gekeken, want er is inderdaad een lijstje van wie je allemaal betrekt, of daar inderdaad ethici bij zitten. zitten. Dat zou zomaar eens kunnen missen. Wat ik wel vind, ik wil vooropstellen dat het absoluut niet genoeg is, maar vanuit een soort van, ik denk dat de basis van Responsible AI is wel discussie. En hoewel je met zo'n soort check denk ik nooit alles kan vatten, denk ik dat het wel een goed punt, startpunt is van discussie. En juist het feit dat verschillende mensenrechten botsen is super interessant. Ik bedoel, dat is ook, kijk naar het recht op vrijheid van meningsuiting en antidiscriminatie. Dat is ook altijd, daar voeren we als maatschappij ook heel veel discussies over. Ik denk dat dat met AI ook moet gebeuren. Het alternatief is dat we hier niet over nadenken en dat we het niet eens doorhebben dat we conflicterende mensenrechten aan het raken zijn. En ik had wel het idee dat dat de insteek is van dit assessment. Het is een soort van de bare minimum wat mij betreft. Maar het is ook geen checklist hè, het is absoluut niet iets wat je kan afvinken. Dat was inderdaad mijn angst, maar gelukkig dat je dat... Nee, het zijn allemaal vragen waar je antwoord op geeft. Het zijn allemaal open vakken waar je allemaal je afweging inschrijft, je keuzes inschrijft. Het zou ook een levend document moeten zijn. Dat vind ik wat lastiger. Wie controleert dat dan? Nog niet. Maar ik heb wel begrepen dat het een optie is, een hele reële optie, dat de IAMA uiteindelijk de standaard wordt voor de nieuwe Europese wet. Want daar komt wel een Human Rights Assessment verplicht in en dan wordt het waarschijnlijk de IAMA. Ik vind het juist super goed dat het een levend document is. Ik ook, alleen ik ben bang dat je dat eenmalig invult. Juist omdat het, jij zegt al, 90 pagina's, dat zijn echt ontzettend veel vragen. Hoe zorg je? En daar werd in mijn ogen vrij makkelijk gezegd, dat moet je gewoon regelmatig herhalen. Maar hoe makkelijk is het om het eenmalig in te vullen? Een soort van met z'n allen blij zijn, schouderklopjes, jeum, ingevuld. En dan de Lidl-Doki. Ja, want daaromheen vraag ik me gewoon een aantal dingen af. Wie vult het in? Wat voor soort mensen zijn dat? Mag het bedrijf of de organisatie erachter zelf bepalen wie er benaderd wordt om mee te denken in dat IAMA? In die assessments, zeg maar. Wie controleert dat dan achteraf? Is er misschien een auditcommissie eroverheen? of een ethische commissie die dan kijkt naar de vragen of ze goed zijn ingevuld, of ze misschien niet afgeraffeld zijn, of de beslissing die gemaakt is met die groep dan ook ethisch te verantwoorden is. Zoals ik het nu zag, moet je dat gewoon regelen binnen je organisatie. Dus dan zou dit de juiste tip zijn van jou, dat je zorgt dat je zo'n ethische commissie hebt. Zorg dat dat regelmatig gedaan wordt, zorg dat dat van buitenaf gecontroleerd wordt. En hoe zorg je ervoor dat het ook een duurzame oplossing is? Dat je niet alleen maar eenmalig zo'n assessment invult, maar dat je ook weet van welke skills heb ik verder nodig om dit voort te bouwen. Want het ideale is eigenlijk dat je niet zo'n iama hoeft in te vullen en gewoon inherent vanzelfsprekend is dat je responsibel aan jouw IT-process is. En dat je gewoon mensen hebt binnen een organisatie die daar gewoon verantwoordelijk voor zijn. Maar ik denk dat we ook de manier waarop we naar AI kijken, moeten we veranderen. Want ik denk dat we nu zoiets hebben, heel veel bedrijven denken, oh ik moet iets met AI, ik koop ergens een AI, die implementeer ik en dan ben ik klaar. Maar ik denk dat die mindset moet veranderen. Dat moet een soort, een AI is net als een kind. Dat is misschien een beetje overdreven. Laten we het niet vermenselijker nemen Jan. Nee, nee, nee, dat is waar. Net als een huisje. Een plantje. Het is een plantje en dat plantje moet in leven blijven. en je moet ervoor zorgen, je moet dat monitoren, kijk hoe het met AI gaat, kijk hoe de wereld om ons heen verandert en of die AI nog wel goed is afgesteld op die wereld om ons heen. En daar valt het, wat mij betreft, het updaten van dit soort checks, misschien niet alle 90 pagina's, maar in ieder geval wel het bewust bezig zijn met de onderwerpen die in deze check dan besproken worden, om die ook te blijven monitoren van oké, twee jaar geleden vonden we dat deze en deze mensenrechten werden geraakt, Nu hebben we ineens een dictator in dit land. Is dat nog steeds wel zo? Ik hoop niet dat we ooit een dictator krijgen. Maar de wereld om ons heen, tijdens corona kregen we ook heel andere discussies... over mensenrechten, de wereld om ons heen veranderd. Dus ook hoe die AI zich verhoudt tot die wereld. En dat blijven monitoren is wat mij betreft wel cruciaal voor Responsible AI. En als ik een beetje advocaat mag zijn voor IAMA... Het is denk ik een hele mooie stap. Eigenlijk gaat het over het volwassen worden, waar we mee bezig zijn. En dat gaat nou eenmaal met baby stapjes. En ik denk dat dit wel een hele belangrijke is. Weet je, de baby kan kruipen. Oh nee, we deden geen baby. Nee, nee, nee. De bolletje dat ontkient. Ja, precies. We zien de eerste bloemetjes denk ik ontstaan. En dat is wel heel belangrijk. Ik denk als land, ik ben echt niet heel nationalistisch, maar ik denk dat we als land best trots op mogen zijn, dat dit een discussie is die gewoon in de politiek al speelt. Want ik heb niet het gevoel dat dat in veel andere landen ook zo is. En daarbij is het gewoon heel belangrijk... dat bedrijven en organisaties er gewoon bewust van zijn... dat dit gewoon niet het enige is wat je moet doen. Ja, zeker. - Precies. En ik denk ook, nu die checklist... We gaan afronden inderdaad, maar ik wil toch nog even wat zeggen. Bij grote organisaties zou je willen dat het al vaker wordt besproken... maar ik denk dat voor kleine organisaties die misschien aan het groeien zijn... dit wel een heel goed hulpmiddel is, die vanuit de IAMA... om even, ja, niet die hele grote diverse groep om je heen te hebben, maar wel al zo'n checklist of raamwerk met vragen door kan gaan, om die perspectieven die je misschien niet in de groep hebt, wel al een beetje kan hebben uit te vragen. Dus ik denk dat is wel heel mooi. - Ja, ik denk dat het veel inspiratie kan geven voor dingen die je nog kan doen, als je er nog niet aan had gedacht. Dus een mooie eerste stap. - Inderdaad, eerste stap. - Ik heb vandaag geleerd, AI is een plantje waar je goed voor moet zorgen. En daar heb je heel wat voor nodig. En als de omgeving verandert, dan beïnvloedt dat ook dat plantje, toch? Precies, niet andersom. Nee, precies. Je moet ons niet aanpassen aan de AI, het moet andersom. Heel mooi, heel mooi. Noëlle, dank je wel. Samen, dank je wel. We zijn wijzer geworden, denk ik. Zeker weten. Fijn dat je weer luisterde naar een aflevering van AI TD Live. Zorg dat je je abonneert binnen je favoriete podcast app. Binnen Spotify kan je een duimpje geven, inderdaad. Doe dat, dat helpt ons enorm. Dus als je dat zou willen doen, heel graag.