Expliciete guardrails voor AI: hoe je genderbias in dagelijks gebruik tegengaat

In deze aflevering hoor je Julia Klinkert, Product Owner bij Info Support. Ze deelt praktische technieken om genderbaars in je eigen AI gebruik tegen te gaan, met expliciete guardrails en verklaart waarom AI achterloopt op haar progressieve ideale. Hoi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Mijn naam Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, Area Lead Data & AI bij Info Support. En vandaag de gast Julia Klinkert. Julia, voordat we beginnen, zou je jezelf eerst willen voorstellen? Yes, hi. Ik ben Julia Klinkert inderdaad. Ik werk nu zo'n twee jaartjes bij Info Support. Maar hiervoor heb ik een bachelor in kunstmatige intelligentie gedaan in Utrecht. Ik was eigenlijk altijd al wel geïnteresseerd in, vooral ook het sociale aspect. Dus wat voor impact hebben we nou ook op mensen. En daarom ben ik vervolgens de master Interaction Technology in Enschede gaan studeren. En ook daar steeds meer die ethiek hoek gaan opzoeken. Dus ook in mijn vrije ruimte, vakken die ik kon doen. Oké, maar hoe gaat dat nou samen eigenlijk? Technologie, ethiek, maatschappij. En wat trok je daar zo in aan? Ik denk dat we altijd heel geïnteresseerd zijn in wat kunnen we allemaal met technologie. In het algemeen zeg maar. Maar soms denk ik ook, oké maar waarom doen we dit? En ik denk dat die vraag heel snel wordt overgeslagen. En je gaat een presentatie houden die heet Gendered Bias in AI. Wat moet ik me daarbij voorstellen? Daarbij duik ik eigenlijk dieper in sowieso wat is generative AI. Maar ook, daar zitten verschillende biases in. Onder andere gender bias. Waar komt dit eigenlijk vandaan? Maar ook, hoe gaan wij hier nou eigenlijk mee om? Want we krijgen overal te horen, oké, we moeten steeds meer gaan gebruiken. Maar ja, we maken niet allemaal AI. Het is niet dat we daar allemaal aan de knoppen zitten van hoe we willen dat het werkt. Dus hoe ga je er eigenlijk mee om als je er anders mee om wilt gaan dan gewoon maar de standaard? En wat bedoel je van we zitten niet aan de knoppen? Nou ja, vooral de big tech companies die ontwikkelen het. Dus vooral OpenAI, daar zien we gewoon bij, oké, daar hebben we de standaard ChatGPT van, daar hebben we Copilot van. Zij ontwerpen eigenlijk die producten voor ons die wij vervolgens overal in gaan gebruiken. Dus je kan wel zoiets gaan sturen, maar uiteindelijk beslissen wij niet hoe het exact gaat werken en hoe moreel we misschien willen dat zo'n systeem werkt. Ja, en hoe merk je dan dat het biased is? Ja, ik denk een makkelijk voorbeeld. Ik ben zelf een hele visuele denker. Dus genereer een plaatje van X. En ik denk dat je het vooral heel erg ziet ook in bepaalde werkvelden. En daar hebben we toch, ook al willen we misschien dat het anders is, bepaalde vooroordelen. En enigszins is dat ook wel waar. Als ik hier om me heen kijk en ik kijk naar developers, grotendeels heb ik mannelijke collega's mee. Dus als ik vervolgens vraag aan een ChatGPT, oké, maak een developer, dan zal het een man genereren. Tegelijkertijd als ik vraag, maak een zuster, in het Nederlands is dat ook al een genderd, Ja, woord eigenlijk. Maar het Engels als nurse is zowel mannelijk als vrouwelijk. Dat hoeft niet een geslacht eraan te hebben. Maar toch zie je daar wel gelijk in terugkomen dat het een hele vrolijke, vriendelijke vrouw is. Vaak een jonge vrouw. Terwijl een CEO, oude man. Dus dat is zowel gender, maar ook met leeftijd heeft het ook te maken. Ja. Wat is het risico daar dan van? Het bevestigt heel erg bepaalde denkpatronen. Dus sommigen zeggen ook wel, generative AI is een soort van weerspiegeling van de maatschappij. Maar dat betekent dus ook heel erg dat het een weerspiegeling is misschien van de huidige maatschappij. Niet hoe we zouden willen dat het werkt. Dus op die manier bevestig je bepaalde denkpatronen of versterkt dat het alleen maar. En als we toch nog even doorgaan op dat van die plaatjes. Want de zuster en de CEO's denk ik, die lijken me nog vrij duidelijk. Zijn er ook subtielere vormen die je tegen bent gekomen? Dat is misschien wel nog pijnlijker. Ik vind het zelf, zag ik het als je bijvoorbeeld een cv wil opstellen. En je pakt bepaalde eigenschappen. dan ook daar wordt toch vaak wel een soort van geslacht aan gekoppeld. Dus vaak zie je dat mannen assertief worden gezien of die zijn heel straightforward. En dan zijn dat goede eigenschappen. Terwijl bij vrouwen veel eerder wordt gezegd, nee, misschien moet je sociaal, vriendelijk. En zijn dat in dat opzicht goede eigenschappen. Terwijl misschien voor een bepaalde rol dat eigenlijk niet of zou moeten uitmaken of dat je juist naar die bepaalde eigenschappen assertief daarnaar op zoek bent. Maar als ik dan vraag, maak voor mij, en waarschijnlijk leest het uit mijn eigen woordgebruik, of hoe ik er met zo'n systeem omga, kan het al allemaal signalen oppikken, kan het eruit halen, ik heb waarschijnlijk met een vrouw te maken. Niet dat het dat denkt, maar zo zal het wel reageren. En dus misschien eerder bovenaan mijn cv zetten wat een sociaal persoon is dit, dan wat een assertief persoon. En dat kan dus ook weer je kansen voor eventueel een baan beïnvloeden. We zaten net eventjes heel kort voor te bespreken. En toen zei jij van, ik zou eigenlijk verwachten dat iedereen weet dat deze bias in taalmodellen zit. Maar dat dat niet het geval is. Hoe merk je dat? Ik denk gewoon met gesprekken met mensen omheen. Dat ik zit van, moet ik hier sowieso een praatje over doen? Ik ga naar een conferentie, ook eigenlijk met het onderwerp wat je al noemde. Je gaat het in Parijs doen, dat vond ik zo leuk. Ja, klopt. Dus echt wel, ook mijn eerste conferentie, nou meteen in Parijs. Dus dat is super gaaf. Maar ja, ik had dus de aanname van, wat ik nu ga vertellen, dat heeft niet zoveel nut. waarom zou ik hier een praatje over doen, want dit is al bekend. We weten toch dat dit er is. Maar dat ik eigenlijk om me heen reacties kreeg met, oh, maar hoe zit dat dan eigenlijk? En toch ook wel de vraag, waar komt dat vandaan? En nou ja, ook toch een beetje zorgen, en wat moeten we daar dan mee? En als je het zou moeten uitleggen van, waar komt het vandaan? Nou ja, in principe zo'n large language model, dat zit onder een generative AI in het algemeen, Dat leert op hele grote datasets. En als we kijken van oké, wat voor datasets zijn dat dan? Zie je vooral bij een GPT. Dat is gebaseerd op de data die al beschikbaar is. Want ook dat is vrij geheimzinnig allemaal. Maar voornamelijk gewoon ook wel het internet. En als je dan verder gaat kijken wat dan op het internet? Een groot deel ook Reddit stories. Dus nou ja, ik weet niet of je als op Reddit hebt gekeken. Maar dat is niet altijd even vriendelijk of genuanceerd. Dus als je daar vandaan gaat leren, en dat zijn bepaalde biases die daar ook genoemd worden. Dan komt dat dus ook terug in je large language models waar het op leert. Maar daarnaast is er ook een onderrepresentatie. Dus je ziet dat alle biografieën die over mensen zijn geschreven, dat een veel groter percentage over mannen is geschreven. En er zijn dus wel acties gaande om dat recht te trekken, om veel meer biografieën van vrouwen ook toe te voegen. Maar dat is er nog niet. We zijn echt nog niet op een gelijk level. Dus je ziet gewoon dat er daardoor een onderrepresentatie is van vrouwen, een overrepresentatie van mannen. En dat er dan ook nog eens een vooroordeel in zit eigenlijk. Zelf gebruik ik in sommige presentaties om dat te laten zien. Hoe er geleerd wordt. Trouwens, ik heb het al een hele tijd niet meer geprobeerd. Maar als je vraagt naar het genereren van een plaatje van een klok. En je vraagt daar een bepaalde tijd. Zet hem op half vier. Wat doet hij? Hij zet hem altijd op tien over tien. En dat heeft te maken met dat... Nee, want de wijze, zoals het op tien over tien staat, dat ziet er visueel heel fijn uit. Dus als jij googelt op foto's van klokken, van horloges, staat alles op tien over tien. Dus daar is op getraind. Dus dit gaat nog niet eens over bias, maar dit gaat gewoon over wat doet trainingsdata. Dus er zit zo ontzettend veel over representatie van die tien over tien, dat ongeacht wat jij vraagt, krijg je een horloge altijd op de tijd tien over tien. En dat is ook deels het probleem van die trainingsdata. Daar wordt heel veel gereproduceerd. Ja, en daar is denk ik ook juist die representatie zo belangrijk. Om daar gelijke representatie in te hebben. Of de representatie die je wilt. En dat is denk ik ook altijd de vraag. Ja, met zo'n bedoel. Hoe zou jij hem willen? Kijk, ik heb allemaal idealen. En eigenlijk wil ik dat het niet uitmaakt. Dat het dus letterlijk, het is een blank slate. Het maakt niet uit. Man, vrouw, ertussenin, erbuiten. Want ook dat, we hebben het nu vooral nog over man-vrouw, representatie. Ja, dan gaan we nog helemaal voorbij het binaire denkgedachte. Of daar blijven binnen en alles daarbuiten, dat is er gewoon niet eens. En dat komt ook omdat we natuurlijk, je hebt een soort van progressieve denkgedachte. Tenminste, dat heb ik. Dus daar wil je naar een plek waar je eigenlijk nog niet bent geweest. Maar dat is niet hoe een GPT werkt. Want dat leert op data van het verleden. Dus als je iets progressief wilt, dan is dit eigenlijk niet het juiste systeem. Want het bedenkt niet nieuws. Hoe ga je daar zelf mee om? Ik vind het heel frustrerend. En ik probeer het daarin ook te challengen. Dus vooral als ik met vraagstukken bezig ben waar dit naar voren kan komen. Dus bijvoorbeeld denk aan een cv opstellen. Ik heb gelukkig al een tijd geen cv hoeven opstellen of aanpassen. Maar ik gebruik ChatGPT heel veel voor mijn taalgebruik. Ik denk heel veel mensen. Ik heb last van dyslexie, dus mijn zinnen lopen echt nog wel scheef. Maar daar geef ik echt de juiste guardrails eigenlijk mee. Dus oké, ik wil dat je geen dingen zomaar bedenkt. Ik wil dat je, ongeacht man, vrouw, dat het niet uitmaakt. En ook wel, als ik bepaalde dingen aan het bedenken ben, dan gebruik ik voor brainstormen. Oké, maar hoe zouden we hiermee omgaan als we non-binaire personen zouden willen includeren? Wat moeten we dan daarvoor doen? En dan komt het wel met een antwoord. En of het correct is, dat moet je zelf natuurlijk nog toetsen. Maar daarmee kan je jezelf wel blijven uitdagen om in ieder geval buiten je eigen denkpatronen te denken. Snap ik, ja. En dat deel je dan denk ik ook met collega's. Wat doen die er dan mee als ze dat horen, dat je daarmee bezig bent? Zet het hen tot actie? De feedback die ik heb gekregen, want ik heb hier dan ook wel binnen de organisatie een presentatie over gegeven. Is dat er wel in ieder geval een soort stap wordt gezet om na te denken. Oké, maar hoe heeft dit impact op mijn werk? Want in het algemeen is de reactie, maar daar heb ik niks mee te maken. Ik werk niet met persoonsgegevens of mensen direct. Dus dan maakt het niet uit. Omdat ze software ontwikkelen. Ja, vaak bekend. Dus dat maakt het toch niet uit. En daar ben ik het niet mee eens. Omdat? Omdat het ergens begint. En een back-end systeem, dat praat vaak tegen een front-end systeem. En uiteindelijk bouwen we bijna alles voor onze maatschappij. Is mijn beeld. Zeker. Wij willen als Info Support ook impact maken. En dat is ook maatschappelijke impact. En hoe zou die bias dan door kunnen druppelen in de software die je maakt? Voor alles maak je bepaalde keuzes. Dus ik denk, het is natuurlijk nog steeds wel afhankelijk welk systeem je mee werkt. Maar ik denk, bepaalde keuzes die je beïnvloedt later in de keten, dat begint al heel vroeg. Dus dan geef je al bepaalde data of kennis mee. Waar ik zelf aan zit te denken, is bijvoorbeeld je testdata. Vaak maak je, zeker in het begin maak je zelf synthetische testdata. Daar kan je gewoon een blinde vlek hebben in wat je niet test. Je zegt net al dat we heel snel denken in die binaire vormen. Als je allerlei formulieren maakt, misschien juist om persoonsgegevens wel te krijgen, dat je dat vergeet. En dat je dat ook vergeet op de testen bijvoorbeeld. Ja, en ik denk, dan gaan we even naar een stukje requirements engineering. Daar waren ook AI best wel wat ingezet om wat voor vragen moet ik stellen. Ik denk dat daar best wel een bepaalde richting misschien wel onderbelicht is. Wat moet het systeem wel of niet aankunnen inderdaad? Ja, zeker weten. Ik denk dat het een heel mooi voorbeeld is wat je geeft, dat synthetische data genereren, maar ook testdata. Het kan dus ook juist daarvoor heel goed gebruikt worden om diversiteit te introduceren. Ik denk als je inderdaad zonder na te denken zegt, geef me data, dan zal het inderdaad dezelfde oordeling nog steeds hebben. Maar als je daar dus juist gaat prompten, oké, maar ik wil zoveel representatie, dit, dat, zus, zo en ook de vraag in het gaat stellen, wat vergeet ik nu nog? Of wat kan ik nog meer raken buiten waar ik nu aan denk? Dat je daardoor juist betere representatie in je synthetische data kan krijgen. Precies. Ze waren hier bezig voor een evenement om een applicatie te maken, Waarbij gebruik werd gemaakt van foto's van deelnemers. En daar werd een transformatie gedaan. Ik zal je de details besparen. Maar daarvan hebben we ook gekeken. Test nou met allerlei verschillende foto's. En die zijn natuurlijk heel moeilijk om die te krijgen. Maar als je dat met synthetische data doet. Dan kan je inderdaad zeggen van verschillende genders. Verschillende huidskleuren, verschillende leeftijden, gezichtsvormen, haar en dracht. Dus dat kan je dan heel erg helpen om daarmee ook daadwerkelijk je applicatie gewoon te verbeteren. Het is niet alleen maar het voorkomen van bias, maar ook gewoon kwalitatief betere producten leveren. Of zie je dat anders? Nee, klopt inderdaad. En het is wel interessant, want ik was vorige week bij een conferentie over AI fairness en ethiek in de AI in Brussel. En daar was ook een praatje dat ging over hoe ze de synthetische daten hebben gebruikt in de medische sector. Waarbij ze voor een bepaalde huidaandoening gebruikten om meerdere huidskleuren te krijgen. Want ze waren gebaseerd in Italië. Daar hadden ze dus voornamelijk lichte huidskleuren. Of in ieder geval lichte tint. Maar niet een hele range. Of in ieder geval dat het kleinere hoeveelheden waren. Met echt donkere huidskleuren. En door dus synthetische data te gebruiken. Konden ze daarmee veel beter ook de juiste huidaandoeningen vinden. Bij verschillende mensen. Dus daarmee zag je echt dat het het product ook verbeterde op die manier. Ja, gevoelsmatig zit het dus echt. Je legt toe, het zit erin, de bias. We denken niet altijd bewust over na. Je spreekt collega's, dus die hebben het ook niet door. Hoe krijgen we het uit die mist dat mensen er hiervan moeten weten? En wat kunnen ze eraan doen? Ik denk, ik vind dat altijd een moeilijke vraag. Wat kan je eraan doen? Want uiteindelijk denk ik dat ook een stuk verantwoordelijkheid bij de big tech nog steeds ligt. Daar zit echt het probleem. Maar dus hoe kunnen mensen er dagelijks mee omgaan? Zit ik zelf echt te kijken. Je wilt niet elke keer je prompt aanpassen. Want met hoe je je prompt opstelt, kan je echt veel betere resultaten krijgen. Nu kan je in bijvoorbeeld ChatGPT, maar ook in Copilot en ik denk ook wel andere generative AI systemen van die projecten aanmaken. En daar kan je bepaalde instructies, werkinstructies meegeven. En ik denk als je daar al heel duidelijk aangeeft, dit is wat ik wil dat je wel doet, niet doet. Een stuk ethiek meegeven, dus ook daar bronnen in meegeven van ik wil dat je je zo gedraagt. Dat je eigenlijk al heel veel betere antwoorden krijgt. Zonder dat je ook bij elke prompt weer opnieuw hoeft na te denken. Oh, maar ik wil dat je eerlijk bent, ik wil dat je ethisch bent. Want op een gegeven moment word je daar ook moe van, natuurlijk. Ja, maar wat ik wel lastig vind, als je zou zeggen van gedraag je ethisch. Er is geen vast kader wat ethisch gedrag is. Dat is heel erg genomeerd door de maatschappij en door jezelf eigenlijk. Dus hoe weet dan het taalmodel wat jouw ethisch kader is? Ik denk dat je dat, kijk dat is sowieso denk ik iets wat je voor jezelf over na moet denken. Wat vind ik nou eigenlijk belangrijk? Welke normen en waarden vind ik belangrijk? Want misschien zijn mijn normen en waarden wel anders dan die van jou. Zeker. Bijna gegarandeerd, denk ik. Dus dat zijn ook zaken waar je bij jezelf moet nagaan. Vind ik dit eigenlijk überhaupt belangrijk of niet? En natuurlijk probeer ik daarom dit gesprek aan te gaan met dit is wel belangrijk. Ook als het jou niet direct raakt, raakt het andere wel. Ik denk dat dat ook een belangrijk iets is. Dus dat je dat dan goed kan formuleren. wat wil je dat het meeneemt dus inderdaad wat gespecificeerder dan alleen maar wees ethisch en voor de luisteraar zou je daar drie voorbeelden van kunnen noemen wat jij in je prompt hebt staan oeh dat vind ik een lastige ja omdat het te persoonlijk is of om dat nu op te lepelen nee om dat nu op te lepelen dus ja ik weet niet hoe ik dat specifiek heb benoemd Maar ik denk dat ik sowieso in de breedste zin gewoon voorkom bias. En dat is inderdaad nog heel breed. Maar zo maak je het in ieder geval ook inclusief genoeg dat je bewust bent dat er verschillende biases zijn. Ik focus nu heel erg op de genderbias, omdat dat mij persoonlijk gewoon het meeste raakt. En daardoor iets met me doet. Maar je hebt natuurlijk ook leeftijdsbias, is echt een ding. we weten het eigenlijk ook allemaal maar je huidskleur je afkomst, dergelijke dus als je dat ook kan specificeren van oké, dit wil ik allemaal exclusie hoe zeg je dat? Excluderen uitsluiten? Ja, precies ik denk dat dat al een hele goede stap is en misschien ook het woordgebruik dat je daarop stuurt ik wil een genderloos woordgebruik ik denk dat dat al best wel veel uitmaakt Als ik dan even probeer te bedenken. Hoe doe ik dat nou eigenlijk? Omdat we het hier nu over hebben. Ik probeer altijd de context. Voor het project. Of voor het vraagstuk wat je hebt. Ver genoeg uit te breiden. En ook continu mee te nemen. Dat je zelf gechallenged moet worden. Dus challenge mij op wat er nog niet. In de tekst staat. Of bepaalde beelden nog niet helemaal dekt. Of het proces nog niet helemaal dekt. Dus de white noise. Die je zelf meestal niet spot. Om dat eigenlijk er ook proberen uit te halen. Dat helpt mij al. Niet zozeer de gender bias. Maar daar ga ik wel vaker op letten. Dus echt heel goed. Welk doel wil ik bereiken? Wat is de context die ik heb? Dat is de context die ik heb. Maar wat mist er nog? En die vraag regelmatig te stellen. En dat weer mee te nemen in mijn prompt. Of in ieder geval in mijn flow. En heb je ook het gevoel dat je erin gechallenged wordt? Dat hangt heel erg af van de situatie inderdaad. En wat er gesteld is. Ik denk dat het vaak nog positief is. En ik best wel nadrukkelijk semi-boos moet worden. Om te zeggen, wees nou eens wat strenger inderdaad. En zo vanochtend nog. Ik doe altijd voor de luisteraars die weten dat ik altijd op de ochtend van tevoren nog even met ChatGPT en voice modus even de gesprekken van vandaag voorbereid. En ik moest echt boos worden inderdaad om tot jouw persoon te blijven. En dat die niet ging raaskakelen over het hele onderwerp daarbij. En dat had eigenlijk helemaal geen effect. Kom ik ook achter. Ik heb al te duur het gesprek gestopt. Ja, want ik vind dat het altijd een hele grote cheerleader is. Nou, ik weet dat sommige mensen er allergisch voor zijn. Ik vind die vierden wel leuk. Dankjewel. Ik vind inderdaad ook dat mijn ideeën enorm goed zijn. Maar dat vind ik wel een hele uitdaging. Want je wilt er inderdaad kritisch mee blijven en gechallenged worden. En ik denk dat daar heel goed voor zou kunnen zijn. Maar omdat het zo positief ook is ingesteld. En dat is eigenlijk ook wat ik eerder bedoelde met je kan niet aan die knoppen draaien. Want anders zou jij misschien hebben ingesteld van wees maar zo kritisch als maar kan. Ja, ik wil echt graag een kriticaster inderdaad die gewoon continu de discussie opzoekt. En dan het liefst nog wel in de positieve tonen, want dat vind ik toch fijn. Een andere is dat je natuurlijk ook proactief... Kijk, in de prompt wordt heel vaak gezegd, je kan ChatGPT in een rol zetten. Ik gebruik het niet al te vaak, moet ik zeggen. Omdat het vaak niet meer nodig is. Maar als je juist die gender zelf wil bepalen. Is het natuurlijk heel makkelijk om juist de rol te geven. Nu wil ik het vanuit een man. Nu wil ik het vanuit een vrouw. Nu wil ik het misschien non-binair. Dus je kan er ook heel expliciet in zijn. Ja, al draagt dat denk ik ook weer risico's met zich mee. Zeker. Want ook daarbij komen dus bepaalde oordelen. Maar als jij vanuit een vrouw nadenkt. Oh, dan zal je wel ABC. Ik denk dat ik het verkeerd verwoord. Het is niet nadenkt. Maar dat je gewoon zegt van... Stel, ik zou een voorbeeld willen schrijven over een Product Owner. Hoe die met iets gaat. Dan kan ik gewoon zeggen van Product Owner en die geef ik een naam. En dat zou dan bijvoorbeeld een vrouw kunnen zijn. Waardoor er gewoon zij en ze en haar gezegd wordt. Om niet altijd een leidinggevende in een mannenrol te zetten. Dus dan gaat het nog niet eens over karakter-eigenschappen, maar gewoon dat er niet altijd alleen maar hij en hem staat. Ja, oké. Nee, ik vat er dan ook een beetje op inderdaad. Nee, dan had ik het echt verkeerd gezegd. Ja, nee. En ik kan niet bedenken hoe een vrouw dingen denkt. Ja, nee. Ik denk dat het wel interessant kan zijn, want ik denk juist vanuit die verschillende perspectieven heb je dan misschien wel een compleet beeld van verschillende persoonlijkheden. Want ik denk dat elk persoon bepaalde karaktereigenschappen kan hebben. Of het nou mannelijk, vrouwelijk of wat dan ook gelabeld wordt. Maar door het in ieder geval vanuit verschillende hoeken uit te lichten, 424 Een van de vragen die ik wel vaker stel is dat mensen maken natuurlijk fouten. En de gen AI ook. Houden we hier de technologie, verwachten we daar meer van dan de fouten die we als mens maken? Want we hebben natuurlijk stereotypen. Ik denk in ons dagelijks gebruik zitten overal vooroordelen. Dus we zijn nooit oordeelvrij. Laat staan vooroordeelvrij. Dus houden we de technologie tegen een hogere standaard aan dan die we van mensen verwachten? Dat denk ik wel. En ik denk ook wel dat dat terecht is eigenlijk. Want mensen gebruiken het steeds meer ook als een vervanging van een Google. En daar krijg je een lijst met mogelijkheden van artikelen of iets waarvoor je gezocht hebt. Om dat zelf vervolgens te selecteren met klopt dit of klopt dit niet. Terwijl als je nu een vraag stelt aan chat en die geeft een heel mooi antwoord en die verkoopt het als de waarheid. en dat is ook hoeveel mensen dan toch geneigd zijn om op te vatten, dus je moet zelf heel kritisch blijven nadenken, klopt dit of klopt dit niet, ben ik het hier mee eens of ben ik het hier niet mee eens, maar ik denk met de manier waarop het gerepresenteerd wordt en hoe overtuigend het kan zijn dat het daardoor moeilijk is om zelf kritisch te blijven en je kan dus ook niet kiezen voor oh, maar hier ben ik het niet helemaal mee eens Dus ik ga even naar het volgende antwoord of het volgende perspectief ook eigenlijk. Dus ik denk dat daar wel het gevaar zit dat als hier een fout in zit wat logisch is. Wat inderdaad, mensen maken ook fouten. Maar met zo'n systeem, als mensen daar verder op bouwen en hun kennis daar op doen. Dan is er daar een gevaar in denk ik. Wat me net ontschoot, nog even terug naar die prompt en eigenlijk van dat het je helpt. Er zijn natuurlijk ook bedrijven of sectoren die gewoon ethische kaders hebben. Dus ik weet het Verbond voor Verzekeraars heeft bijvoorbeeld een ethisch kader opgesteld voor haar leden. Dat zijn typisch stukken die je in je standaardinstructies mee kan nemen, kan uploaden. En dat je kan zeggen van ja, alles wat geschreven wordt, toetst dat aan die ethische kaders. is dat foutloos? Ik denk het niet. Dus je moet daar dan ook heel goed naar kijken. Maar dat soort kaders kunnen je helpen. Dus als je kaders hebt binnen je organisatie helpt het om in ieder geval als een vangnet voor de dingen die je doet. Ja, ik denk dat het ook namelijk altijd afhankelijk is per use case. Dus precies wat je nu noemt als je in die verzekeringen zit dan is dat een heel mooi systeem wat je ook kan gebruiken. Als het misschien net wat andere zaken. Wil je het misschien ook aanscherpen? Precies. Ik heb zelf een project gestart waar ik ook al deze vragen eigenlijk rondom, dus die bias in AI en ethische AI. Nou, daar heb ik ook bijvoorbeeld de AI Act ingeladen, omdat ik wil van ja, je moet hier aan voldoen ook. En je moet eerlijk en transparant zijn. En wat voor mij heel belangrijk is, daar heb ik dus wel meegegeven van, ik wil dat je een onderzoeker bent. En geef of ook alle bronnen waar je dit vandaan haalt. Zodat ik zelf nog kan gaan factchecken. Klopt het wat je zegt? Komt het ook echt ergens vandaan? In plaats van dat je nu iets bent gaan verzinnen. Ik hoor de hele tijd een beetje een strijd tussen gemak, snelheid en kritisch blijven. En ik denk dat dat is... Kijk, zo gauw je je snelheid nodig hebt, leun je heel snel op gemak. En vergeet je dingen. Daarom is het ook fijn als er een vang... Dus als je dat standaard hebt ingesteld... dat je daar altijd op geattendeerd wordt. Ja, en ik denk dat die vangnetten nog niet door iedereen worden gebruikt. En dat mensen het besef niet hebben, omdat het een beetje onder het gespreksstof ligt. En dat het belangrijk is dat dit soort gesprekken dus vaker gevoerd worden. En dat mensen weten dat het gemak tegen een prijs kan komen. En dat je daar niet voor car sales voor kan inzetten. Maar dat je er dus echt op moet letten. Doe je deze expres? Nee, deze was niet expres, maar ik zie je wel echt in de knop gaan. Ja, daarom. Over gesprekken gesproken. Dus we hebben van hier gespreksstarters met stellingen. En het leuke is, we krijgen nu een stelling die is ingebracht door een van onze vorige gasten. Ja, en deze stelling is van Jozien Boetje. Heb je de aflevering van Jozien nog niet geluisterd? luister je zeker even terug. En haar stelling luidt als volgt. AI maakt ons slimmer totdat we vergeten hoe we het zelf moeten bedenken. Interessant. Waar ik zelf meteen aan moet denken, ik heb het zelf nog niet kunnen factchecken. Ik denk dat dat een goede is om te noemen. Maar ook in eerdere podcast heb ik gehoord van oké, we worden juist dommer. Van AI. Juist omdat we heel veel taken uitbesteden. Dus eigenlijk wil ik het net zelf noemen. Ik gebruik het om mijn zinnen te verbeteren. En dergelijke. Ik doe dat omdat mijn zinnen al niet zo goed lopen. Maar het wordt ook niet beter van. Want ik ben er zelf niet meer met any skill bezig. Dus ik denk hoe meer je je in die zin uitbesteedt aan generative AI. om een taak voor jou even gemakkelijk, even snel te doen, betekent ook dat je die skill niet meer blijft ontwikkelen. Dus ik denk dat daar de vraag is, oké, wat is dommer worden? Maar ik vind dat echt wel een verlies van skills. Als dat betekent inderdaad dat hoe meer ik dat zelf minder doe, dan word ik daar dommer van. Maar in het onderwijs zit ook het systematiseren, dus het systematisch continu herhalen, Waardoor je het blijft leren en eigenlijk een aanpak voor kan creëren. En ik denk dat dat voor veel taken belangrijk is om te leren hoe je leert. Ik weet niet of het voor alle taken erg is als we daar wat dommer in worden. Om in die termen maar te gebruiken. Als we dat inderdaad weg kunnen automatiseren. Maar ik denk dat je wel moet beseffen wat er wordt weggegeven. Ik heb wel moeite met de termen slimmer en dommer. Want de vraag is of je sowieso slimmer wordt met deze technologie. Dus volgens mij helpt het je in iets. En het feit dat ik bepaalde vaardigheden zou kunnen verliezen. Laat ik het helemaal terughalen naar... Ik heb vroeger op de lagere school allerlei handarbeid zaken. Dus ik heb leren punnikken. Ik heb leren breien. Dat kan ik nu niet meer. Het zijn vaardigheden die ik ben verloren. Maakt mij dat dommer? Ik denk dat ik die vaardigheden niet meer heb. Dus ik geloof wel in het verlies van vaardigheden. Of het verkrijgen van vaardigheden. Maar maakt mij het slimmer als ik deze vaardigheden weer wel heb? Dus ben je slimmer als jij die zinnen wel handmatig schrijft? Dus het gaat om vaardigheden. En dus gaat het veel meer over, denk ik, de vraag, vind ik deze vaardigheid belangrijk, dat ik die behoud of dat ik die aanleer? En daarom vind ik termen als slimmer en dommer, daar zit een waardeoordeel in. Er zit een oordeel in, inderdaad. Dus ik vind het wel heel mooi, vaardigheden inderdaad. Heb ik deze vaardigheden nodig? Wil ik deze vaardigheden? Ik denk het in zekere mate dat je van sommige vaardigheden wel degelijk slimmer of dommer wordt. Want als dat vaardigheden zijn rondom redeneren, hoe redeneer ik om tot een bepaald antwoord te komen, dan maakt dat je slimmer of dommer als je die skill soort van verliest. En ook dat is iets wat we denk ik vaak uitbesteden. Goeie toevoeging. Ben ik het wel mee eens dat qua kennis, als het kennis opdoen is, ook daarbij, it depends. Ik denk dat dat altijd een mooi antwoord is. Want je kan er heel veel nieuwe kennis mee opdoen of tot nieuwe inzichten komen. En dat kan je slimmer maken. Dat denk ik zeker. En daar is het ook wel een goede tool voor, denk ik. Tegelijkertijd, als jij daardoor toch... Maar dan leer je de vaardigheid kennis opdoen. Ja, of het verrijken van jouw kennis. Het verbreden van jouw kennis. Dat hoeft niet slimmer of dommer te zijn, maar dat is misschien het oordeel. Nee, maar we hoeven niet... Dus ik denk dat het daarmee in ieder geval iets kan brengen en kan toevoegen. Tegelijkertijd, daarmee moet je dan wel het juiste hebben opgepikt. Want het kan je dus ook op het verkeerde been zetten. Sommige mensen zeggen het liegt. Ik denk niet dat het liegt, maar het vertelt wel onwaarheden. En dan een persoonlijke vraag. Welke vaardigheden heb jij zien afdalen na het gebruik van AI persoonlijk? Of zien groeien? Net hoe je hem wil inzetten. Ik denk echt wel dat als ik nu zelf een goede professionele mail moet opstellen, dat dat slechter is dan toen ik misschien net van de middelbare kwam. Waar je dat nog wel enigszins geleerd kreeg. Dus dat is er niet beter op geworden. Ja, schattig. En vind je dat erg? Goeie vraag. Ik vind het jammer dat ik er voor mijn gevoel daardoor bijna afhankelijk van word. Dus ik merk echt wel dat ook nu ik bijvoorbeeld laatst een berichtje voor een Halloweenfeestje naar mijn vrienden wilde sturen. Dat ik ook dacht, ik ga even deze tekst oppoetsen. En dat mijn partner meteen was van, wat ben je nou aan het doen? Zo klink jij helemaal niet. Dus het is ook een stukje persoonlijkheid wat daardoor weggaat. En ik denk dat dat misschien nog wel interessant is. Hoe graag willen we dat alles gewoon maar perfect is? En hoe erg is het als dingen niet perfect zijn, maar wel een stuk persoonlijker? Dat is zowel mails, maar ook mijn presentaties en mijn teksten daarvan. Hou ik vaak toch ook nog wel even door ChatGPT om te kijken van... Welke zin kan er nou net even wat soepeler? Maar daardoor verlies je misschien ook gewoon wel een stukje persoonlijkheid. Wat wel weer zonde kan zijn. Nou ja, ik zou zeggen wat zonde is. Ja. Ja. Nou, dat denk ik ook wel. Ja. Ik wil nog, we hebben ook een rubriek om te kijken van, ja maar stel je zou helemaal vrij mogen denken in vorm, of het technisch of niet haalbaar is, maakt eigenlijk niet uit. Maar wat zou nou je droom zijn met deze technologieën? De droom, een leven vol gemak. De technologie die alles doet waar we van dromen. Geen grenzen meer, niets houdt ons nog tegen. Het leven zoals wij het altijd wilden beleven. Heb je een idee? Ja, het is lastig. Voor mij, ideale plaatje, zitten er natuurlijk gewoon geen oordelen meer in. We hebben een volledig ethische vorm van AI. Tegelijkertijd, ik denk dat we gewoon heel kritisch moeten blijven kijken, waar zetten we dit in? En ik denk eigenlijk dat mijn droom is dat we het op de plekken waar het super nuttig is, ik denk in bepaalde medische toepassingen. Dus je ziet dat het heel goed is in kanker detecteren en dergelijke. Daar moeten we het echt op blijven verbeteren. Ik denk dat als we het daar zo goed kunnen laten leren dat het echt met alle vormen en diversiteit kan omgaan. Dat is mijn ideale beeld. Maar misschien de zaken waar het leuk is of waar we het voor gebruiken om het maar... Zodat wij efficiënter zijn. Denk ik, misschien hoeft dat wel niet. Misschien hoeven we niet naar het meest efficiënte versie van onszelf. En daarmee alleen maar de werkdruk blijven verhogen. Dus eigenlijk is mijn droom om het minder te gebruiken. En het te verbeteren in de plek waar het echt heel veel waarde toevoegt. Heel mooi. En jij voor goed. En toen je begon met je studie had je al interesse in ethiek. Zie je dat er een verandering heeft plaatsgevonden tussen dat moment toen. en waar we nu zijn. Bedoel je in... Hoe wij als maatschappij... Als maatschappij omgaan met dit onderwerp. Zie je überhaupt een verandering? En welke verandering? Ik denk dat ik het zelf anders ben gaan zien. In de zin van toen ik op de Unie zat... dan leef je in de academische bubbel. En ik denk dat je dan heel veel onderzoek doet, ook met het beeld van, oh, maar dan ziet de wereld dit. En dan gaat de wereld er wat mee doen. En ik ben daar misschien wat realistischer in geworden, dat in gewoon het normale werkleven heb je daar niet de tijd voor, niet het geld voor. En komt ethiek denk ik vaak ergens op een backburner te staan. Dan is het leuk als we dat kunnen meenemen, maar hoe kan je nou goed motiveren dat dat belangrijk is? En dat vind ik nog wel heel erg moeilijk. Dat nu in de echte wereld, zeg maar, daar gewoon niet altijd ruimte voor is. En hoe zou die ruimte gecreëerd kunnen worden, denk je? Ik denk dat sowieso dit dialoog blijft heel belangrijk. Maar ik denk dat het voor bedrijven heel belangrijk is om na te gaan ook. Wat wil ik laten zien naar de buitenwereld? Wat ik nou belangrijk vind? Is dat misschien als je in het OV zit dat je duurzaamheid heel belangrijk vindt? Dat lijkt mij een logische. Maar hoe ga je dat dan ook verkondigen? Is dat alleen maar neem het OV? Of is dat ook, kijk al onze systemen zijn ook duurzaam? Want ook daarin zit een stukje, wil je dan AI inzetten of niet? Dus ik denk dat als bedrijven, als je dat kan stimuleren, dat zij ook nagaan wat zijn mijn eigen normen en waarden en wat willen wij naar buiten laten zien. En dat vervolgens proberen toe te passen. Ik denk dat dat een hele mooie stap zou zijn. Zeker. Ik zat al even te denken, hoe zou dat eruit zien? En als afsluiten, wat zijn nou de tips die je meegeeft in jouw presentatie aan het publiek? Ik denk dat een groot deel we eigenlijk al hebben gehad. Dus voor mij is vooral ook dat, wat je ook al noemde, synthetische data goed inzetten. Daar vooral diversiteit echt promoten. Superbelangrijk, super nuttig. Zodat je ook je systemen kan testen daarmee. Je kan ook daarmee juist je systemen stress testen. Want als je nou je synthetische data helemaal skewed maakt, hoe zeg je dat? Dus helemaal één kant op. Wanneer detecteert dat het? Dus ga daar maar eens je systemen mee challengen en kijken, oké, hoe kunnen we ervoor zorgen dat we al veel sneller misschien zien van dit gaat niet goed. Dus synthetische data kan heel krachtig zijn daarvoor. En tegelijkertijd voor gewoon je dagelijkse gebruik, blijf gewoon bij jezelf toetsen. Waarvoor gebruik ik dit nou eigenlijk? Waarom doe ik dit? Wat wil ik hiermee bereiken? En ook wat kan de impact op mijn eigen werk zijn? En om het een beetje gemakkelijk te maken. Nou ja, maak van die libraries. Doe het één keer. Zit er gewoon één keer even. Denk erover na. Wat wil ik nou dat het doet? Dan heb je denk ik best wel lang profijt daarmee. Goeie tips. Dankjewel. Superbedankt dat je bij ons in de studio wilde zijn. En ja, fijn dat we dit eens even konden uitdiepen. Dank je wel. Je leert bedankt. Leuk dat je weer luistert naar deze aflevering. We hebben ook een hele leuke nieuwsbrief met dingen voor achter de schermen. Waar wij ook aanbevelingen geven voor misschien wat leuke literatuur. Dat soort zaken. Dus abonneer je daarop. De link staat in de show notes. Vergeet je niet te abonneren via je favoriete podcast app. Dan mis je geen aflevering. Tot de volgende keer. Tot de volgende keer.