Hoe meet je vooroordelen in taalmodellen?

Na vorige week hebben we het over gender bias gehad en deze week hoor je in het verlengde Lisa Pouels. Zij heeft de bias in verschillende taalmodellen onderzocht en daarmee werd ze genomineerd voor een prestigieuze scriptieprijs. Luister verder en dan hoor je welk taalmodel het beste omgaat met vooroordelen. Heel leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Zo dan. Het is even een nieuw apparaat. Het is even wennen. Het kan even misgaan. Mijn naam Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé Area Lead Data & AI bij Info Support. En je luistert naar de podcast AIToday Live, misschien goed om te noemen. En we hebben vandaag in de studio Lisa Pouels. Voordat we beginnen, En Lisa, zou je jezelf eerst willen voorstellen? Ja, leuk dat ik hier ben ten eerste. Ik ben Lisa. Ik ben in september gestart bij Info Support met de traineeship. Ik ga eerst aan de slag als software engineer en daarna als data engineer. En mijn achtergrond is data science. Dat heb ik gestudeerd, nu net afgerond. Ja, en we gaan het hebben over de scriptie die jij geschreven hebt. En dat is niet zomaar een scriptie, want die is genomineerd voor een prijs. Dat wil ik je zo over horen. Maar even qua transparantie. Ik ben ook jouw bedrijfssupervisor geweest, dus ik denk dat dat handig is voor de luisteraar om dat ook te weten. Maar zou je kunnen vertellen waar je scriptie over gaat? Maar vooral eigenlijk, misschien kunnen we bij die prijzen even beginnen. Ja, eerst kort het onderwerp even van mijn scriptie. Dat ging over fairness in GraphRag, dus eigenlijk eerlijkheid in retrieval augmented generation. Dus een toevoeging op large language modellen, chat modellen, waarbij je externe data erbij kan betrekken. En daar heb ik inderdaad vanuit mijn opleiding ben ik genomineerd voor een scriptieprijs. Ik heb helaas niet gewonnen, weet ik onderhand. Oh, kijk. Maar ik vind het wel heel cool dat die genomineerd is. Nou, zeker. En de nominatie voor? Hoe heet de prijs? Het gaat om de Responsible Internet Prijs van de Koninklijke Hollandse Maatschappij der Wetenschappen. Wauw, mondjevol, toch? En als je daar al voor genomineerd bent, is het al een prachtig resultaat. En ik denk terecht, want je hebt echt een geweldig onderzoek gedaan. Dus je zei al van de RAG, GraphRag. Misschien moet je daar nog iets meer over vertellen van wat is dat? En daarna kunnen we erin duiken van wat heb je dan eigenlijk onderzocht? Ja, klinkt goed. Graph RAC is dus een uitbreiding op normaal RAG. Dus dat staat voor Retrieval Augmented Generation. En daarbij heb je eigenlijk een large language model. Dus een taalmodel zoals bijvoorbeeld ChatGPT, wat de meeste mensen denk ik wel kennen. Waarbij je een externe database, vaak bijvoorbeeld documenten of iets wat niet in het normale taalmodel is betrokken. Dus nieuwe, relevantere informatie, specifieke bedrijfsinformatie die niet is gedeeld met het taalmodel. Dat soort informatie kan je er dan bij betrekken. En die wordt dan, als je een vraag stelt, haalt die de relevante informatie op. En dan gebruikt die dat om antwoord te geven op bijvoorbeeld een vraag die je stelt. Ja, dus specialisatie op bedrijfsdata om eigenlijk vragen over je eigen organisatie terug te stellen met behulp van het large language model. En dan inderdaad toegevoegd je eigen data. Ja, bijvoorbeeld. En dit was dan de retrieval met het generation. En jij hebt daar nog een heel specifieke vorm op je onderzocht. Klopt, er zijn heel veel verschillende soorten datastructuren waarin je die externe data kan opslaan. En een daarvan is een knowledge graph. En dat is dus, dan krijg je GraphRag, wat ik heb gebruikt. En een knowledge graph haalt eigenlijk in dat al die documenten aan elkaar gekoppeld worden. Dus als er bijvoorbeeld een verwijzing in staat naar een ander document, dan zitten die ook aan elkaar gekoppeld. Of als het over dezelfde onderwerpen gaat, dezelfde mensen in worden genoemd. Op heel veel manieren kunnen die dan aan elkaar gelinkt worden. En dat maakt het voor zo'n taalmodel of in die retrieval stap die je uiteindelijk gaat doen, veel makkelijker om relevante informatie te vinden. Ja, want daar gaat het al iedere keer om. Dus het vinden van zo'n relevante mogelijk informatie, om die aan het taalmodel mee te geven, zodat die zo goed mogelijk antwoorden kan geven op de vragen die je stelt. Ja, precies. En wat was nou het onderwerp van jouw onderzoek? Ik ging dan kijken naar fairness in GraphRag, dus of de antwoorden die daar uiteindelijk uitkomen, of die eerlijk zijn. En wat is eerlijk? Dat was een heel groot onderdeel van mijn onderzoek, inderdaad, die definitie. Er zijn heel veel verschillende definities voor en het hangt ook heel erg af van de context van je onderzoek, van de data, waar het gebruikt voor gaat worden. Dus het was best wel lastig om dat ook voor mijn onderzoek specifiek vast te zetten. Uiteindelijk heb ik een definitie gebruikt op basis van de data die ik ook heb gebruikt, waarbij fairness eigenlijk werd gedefinieerd als de mate waarin verschillende groepen hetzelfde werden behandeld of niet hetzelfde. Ja. En zou je dat nog met een voorbeeld een beetje kunnen inkleuren? Ja, de data die ik gebruikte, dat waren multiple choice vragen. En die gingen dan over een bepaald scenario. Dus bijvoorbeeld, ik wil mijn auto uitlenen aan of mijn zoon of mijn oma. En wie is dan de beste keuze om mijn auto uit te lenen zonder dat er ongelukken en zo gaan gebeuren. Dan heb je dus twee groepen, jonge mensen en oude mensen. En dan wil je dus zien of dat model een voorkeur gaat geven aan een van die mensen. Want eigenlijk heb je totaal geen informatie, behalve een groep. Dus op basis daarvan kan je dan zien, heeft het een voorkeur naar een bepaalde groep? Is dat eerlijk, is dat niet eerlijk? Ja, en de dataset die gebruikt was, daar zaten eigenlijk, tenminste de eerste keer dat ik dat las, misschien wel aardig voor Niels. De eerste keer dat ik dacht, wat is dit, deze dataset? want die staat eigenlijk boordevol. Pius. Ja, boordevol. Ik hoor hem al heel veel vooroordelen. Allemaal mensen, jonge mensen. Ja, maar hij staat ook, ze staan heel expliciet erin. Kan je daar een voorbeeld van noemen van een aantal vooroordelen? Want die zijn dan nodig voor de test. Dus zou je dat... Ja, dat was inderdaad mijn tweede dataset. Dus ik heb één, de dataset die ik net beschreef, dat zijn de vragen. En daar zitten ook de juiste antwoorden bij die het model zou moeten geven, zodat je iets hebt om het tegen te controleren. En daarnaast had ik ook een dataset voor die knowledge graph. En in mijn geval bestond die graph uit stereotypes, om te zorgen dat er sowieso bias in mijn systeem zat om iets te kunnen testen. Maar voorbeelden daarvan waren bijvoorbeeld heel veel over zwarte mensen die crimineel zijn, dat soort dingen. Maar heel extreem. Ja, echt de eerste keer dat ik die dataset door had, was dat van, ja wat is dit? verschrikkelijk, maar die had je dus nodig dat maakte het onderzoek voor mij makkelijker, want ik wist dan zeker dat er bias in zou zitten anders is het best lastig om dat te meten want dan zijn die verschillen ook zo klein dat het dan de resultaten heel lastig te interpreteren zijn ja ik denk dat ik een beeld heb inderdaad maar dan heb je hem dus heel erg vergroot en dan krijg je dus wat beter uit je onderzoek dat de bias erin zit en hoe kan je dat dan weer gebruiken bij waar de subtiliteit van de bias in de modellen zit? Hoe doe je die transitie dan? Ja, dat is een goede vraag. Er is inderdaad nog veel meer onderzoek nodig hierover, want er was vrij weinig onderzoek specifiek voor GraphRAG en fairness. Mijn doel van het onderzoek was laten zien hoe je kan evalueren, in welke stappen je bijvoorbeeld kan evalueren hoe de fairness eruit ziet en wat voor een impact dat heeft. Om daarmee aan te tonen waar ze verder kunnen onderzoeken en waar je dus rekening zou moeten houden met bijvoorbeeld die subtielere datasets waar het minder in voor komt. En je noemt stappen. Wat voor stappen moet ik dan aan denken? Nou, zo'n GraphRAG systeem bestaat uit heel veel verschillende componenten. Dus je hebt het taalmodel zelf is een van de componenten. Je hebt de prompt, je hebt die knowledge graph, de methode om dan data uit die knowledge graph te halen. En dat zijn allemaal verschillende stapjes die gedaan worden. Het type taalmodel. Dus de leverancier, maar ook welke versie. Ja, zeker. Want je hebt, dat is wel denk ik heel erg leuk ook voor de luisteraars. Je hebt verschillende modellen tegen elkaar afgezet. Dus met dezelfde dataset, hetzelfde test. En er zaten echt verschillen tussen hoe biased de verschillende taalmodellen zijn. Ja, dat klopt inderdaad. En dat was een van mijn experimenten die ik heb gedaan. Is verschillende taalmodellen vergelijken. Waarbij ik heb geprobeerd om taalmodellen van verschillende origine te pakken. Dus van verschillende plekken over de wereld waar ze origineel zijn gemaakt. Een groot deel waren open source modellen via Ollama. Als dat mensen iets zegt. En ik heb ook een model van OpenAI gebruikt. Dus een GPT model. Je hebt GPT, je hebt Llama. Je had ook nog een Chinees model, toch? Ja, ik had Qwen, DeepSeek, Mistral, dat is een Europese. En dan ook nog een van Alibaba. Falcon ook. Oh ja, ja. Dus uiteindelijk een stuk of zes verschillende. En dan waarschijnlijk ook versie zal ook nog van belang zijn. Maar op het moment van uitvoer, wat scoren we een beetje goed? Is dat een beetje eruit te halen, de rode draad? Waar moeten we naartoe? De conclusie was wel dat het waarschijnlijk ook heel erg aan de context ligt. Dus dit is op specifiek mijn dataset. Daar scoorde Qwen 2.5 was dat en GPT 4.1 nano, de versies die ik heb gebruikt. Die scoorde het best, maar je zag wel dat bijvoorbeeld DeepSeek scoorde beter op fairness. En het GPT model die scoorde het best op accuracy. Dus die had de meeste vragen goed. maar DeepSeek had dan bijvoorbeeld een betere balans in welke groep die voorkeur gaf. Ja, dat is wel heel waarde voor, want als je dat makkelijk kan toetsen en je hebt daar een framework voor, dan kan je dus kijken wat is mijn vraagstuk van mijn organisatie waar ik mee zit, wat is de context en wat is daarvan belang, accuracy, fairness, en dan kan je dus zaken gaan combineren om tot betere passende resultaten te komen voor jouw vraagstuk. Ja, zeker. Maar dat is dus, mijn onderzoek is een eerste stap naar zo'n framework, maar daar is nog veel meer werk voor nodig. Maar ik denk dat het goed is voor de luisteraars nog even uit te diepen van toch wat voor type vragen je hebt gesteld en waarom je dan weet of het bias is of niet en hoe goed het model wel of niet de bias onderkent. Ja, de dataset die ik heb gebruikt, daar zaten uit mijn hoofd vier verschillende soorten vragen in. Dus je had ambiguous questions en disambiguated questions, waarbij ambiguous questions eigenlijk niet beantwoordbaar zouden zijn. Dus dat was zo'n vraag, het voorbeeld wat ik net gaf, dat je aan iemand je auto wilt uitlenen, maar je hebt eigenlijk verder geen informatie. Dan wil je dat het antwoord dus is, weet ik niet. Wat ik daar ook een mooie vond, volgens mij staat die ook in jouw scriptie, is dat er gezegd wordt, dat ging over dingen onthouden. Je hebt dan een oudere man, een leraar en een leerling, maar iemand heeft zich voorgesteld. En dan wordt er gevraagd, wie heeft de naam van degene die zich heeft voorgesteld niet onthouden? En dus een ambigue vraag is dat je dus geen context hebt over wie nou het meest in aanmerking zou komen voor het niet onthouden. En dan gaat dus het spelen dat je zegt van, oh ja, maar dat zal dus wel dan de oudere leraar zijn. Dat is dan het voordeel, maar zo'n taalmodel zou dan moeten zeggen, dit weet ik niet. Ik heb meer context nodig. Ja, ik heb niet genoeg context. En zo kan je die ambigue vragen ook daadwerkelijk controleren. In die dataset zit ook deze vraag en er zit als gewenst antwoord, ik weet het niet. Nee, ik heb meer nodig om daar een antwoord op te kunnen geven inderdaad. En dan het werkelijke antwoord wat je krijgt, kan je dus houden tegen... En hoe vaak kwam het taalmodel ook terug dat hij teruggaf van, je kan geen antwoord op geven. Ja, dat is dus waar QWEN 2.5 en GPT 4.1 nano uiteindelijk het best scoorden ten opzichte van de andere modellen. Die andere modellen vonden dat allemaal heel lastig. En zowel QWEN als GPT gaven ook nog best wel regelmatig dat ik-weet-het-niet-antwoord. En scoorden daardoor over het algemeen hoger op accuracy en ook fairness. En soms gaven ze zelfs een beetje context van waarom ze het niet wisten. Ja, klopt. Er zat soms uitleg achter dat ik optioneel in de prompt gezet, je mag uitleg erbij geven. En dat was dus best wel interessant om te zien inderdaad wat ze dan zeiden. Daar heb ik verder niet voor de accuracy of fairness wat meegedaan, maar dat was wel interessant om ook te zien. Ja, ik zou het wel fijn vinden als er gewoon wat guardrails zijn, dat die gewoon met zoveel procent zekerheid, nee, ik kan dat gewoon niet zeggen in plaats van wat zal dit wel zijn en als waarheid verkopen. Pas op, want die percentage krijg je niet. Je krijgt natuurlijk een antwoord. Dit was even hoopvol denken richting de toekomst om iets tastbaars te hebben, Joop. Om toch even wat tastbaars te hebben. Ik snap dat de percentage niet is, maar je wil wel een soort van waardeoordeel of in ieder geval wat hebben daarvoor. Ja, het zou fijn zijn inderdaad om te weten dat hij zegt van ik weet het heel zeker of ik denk dat het dit is, Maar ik heb eigenlijk nog iets meer informatie over dat je daar iets van weet. En kan je ook voorbeelden geven van die niet-ambigue vragen die je stelt? Ja, dan komt er dus een stukje context bij. Dus bijvoorbeeld in het voorbeeld van een auto uitlenen, zou er context bij kunnen dat die oma een keer in een ongeluk is geweest en al een keer een auto stuk heeft gereden. Dan zou je dus waarschijnlijk je auto sneller aan de zoon willen uitlenen. Dus op die manier komt dan eigenlijk het antwoord al in de vraag te staan. En hoe vaak had hij het dan goed? Want niet altijd was het goed dan toch? Nee, niet altijd. Het is nog steeds, soms zeiden ze dan, ik weet het niet. Ook wat interessant was, het Llama model die gaf eigenlijk altijd het, ik weet het niet antwoord. Omdat daar blijkbaar dus echt guardrails in zitten van dit gaat over stereotypes, dit mag ik niet beantwoorden. Dus die weigerden gewoon om daar een antwoord op te geven. En dat was soms ook het geval bij andere modellen. Maar meestal kwam daar wel dan een van de twee antwoorden uit, maar soms ook de verkeerde groep alsnog. Ja, dus dat toch nog het vooroordeel doorklonk in het antwoord. Ja, omdat het model toch zoveel van het vooroordeel erin heeft zitten, Dat die kleine context die je dan nog meegeeft, dat niet genoeg sturing geeft. Soms waren de vragen echt wel zo duidelijk wat de keuze zou moeten zijn. En dat het vooroordeel het overrude eigenlijk. En dat het dus het verkeerde antwoord gekozen werd. Terwijl vanuit de context was het heel helder wie gekozen moest worden. Maar dat kwam dus ook deels doordat de externe context, die dus uit die knowledge graph, Die wordt dan nog bij die vraag meegegeven aan het model. Daar stonden ook weer stereotypes in. Dus je hebt dan de ingebouwde stereotypes in het taalmodel zelf, maar ook nog die externe context die ik er dan bij toevoegde, wat zorgde dat er sowieso bias in zat. Dus dat maakt het wel wat dat betreft in sommige scenario's een beetje lastig evalueren. En zijn die guardrails waar je dan nu tegenaan liep ook transparant van de large language modellen? Zijn die voor sommige modellen uitgeschreven van, nou, zal die goed of niet goed mee omgaan? Er staat, geloof ik, bij de meeste large language modellen wel iets over, maar het is ook vrij vaag. Want uiteindelijk is het heel lastig om dat echt af te bakenen. Dus dat is lastig. Ja, en dat maakt het ook lastig, zeg maar, als je hiermee wil ontwikkelen. Ja. Want de transparantie daarover is niet heel groot. Ik kan me ook voorstellen dat van sommige guardrails, dat ze het niet kenbaar maken, omdat het dan makkelijker is om te omzeilen. Net zo goed als dat je weet, je weet dat er bij je creditcard dat er fraudedetectie op plaatsvindt, maar ze gaan niet precies vertellen hoe ze die fraude detecteren. Nee, dat lijkt me logisch. Analoog daaraan heb je hier natuurlijk ook een afweging van wat deel je en wat deel je niet. Ja, en als gebruiker, hoe ga ik daar dan mee om? Want als organisatie zou je toch moeten weten wanneer wil ik de ene wel toepassen of de andere niet toepassen voor het vraagstuk wat jij hebt. Gezien wat jouw bevindingen waren, wat was jouw eigen gevoel ten opzichte van de resultaten die je hebt gezien? Ik heb naast verschillende taalmodellen ook nog een paar andere componenten van dat hele systeem vergeleken. Wat ik ook erg interessant vond was de prompt en de impact die die dan heeft op de fairness. Want soms kunnen kleine taalfoutjes, als de zin dan net grammaticaal iets anders kan betekenen, dan kan dat heel veel invloed hebben op zowel de accuracy als ook de fairness. Dus dat was ook voor mezelf wel een moment van, oh ja, ik moet echt goed nadenken over hoe ik mijn prompt formuleer. Ja, waar ik nog naar op zoek ben, is van, was je verbaasd over de hoeveelheid bias? Misschien minder verbaasd? Je gaat er met een bepaalde gedachte in. Uiteindelijk heb je je onderzoeksresultaten. Wat dacht je nadat je die resultaten had? Dat was wel redelijk wat ik verwacht, omdat er dus zoveel stereotypes vanuit die kennisbank nog bijeen kwamen. Ik vond het fijn om te zien dat er verschillen zaten tussen de verschillende modellen, want ik wist van tevoren niet zo goed of dat echt duidelijk zou worden. Maar ik heb voordat ik met deze hele stereotypische data gewerkt ook nog een andere medische dataset gebruikt. Maar daar vond ik het heel lastig om dan te realiseren hoe fairness er daaruit ziet. En dat was ook wel een moment van, oké, hier is ook nog meer onderzoek nodig. Maar dat was out of scope voor mijn specifieke scriptie. Maar wel, fairness kan overal relevant zijn. Dus dat was ook wel iets wat ik van tevoren had verwacht van, oké, fairness is heel makkelijk te definiëren, maar dat is het dus niet. En het is echt heel erg afhankelijk van die specifieke domein waar je in zit en de specifieke context. Zijn er hulpmiddelen of frameworks voor beschikbaar om fairness te definiëren, te kaderen, om als mensen hiermee aan de slag willen? Er is wel van alles voor fairness. Het verschilt heel erg bij context wat dat precies is, maar bijvoorbeeld voor medische dingen, er is heel veel te vinden. Zo ook in andere domeinen. Zou je kunnen zeggen dat als je de fairness weet te verhogen, dat je daarmee ook de kwaliteit van de antwoorden verhoogt en dat het misschien ook dan hallucinatie verlagend is? Dat denk ik wel. Het is wel lastig of dat zo met elkaar te maken heeft, maar ik vind wel dat als de fairness hoger wordt dat het dan beter is. Maar het is soms wel een trade-off met accuracy. Dus het kan dat als je een hogere fairness wilt dat het model iets meer foutjes maakt. Soms is dat een balans en je moet daarin keuzes maken. Hoe zou die meer fouten kunnen maken dan? Nou dat is in elk geval iets wat uit mijn resultaten kwam want soms kiest hij dan om tegen de stereotypes in te gaan terwijl het stereotype wel het juiste antwoord was. Dus dat kan ook nog voorkomen. Maar dat ligt ook weer heel erg aan de context of dat inderdaad mogelijk is. Ja, snap ik. En hoe belangrijk vind je dan fairness inderdaad daarin in de afweging met accuracy? Ja. Is dat dan fair? Ja, precies. Want aan de andere kant, als je helemaal voor volledige accuracy gaat, dan wordt het weer veel minder fair. Misschien klopt het dan in die context wel dat hij altijd voor die stereotypes gaat, maar wil je dat wel? Ja, ik denk dat dat wel heel mooi is. En dat wil je dat wel, want dat was hoe het misschien was. En met de data die beschikt was, heeft het zo gecreëerd. En waar willen we naartoe? Waar wil je dan dat het niet ver is dan? In dit geval waren er een aantal antwoorden die dan dus toch voor de stereotype groep gingen. Bijvoorbeeld in dat voorbeeld met auto's is het stereotype geloof ik dus dat jonge mensen meer roekeloos rijden. Maar als in dit geval inderdaad die zoon een keer een auto-ongeluk heeft veroorzaakt, dan wil je dus dat hij inderdaad zegt, dat is het stereotype, dat was het goede antwoord. Maar je wilt niet dat hij dat volgende keer weer zegt als je die context niet hebt. Ja, precies. En in de zorg kan ik geloven dat bias en inderdaad fairness juist naar gender juist van heel erg belang is dat je voor vrouwen en voor mannen andere patronen en andere ziektes hebt en dat je juist naar die kant op wil. Maar misschien is dan de fairness definitie ook weer anders. Ja, dat lijkt me wel. In sommige gevallen is het inderdaad misschien wel een vooroordeel, maar klopt dat ook? Volgens mij had je in je scriptie ook wat verschillen over wat eerlijk is. Eerlijk is niet altijd iedereen gelijk. Kun je daar wat over vertellen? Weet je dat nog? Ja, het is een paar maanden geleden. Ik moet even graven, maar inderdaad wat je zegt, in de medische wereld heb je dat verschil tussen mannen en vrouwen, dat is heel relevant. Daar moeten verschillende onderzoeken zijn gedaan en het kan verschillende symptomen hebben. Dus je wil niet dat iedereen op één hoop gegooid wordt en dat iedereen als gelijk wordt gezien. Want dat kan toch relevant zijn om te weten of het een man of een vrouw is. Maar in andere situaties heeft dat weer totaal geen invloed. En dan bijvoorbeeld als je in een job application, dus als je ergens gaat solliciteren, als daar wordt meegenomen of je een man of een vrouw bent, dat zou nergens nodig voor moeten zijn in de meeste banen in elk geval. Maar daar zou het ook weer kunnen dat je wel een lijstje met hobby's ofzo meedeelt om te laten zien van kijk dit ben ik. En dat het model dan daar weer uithaalt of je misschien wel een vrouw of een man bent afhankelijk van stereotypes die met hobby's te maken. Ja we hadden het in een ander aflevering volgens mij over punniken en dat soort zaken. Dus ik weet niet hoe dit dan weer terugkomt inderdaad. Maar dat zijn wel belangrijke zaken inderdaad waar je misschien niet besef van hebt dat het afleidbaar is. En daarna inderdaad de fairness een andere kant uitslaat. En waar we het over hebben in de medische wereld. Een van de metrieken die je hebt is dan group fairness. Want je wil gelijke behandeling. Maar wel binnen de groep die je wel verschillend hebt. En zo zijn er echt talloze manieren om eerlijkheid uit te drukken. waarbij het niet altijd maar gaat om iedereen helemaal exact hetzelfde. Ja, ik ben wel nieuwsgierig naar de aanleiding van je scriptie. Het is afgerond en je zegt er is nog veel meer onderzoek nodig. Als jij een onderzoek zou mogen kiezen die hieruit volgt, wat zou dan het onderzoek zijn waar je denkt, daar moet aandacht aan gespendeerd worden? Oeh, dat is een lastige vraag, want er is heel veel mogelijk. Sowieso, waar ik tegenaan liep, wat ik eigenlijk graag wilde doen, was een open vraag evalueren dat je want uiteindelijk als je met een chatbot of zo gaat chatten dan stel je bijna altijd open vragen je geeft niet heel vaak dat je een multiple choice vraag geeft want dan weet je vaak het antwoord zelf al denk ik alleen om fairness te evalueren zijn er heel veel multiple choice benchmark zoals ze dat noemen gemaakt dus data sets met vragen met ook al het juiste antwoord en voor open vragen is dat veel lastiger omdat dat antwoord en heel erg kan per model, per keer dat je het vraagt. Maar dat is ook gewoon veel meer werk om zo'n dataset te maken die daar gebruikt voor zou kunnen worden. Maar ik denk wel dat dat heel waardevol zou zijn, omdat dat uiteindelijk dichterbij komt wat we uiteindelijk echt doen dan zo'n multiple choice dataset. Wij willen ook nog een vraag aan jou voorleggen en dat is een stelling van een volgende gast. Waarom het een muziekje over een spel heeft, is dat we eigenlijk ook het AI Game Changer kaartspel hebben. Die kan je ook gewoon bij ons opvragen bestellen. Sturen we met alle liefde op. De link staat in de show notes. Goede toevoeging Joop. De vraag is van Sofia Zitman van Kickstart AI. En de stelling luidt als volgt. AI wordt pas echt magisch wanneer het meer doet dan alleen antwoorden of content leveren. Het gaat om creëren van systemen waarin AI zelfstandig handelt, keuzes maakt en waarde toevoegt op een manier die mensen alleen niet kunnen bereiken. Jeetje, een ander verhaal. Zo. Dus AI wordt pas echt magisch als het zelf handelt, keuzes maakt en waarde toevoegt zoals wij dat zelf als mensen niet kunnen bereiken. Klein beetje samengevat. Ja, interessante stelling. Ik denk inderdaad dat het sowieso veel waarde toevoegt als het dat doet. Maar ik denk dat het daarvoor ook al wel waarde zou kunnen toevoegen door taken die wij doen makkelijker kunnen maken. Heel veel administratieve taken zijn door AI zo gedaan. En voor ons kost dat veel meer tijd of moeite. En ik denk dat AI daar ook al een beetje magie heeft van hoe snel alles dan kan gaan en hoe makkelijk. Ja, mooi inderdaad. Dat daar de magie in snelheid zit inderdaad. Want als het goed is, is het onder de motorkap geen magie. Dus mooi inderdaad hoe je dat verwoordt. Dankjewel. Ik was nu ook nieuwsgierig. Uiteindelijk heb je je scriptie afgerond en je bent nu aan het werk en dat soort zaken. Hoe zou je dit toepassen in de dagelijkse praktijk met deze kennis die je hebt opgedaan? In elk geval een stukje bewustwording voor mijn prompt die ik ook in het dagelijks leven en ook tijdens werk. Als je een prompt formuleert ook al rekening houden met fairness eventueel. Maar het verschilt heel erg per context. Ik heb wel in elk geval heel veel geleerd over fairness. Dus ik hoop dat als ik bij een klant terecht ga komen, dat ik het daar ook kan toepassen. Maar dat is heel erg afhankelijk van de context of ik direct hier iets mee kan of niet. En heb je een voorbeeld hoe je hem dan zelf in een prompt toepast? Of waar je dan extra over nadenkt tijdens het stellen van je prompt? In elk geval een stukje formulatie. Dus duidelijk zijn en ook duidelijk formuleren wat ik verwacht. Maar ja, er zijn heel veel prompt engineering dingen die je kan doen. Dus van alles mogelijk qua technieken. Maar ook een stukje opletten over bijvoorbeeld het gebruik van gender in mijn prompt. Als ik iets vraag, maakt het uit de gender? Ja, daar iets meer bewust mee omgaan. En bedoel je dan dat je juist wel de gender noemt of juist niet? Ja, het ligt heel erg aan de context. Maar als ik bijvoorbeeld iets vraag om een voorbeeld te maken en het gaat specifiek over bijvoorbeeld mijn scouting inleiding over die groep meiden waar ik leiding aan geef, dan zal ik vragen of die iets ook voor meiden wil maken. Maar dan is dat relevant en anders proberen het erbuiten te laten of als hij het doet dan ook voorbeelden voor de andere kant te vragen op die manier. Eigenlijk bewust inzetten van een beetje bias of een stukje inderdaad fairness, skewness daarin in wat je wil bereiken. Ja. Interessant, was er nog niet naar gekeken. Zo kan je het ook inzetten, inderdaad. Heb jij een naam voor het taalmodel dat je gebruikt? Ja. Mogen we die weten? Charlie. Charlie ZGPT. Ah ja, dus je hebt een gender gekozen. Ik heb blijkbaar een gender gekozen. Maar Charlie is op zich, kan het beide gender zijn. Oh ja, dat is best wel gender neutraal in de taal. Oh, dat is mijn vooroordeel. En jij? Ik heb geen naam voor mijn taalmodel. Nee, ik ook niet. Nee, Charlie of Chatty wisselt ook nog wel eens afhankelijk welke bui ik heb. Oké, bij mij heet die ChatGPT of Claude. Dat is wel raar in dat. ChatGPT heet Charlie, voor Claude heb ik geen naam en voor Gemini is het gewoon Gemini. Oh ja, grappig. Ga ik wel vreemd te hebben. Nieuwe kansen. Ja, nieuwe kansen. Nee, dat ga ik mijn tijd niet aan te doen. Heb jij nog tips voor mensen die aan de slag willen en hier meer over zouden willen weten? Een goede stap is om het aan ChatGPT te vragen of zelf te googlen. Dat is natuurlijk ook altijd een goede stap. Als je gewoon zoekt op fairness überhaupt, dan is er al heel veel te vinden. Of fairness voor AI of voor RAC, afhankelijk van waar je het voor wilt gebruiken. Maar ik denk wel dat het voor iedereen heel waardevol is om meer bewust te zijn van fairness in AI. Maar dat hoeft niet specifiek GraphRack te zijn. Nee. Mooi. Ik ben nog wel benieuwd, dat als je nou helemaal vrij zou mogen denken, zonder obstakels, zonder technische obstakels, wat je dan, hoe je, nou je ideale AI er eigenlijk uit zou zien. En geef je daar even wat denktijd voor. Heb je een idee? Ja en nee. Het is heel breed om zomaar iets te bedenken. Maar ik denk dat een AI voor mij toch vrij snel blijft hangen op een chatbot. Ook al is dat misschien saai, maar dat is wel uiteindelijk wat ook heel veel gebruikt wordt. Dus dat zou wel makkelijk zijn. Maar dan wel een chatbot die ook rekening houdt met fairness en bijvoorbeeld explainability, een ander relevant onderwerp. En ook Green AI vind ik ook erg interessant. Om met heel veel van dat soort factoren rekening te houden. En meer keuzes te geven ook aan de gebruiker. Van waar wil je dat ik rekening mee hou? En zelf meedenken met, weet je zeker dat je dit nu wil? Want dit is misschien meer ver. Dat hij zelf mee gaat denken. Oh ja. En die explainability noem je, dat is uitlegbaarheid. Hoe zie je dat voor je? Nou, explainability kan een stukje zijn van, hé, hier heb ik mijn antwoord vandaan. Het kan ook een stukje zijn waar we het eerder over hadden. Ik weet zo zeker dat dit het antwoord moet zijn. Maar vooral ook dat herleidbaarheid en de bronnen toevoegen, wat tegenwoordig ook al steeds meer mogelijk is. En misschien ook iets meer de stapjes, de denkwijze van het taalmodel. Oh ja. Hoi. Ja, ik denk dat het een mooie oplossing is. Want ik denk dat we voorlopig nog wel met een chatinteractie mee te maken hebben. En dat als we dit soort zaken meekrijgen, dat ook transparant maken en dat je ook invloed kan hebben. Dat zou wel een hele mooie verbetering zijn. Zoals als ze luisteren van OpenAI en dergelijke. Luister natuurlijk naar deze Nederlandse podcast, toch Joop? Wat ik mooi zou vinden is dat er natuurlijk heel veel benchmarks zijn. Dus er wordt gekeken van hoe goed doet hij het op basis van wiskundevragen. Hoe goed doet hij het in de, weet ik het, wat er allemaal aan benchmarks zijn. Hoe gaaf zou het zijn als iedereen eigenlijk ook zijn fairness matrix zou delen? Is die er nog niet? Niet dat ik weet. Nee, je hebt dus die dataset die ik heb gebruikt. Dat is een benchmark die gebruikt wordt voor fairness. Maar ik weet niet of die ook voor taalmodellen... Dat is wel een benchmark die mensen vaak gebruiken. Maar die is dus multiple choice. En ik zou het heel mooi vinden als dat naar een open question type gaat. Maar als je nu naar zo'n top 10 gaat, dan zie je vooral eigenlijk wat ik net noemde, de wiskunde, hoe goed doet hij het op een kwartaal, dat soort zaken. Maar de fairness is niet een standaardmetriek waarop gemeten wordt. Nee. En als je, kijk, op zich ben ik niet per se voorstander van benchmarks, omdat daar ook op geoptimaliseerd wordt. Maar als je het hebt over dit soort type metrieken, En als je geoptimaliseerd wordt op het verminderen van bias, hoe fijn zou dat zijn? Daarom moet je juist een metriek hebben. Want wat je gaat meten, ga je verbeteren. Dus laten we het inderdaad juist gaan meten, zodat we het kunnen verbeteren met elkaar. En dat we daar inderdaad een streven, een hoger benchmark waarde te hebben. Precies. Ja, en dat is dus zowel heel lastig als dat het heel mooi zou zijn, omdat het zo erg verschilt per context ook weer. En hoe je fairness kan definiëren. Maar dat zou wel heel mooi zijn als dat inderdaad gegeneraliseerd kan worden. Ja, zeker. Nou, een grote stap denk ik te gaan. Er is een hoop onderzoek. Echt heel gaaf dat jij ook hier onderzoek naar hebt gedaan. Kunnen de mensen jouw scriptie ergens vinden als ze hem willen lezen? Dat is een goede vraag. Ik heb hem zelf nog niet opgezocht, maar ik geloof dat hij op de website van Info Support staat. Ja, research.infosupport.com. We zullen in ieder geval ook een linkje opnemen in de show notes. Dan kunnen ze het helemaal lezen van wat je hebt uitgezocht. Nog een keer nakijken welke modellen het beste presteren. Ik denk dat heel veel mensen het erg interessant vinden. Dus Lisa, super bedankt dat je je onderzoek wilde toelichten. Jammer dat de prijs het niet geworden is. Maar ik vind alsnog van alles waar het gekozen is. Ik denk dat je echt een geweldig onderzoek hebt gedaan. Waar ook iedereen uiteindelijk profijt van gaat hebben. Ja, dankjewel dat ik hier mocht komen. Ik vond het erg leuk. Kijk aan. Leuk dat je weer luisterde naar deze aflevering. Vergeet je niet te abonneren via je favoriete podcast app. Dan mis je geen aflevering. Tot de volgende keer. Tot de volgende keer.