Genderbias in AI: hoe taalmodellen systematisch mannen en vrouwen anders behandelen
Een developer is automatisch een man. Een verpleegster is jong en vriendelijk. AI-systemen spiegelen de bias uit hun trainingsdata — en die bias beïnvloedt sollicitaties, aanbevelingen en meer.
Wie een AI vraagt een developer te visualiseren, krijgt een man. Wie vraagt om een nurse, krijgt een jonge vrouwen. Dat zijn geen toevalligheden — het zijn patronen die diep in de trainingsdata van taalmodellen zitten, overgenomen uit tekst die voor het overgrote deel door en over mannen is geschreven.
Julia Klinkert laat in S07E95 zien hoe genderbias in Nederlandse LLM-output concreet tot uiting komt: niet alleen in beelden, maar ook in hoe een cv wordt geschreven als het model denkt met een vrouw te maken te hebben. Assertief of sociaal. Dat verschil beïnvloedt kansen op de arbeidsmarkt.
De aanpak die werkt is niet het model opnieuw trainen — dat is voor de meeste organisaties geen optie. Het is het consistent meegeven van expliciete guardrails in systeemprompten: instructies die het model dwingen buiten stereotypen te redeneren en actief te challengen waar aannames liggen. Lisa Pouels maakt in S07E97 duidelijk dat eerlijkheid niet automatisch gelijkheid is: het gaat om contextgebonden keuzes over wat rechtvaardig is in jouw domein, en die keuzes moeten expliciet gemaakt worden — niet aan het model overgelaten.
Citaten uit onze afleveringen
“Als ik vervolgens vraag aan een ChatGPT, oké, maak een developer, dan zal het een man genereren. Tegelijkertijd als ik vraag, maak een zuster. Maar toch zie je daar wel gelijk in terugkomen dat het een hele vrolijke, vriendelijke vrouw is. Vaak een jonge vrouw. Terwijl een CEO, oude man. Dus dat is zowel gender, maar ook met leeftijd heeft het ook te maken.
Julia Klinkert, Product Owner bij Info Support — S07E95
“Fairness is heel makkelijk te definiëren, maar dat is het dus niet. En het is echt heel erg afhankelijk van die specifieke domein waar je in zit en de specifieke context.
Lisa Pouels, Data Science trainee bij Info Support — S07E97
“Het algoritme discrimineert niet, de data die erin gaat kan discriminatie of in ieder geval bias bevatten en de mensen moeten daar nog steeds een ethische afweging maken aan wat het algoritme eigenlijk als output aan ze aanlevert.
Rijk Mercuur, Verantwoorde AI Lead bij Hero — S05E25
Bewijsafleveringen
Genderbias in taalmodellen met Julia Klinkert
Julia Klinkert laat zien hoe Nederlandse LLM-output systematisch mannen en vrouwen anders framed, en hoe expliciete guardrails in de systeemprompt dit patroon doorbreken.
Fairness meetbaar maken met Lisa Pouels
Lisa Pouels legt uit waarom fairness context-afhankelijk is en altijd een bewuste keuze vraagt — inclusief de trade-off tussen fairness en accuracy die elke organisatie moet maken.
Bias in financiële AI: eerlijkheid in witwasdetectie met Daniël Meel
Daniël Meel (ABN AMRO) legt uit hoe zijn team systematisch diverse teams samenstelt om trainingsdata-bias te voorkomen, en hoe ze 2500 medewerkers trainen op biasbewustzijn.
Dit thema valt onder
Verantwoorde AI: vooroordelen, eerlijkheid en hoe je ze meetbaar maakt →