AI-bias herkennen en meten: van Philips ICU tot fairness-metrics
Een ICU-model getraind op overlevenden voorspelt slecht voor stervenden. Bias in trainingsdata heeft levensgevaarlijke gevolgen — en het meten van fairness vraagt altijd contextgebonden keuzes.
Hoe herken je bias in een AI-systeem voordat het schade aanricht? Het Philips ICU-voorbeeld is een van de meest instructieve casestudies uit de Nederlandse AI-praktijk. Ger Janssen beschrijft in S07E59 hoe een voorspelmodel dat moest helpen bij intensivecare-beslissingen gebiased bleek richting overlevenden: de trainingsdata bestond grotendeels uit patiënten die het hadden overleefd.
Voor stervende patiënten voorspelde het model structureel verkeerd. De oplossing was opschalen: een dataset van meer dan 600.000 patiënten verdeeld over honderden ICUs en honderd ziekenhuizen. Daarna werkte het model stukken beter.
De les is niet alleen technisch — het is ook een organisatorische: stel kritische vragen vroeg in de ontwikkeling, voordat een model in productie gaat. Want ethische aspecten zitten diep verstopt, en pas als je ze raakt weet je dat je ze hebt. Lisa Pouels voegt in S07E97 de meetdimensie toe: er zijn tientallen manieren om fairness uit te drukken, en ze zijn niet allemaal verenigbaar.
Meer fairness kan leiden tot iets meer fouten. Die trade-off is geen technisch probleem — het is een waardenoordeel dat mensen moeten maken, niet het model.
Veelgestelde vragen over AI-bias herkennen en meten
Hoe herken je bias in een AI-systeem voordat het schade aanricht?
Stel vroeg in de ontwikkeling kritische vragen over je data. Ger Janssen beschrijft in S07E59 het Philips ICU-voorbeeld: een model getraind op vooral overlevenden voorspelde structureel verkeerd voor stervende patiënten. Zijn les: vraag je vroeg af of de dataset representatief is voor de doelgroep. Bias zit meestal in de trainingsdata, niet in het algoritme zelf.
Kun je fairness en accuracy tegelijk maximaliseren?
Meestal niet — het is een trade-off. Lisa Pouels legt in S07E97 uit dat een model met hogere fairness soms iets meer fouten maakt, en dat je die balans bewust moet kiezen. Bovendien is fairness contextafhankelijk: wat eerlijk is, verschilt per domein en toepassing, dus er bestaat geen universele fairness-metric.
Zit bias in het algoritme of in de data?
Vooral in de data. Rijk Mercuur formuleert het in S05E25 scherp: het algoritme discrimineert niet, maar de data die erin gaat kan bias bevatten — en mensen moeten daar een ethische afweging over maken. Daniël Meel voegt in S08E37 toe dat ieder mens biases heeft, dus dat we daar bij het bouwen van AI extra alert op moeten zijn.
Citaten uit onze afleveringen
“Ga vroeg in de ontwikkeling van een algoritme al kritische vragen stellen: is de dataset waar ik mijn algoritme op train representatief voor de target population? En dat blijven challengen. Want ethische aspecten zitten zo diep verstopt in ons, pas als je ze raakt weet je dat je ze hebt.
Ger Janssen, VP Responsible Innovation bij Philips — S07E59
“Het is soms wel een trade-off met accuracy. Dus het kan dat als je een hogere fairness wilt dat het model iets meer foutjes maakt. Soms is dat een balans en je moet daarin keuzes maken.
Lisa Pouels, Data Science trainee bij Info Support — S07E97
“In ieder mens zitten biases. Zo zeggen we dat. Dus ieder mens heeft dat. Dus dat betekent dat we daar ook ontzettend alert op moeten zijn. Alert op zijn of we daar genoeg bewust van zijn. Want het is niet zo, je kunt niet naar een niet biased situatie gaan. Maar je moet je er bewust van zijn. En alles in het werk stellen dat het geen onderdeel is van je beoordeling uiteindelijk.
Daniël Meel, Financial Crime Manager bij ABN AMRO — S08E37
Bewijsafleveringen
AI-bias in de zorg: lessen van Philips met Ger Janssen
Ger Janssen beschrijft hoe een ICU-voorspelmodel bij Philips gebiased bleek richting overlevenden en hoe hertraining op 600.000 patiënten over honderden ICUs de voorspelling herstelde.
Fairness meetbaar maken met Lisa Pouels
Lisa Pouels legt uit waarom het verhogen van fairness soms ten koste gaat van accuracy, en dat die trade-off een bewuste menselijke keuze vraagt — geen algoritmische optimalisatie.
Niet onze AI: waarom regie pakken belangrijker is dan voor of tegen AI zijn
De aflevering leert hoe je als professional kritische vragen stelt bij AI-implementatie en governance inricht, wat essentieel is voor het herkennen en aanpakken van bias in praktijk.
Werkgeluk in de zorg verbeteren met AI-tools
Sensire demonstreert hoe betrouwbare AI in kritieke zorgcontexten wordt gebouwd door processen te automatiseren waar fouten onacceptabel zijn. Dit illustreert practical responsible AI zonder expliciet bias-testing, maar toont wel governance
Non-discriminatie in overheidsalgoritmes: jij hebt invloed op de nieuwe standaard
Overheidsalgoritmes vereisen formele bias-toetsing. De aflevering behandelt praktische stappen voor het herkennen en meten van discriminatie in profilingalgoritmes via technische standaarden.
Van regel naar algoritme: de menselijke kant van AI bij ABN AMRO
ABN AMRO's aanpak toont hoe organisaties AI-bias praktisch aanpakken: via medewerkerstraining, diverse teams en bias-testing in witwasdetectie. Demonstreert responsible AI implementation op schaal.
AI governance bij kritieke infrastructuur: wat komt er bij kijken?
AI governance en risicoclassificatie bij kritieke infrastructuur zijn essentieel voor responsible AI. Het afwegen wanneer AI-systemen niet ingezet mogen worden, vormt een praktisch complement op bias-meting en fairness-frameworks.
AI van pilot naar productie: zo slaag je!
Leer hoe accountability en datafundament—kritieke onderdelen van responsible AI—ervoor zorgen dat AI-projecten succesvol naar productie gaan. Inzicht in waarom bias en kwaliteitskwesties projecten doen mislukken.
Thinking mode uitgelegd: wat het model echt doet
Thinking mode demonstreert een kernprobleem van AI-bias: modellen worden beloond voor eindresultaten, niet voor eerlijke redenering. Een overtuigende tussenstap garandeert niet dat het antwoord correct of onbevooroordeeld is — cruciaal voor
Ai van Columbus: vijf lagen van betekenis
Taalmodellen halluccineren structureel als mechanisme, niet als fout. Inzicht in dit 'waarom' voorkomt blind vertrouwen en dwingt tot verificatieprocessen—essentieel voor bias-meting en responsible AI.
Vibe citations: waarom de waarschuwing niet genoeg is
Automation bias in AI-systemen vermindert kritisch vermogen: wanneer organisaties AI-gegenereerde inhoud vertrouwen zonder structurele controles, leiden dit tot massale data-integriteit problemen zelfs na multiple review-lagen.
Expliciete guardrails voor AI: hoe je genderbias in dagelijks gebruik tegengaat
In de nieuwste aflevering van AIToday Live staat Julia Klinkert, Product Owner bij Info Support, centraal met haar...
Wat is er mis met discriminatie? - Rijk Mercuur
In deze aflevering van AIToday Live verwelkomen we Rijk Mercuur researcher bij Hiro. Samen behandelen we het complexe...
Verder lezen over AI-bias herkennen en meten
Dit thema valt onder
Verantwoorde AI: vooroordelen, eerlijkheid en hoe je ze meetbaar maakt →