Ethische Dilemma's in Medische AI: Tussen Kwaliteit en Risico met Ger Janssen

In deze aflevering hoor je Ger Janssen, AI Ethics & Compliance Lead bij Philips, over de complexe uitdagingen van verantwoorde AI-implementatie in de gezondheidszorg. Hij deelt concrete voorbeelden van ethische dilemma's rond datasets, bias en transparantie in medische AI-toepassingen. Dus blijf luisteren! Hoi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Mijn naam is Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, Area Lead, Data & AI bij Info Support. En in de studio hebben wij Ger Janssen van Philips. En zou je je eerst even willen voorstellen aan de luisteraars, Ger? Ja, natuurlijk. Goedemiddag. Bij Philips ben ik AI Ethics and Compliance Lead. En wat ik dan doe, ik probeer alle AI die wij binnen Philips ontwikkelen, in de markt zetten en gebruiken. Ik probeer tot we dat op een verantwoordelijke manier doen. Daar zitten natuurlijk verschillende aspecten aan. En hoe word je AI ethics, hoe zei je dat? AI ethics and compliance lead. Ja, hoe word je AI ethics and compliance lead. Ja, dat is een hele journey. Mijn achtergrond is technische natuurkunde. Heel lang geleden. En toen ben ik bij Philips begonnen in 2001 als een thermische expert. Allerlei koeloplossingen gemaakt voor Philips producten. En mijn veld was computational modeling. Dus dat zit al een beetje in het data gebruiken om voorspellingen te maken. Na een paar jaar ben ik afdelingsleider geworden van verschillende afdelingen op dat gebied. Op een gegeven moment heb ik het concept van Digital Twin binnen Philips gebracht. samen met een collega van me. Digital Twin is eigenlijk al iets... Het is een mengeling van computation modeling, dus kennisgedreven modellen en datagedreven modellen. Dus dat was eigenlijk al een hybride vorm. En een paar jaar later ben ik puur in het AI-veld terechtgekomen om AI-oplossingen richting Philips Businesses te brengen. Maar tegelijkertijd hadden we ook een kleine activiteit op het gebied van bias. Philips werkt in gezondheidszorg. En gezondheidszorg is het concept van bias heel belangrijk. Je wil zorgen tot de oplossingen die je levert, tot die geschikt zijn voor de mensen waar die voor bedoeld is. Dus ook op datagebied moet je ervoor zorgen tot je de juiste data van die populatie hebt om je algoritmes te trainen. En we hadden kleine activiteiten op bias mitigatie. En die activiteit die werd in de loop van de jaren eigenlijk alleen maar groter. En op een gegeven moment, zeg twee jaar geleden, hadden we een team van vijf of zes man werken op bias, maar ook op transparantie, op robuustheid, op privacy aspecten. Allerlei dingen gerelateerd aan wat wij noemen responsable AI. En eigenlijk vorig jaar, 2024, werd het team formeel een responsable AI-team. En als je formeel een team hebt, moet je ook een team lead hebben. En daar hing de mooie benaming AI-ethics en compliance. Ik heb hem zelf niet verzonnen, maar die heb ik zo gekregen. En wat veranderde met het feit dat het formeel werd? Formeel betekent dat je binnen Philips veel meer zichtbaarheid hebt. B. Tot veel meer mensen ook naar je luisteren. En C. Tot je eigenlijk ook iedereen kan lastigvallen. Oh ja. Is dat nodig? Dat is wel nodig, ja. Kijk, zeker als je naar AI kijkt. Nu is AI natuurlijk ontzettende hype met Generative AI. En iedereen wil van alles doen. Dat is in de privésfeer zo, maar dat is ook in de bedrijfssituatie zo. En dat is prima, dat moeten we ook doen. Want we moeten stappen maken en in gezondheidszorg zijn er genoeg stappen te maken om dingen te verbeteren. Alleen als je gaat experimenteren moet je ook weten, wat zijn nou de risico's als ik dingen niet goed doe? Zijn er dingen waar ik misschien niet automatisch aan denk? En om mensen daarop te attenderen is natuurlijk heel belangrijk. En het is niet alleen attenderen, maar ook zorgen tot je eigenlijk, wij noemen dat dan guardrails opstelt om te zeggen, binnen deze ruimte kun je vrijelijk experimenteren, kun je dingen doen. Maar daarbuiten moet je niet komen, want dan introduceer je bepaalde risico's. Heb je een paar voorbeelden van de kaders die je zoal tegenkomt of eigenlijk uitzet? Nou bijvoorbeeld, als wij, kijk wij zijn een healthcare bedrijf, dus onze CEO zegt altijd onze license to operate is patient safety and quality. Dus bij alles wat je doet, of er nou AI is of niet, je eerste gedachte moet eigenlijk zijn van wat gaat deze oplossing doen voor de patiënt. Als ik dan naar AI ga kijken en een AI-oplossing ga bedenken en ontwikkelen, ook dan moet ik in het begin al nadenken van oké, wat voor gevolgen heeft dit voor de patiënt? En moet ik die patiënt misschien informeren tot we AI gebruiken? Hoe zorg ik ervoor tot ik die juiste kwaliteit heb? Hoe zorg ik ervoor tot ik niet alleen naar de bias in mijn dataset kijk, Maar hoe zorg ik ervoor dat ik ook in mijn beslissingen die ik neem, wat voor model gebruik ik? Hoe ga ik dingen deployen tot ik daar ook bepaalde biases op geattenteerd word en indien nodig, die mitigeer? Wat doe ik op het gebied van security? En zeker met generative AI, dat is een extreem hot topic. Wat doe ik met hallucinaties van AI oplossingen? Accepteer ik die? Zeg ik daar iets over? Hou ik die geheim? Wat je natuurlijk niet wil, check ik die? Dat soort zaken, daar moet je allemaal rekening mee houden en daarvoor introduceren wij guardrails en guidelines om de mensen daarbij te helpen. We hadden de opname hiervoor met de vorige gast van vorige week. Hadden wij de stelling, je kreeg hij voor zijn neus of je eigenlijk altijd transparant zou moeten zijn dat AI gebruikt wordt in je besluitvormingsproces. Zo moet ik het noemen, bij je besluitvorming. Vind jij dat dat in de zorg zou moeten? Moet je als patiënt altijd weten dat er AI is gebruikt in de besluiten die een arts over jou neemt? Het logische antwoord zou in eerste instantie zijn ja, maar het realistische antwoord is nee, niet altijd. Want we spreken nu van AI-hype, iedereen is met AI bezig, maar AI is er al heel lang. Als je kijkt naar medische beelden, bijvoorbeeld van CT-scanner of röntgenapparaat of MR-scanner, daar wordt ook AI op gebruikt om bepaalde dingen te herkennen. Zegt een arts op dit moment of vijf jaar geleden tegen de patiënt van ja, we hebben dit medisch beeld met AI geanalyseerd? Nee. En waarom zegt hij dat niet? AI in zo'n geval is een puur hulpmiddel. Ondersteunt de arts in een conclusie te trekken van een medisch beeld. Het is niet zo dat de AI een beslissing neemt en de arts volgt die. Nee, de arts is de eindverantwoordelijke. En de AI is alleen maar een hulpmiddeltje om sneller tot de juiste conclusie te komen. Moet je in zo'n geval ook altijd gaan zeggen, ja we gebruiken AI. Persoonlijk denk ik van niet. Maar bijvoorbeeld als je met een, stel als patiënt bel ik naar een ziekenhuis toe. En ik verwacht de mensen aan de telefoon te krijgen. En ik krijg een chatbot aan de telefoon die je zeer binnenkort al niet meer van echt kunt onderscheiden. Dan is het wel wenselijk om te begrijpen dat je met een AI chatbot gaat. En niet met een mens. En als Philips doen we jaarlijks een heel groot interviewronde met heel veel healthcare professionals en patiënten wereldwijd. Zo'n 2000 of 3000 healthcare professionals en nog meer patiënten. En de laatste interviewronde die liet heel erg zien van vertrouwen is een issue in gezondheidszorg. Als je gebruik maakt van AI. Hoe kunnen healthcare professionals AI vertrouwen, maar hoe kunnen patiënten AI vertrouwen? Transparantie is daar maar één onderdeeltje van. Maar ook betrouwbaarheid is een ander onderdeeltje daarvan. Dat moet je ook kunnen bewijzen als provider van AI oplossingen. Ja, want AI maakt net zo goed fouten als dat wij dat als mensen doen. Maar volgens mij worden daar een andere lat tegen aangelegd dan voor mensen, toch? Ja, dat is een heel interessante discussie. Want wij als mensen maken fouten. Artsen maken ook fouten. En van AI wordt niet geaccepteerd dat het fouten maakt. Je zou bijna kunnen zeggen dat het een ethische discussie is. van stel je hebt een AI ontwikkeld die niet perfect is, maar wel uiteindelijk de besluitvorming met een bepaald percentage verbetert. Mag je hem dan gebruiken? Daar kun je een hele lange discussie overvoeren. Persoonlijk denk ik van ja, als je het beter maakt, Als je besluitvorming beter maakt en minder schade aan patiënten aanricht, patiënten beter kunt helpen, dan kun je je inderdaad afvragen van waarom zou je dat niet accepteren. Heb je daar zicht op hoe daar binnen de sector naar gekeken wordt? Kijk, het punt wat ik net zei is in principe waar tegelijkertijd. Bij AI is het ook zo, als ik een AI-oplossing die niet perfect is in één ziekenhuis breng en het wordt daar gebruikt, en daar verbetert het wel besluitvorming, maar niet 100%. Als ik diezelfde AI dan ga schalen naar honderden ziekenhuizen, andere ziekenhuizen met misschien ook andere besluitvorming, dan kan het heel goed zijn dat wat in het ene ziekenhuis misschien wel een verbetering leidt en in het andere ziekenhuis niet. Dus er zitten wat gevaarlijke kanten aan. Maar dat is dan omdat de schaling en de impact die je daar hebt op eventueel het stukje wat fout is, wat in de marge blijft bij één, wordt vergroot, totdat we groot schalen. Terwijl als je een arts hebt, die zit in één ziekenhuis, misschien meerdere dat die werkt, maar dat is dan één. Dus het is eigenlijk de impact die je hebt. De automatisering erbij versnelt dat. Dus daar moet je ook rekening mee houden. Wat zijn nou de meeste ethische dilemma's die je tegenkomt binnen Philips? Ik kan twee, denk ik, mooie voorbeelden geven. Als Philips, en ik denk dat dat voor heel veel bedrijven geldt, je ontwikkelt niet alle AI zelf. Dus je koopt ook AI van andere partijen in. Of je gebruikt modellen van anderen om vervolgens dat weer verder te trainen. Een paar jaar geleden hebben we een case gehad waarbij één business unit wilde een model gebruiken van een externe partij. En dat model dan weer hertrainen op eigen data. En ze kwamen bij ons met de vraag van, mogen we dat model gebruiken? Dat externe model. En dan kun je op verschillende manieren naar kijken natuurlijk. Je kunt vanuit juridische aspecten kijken, je kunt op intellectual property gebied kijken, je kunt op privacy gebied kijken en je kunt ook ethisch kijken. En ethisch in dit geval, ik zal het uitleggen, dat oorspronkelijke model was gereleased voor commerciëel gebruik, dus alles was in orde. En je hertrainde het met eigen data dus ook allemaal in orde. Alleen toen wij gingen kijken van waar is dat oorspronkelijk model op gebaseerd, waar is dat op getraind? Dat was op het dataset getraind en natuurlijk logischer wijs een dataset met beelden van mensen, gezichten van mensen. En we kwamen erachter tot iets van 60 procent van die mensen had geen toestemming gegeven. Oei. En dan heb je gezichten van volwassen mensen zijn gezichten van kinderen nog steeds als je vanuit verschillende invalshoeken kijkt juridisch was de op zich niks mis mee en ip technisch ook niet en privacy technisch was ook niks mis mee alleen ethisch wel ja dus wat wij hebben wij gedaan we hebben die verschillende analyses schoon de conclusies naast elkaar gezet richting de business gingen van dit is het verhaal formeel zou je het vandaan komt, dan zou je eigenlijk zeggen, ethisch is dit niet oké. Maar de business beslist. De business is uiteindelijk met ons meegegaan. Hij heeft gezegd van, oké, dan gaan we voor plan B. Dan gaan we een ander model gebruiken. Dus dat is een ethisch dilemma. Misschien voelden ze het zelf al aan. Dat weet ik niet. Maar ze vroegen in ieder geval van, kunnen we dit gebruiken? Dus dat is één voorbeeld. Een ander voorbeeld is, Dat heeft dan niet met toestemming te maken, maar weer met bias te maken. We hebben een oplossing waarbij je de lengte van verblijfduur van patiënten in ICU kunt voorspellen. Intensive care. Ja, intensive care unit. Dat hadden we al in de markt staan. Hoe gebruik je dat? Dat kun je gebruiken als ziekenhuis om ook te vergelijken met ICU's van andere ziekenhuizen. En zo de kwaliteit van jouw zorg te vergelijken met de kwaliteit van andere ziekenhuizen. En als je dan slechter bent, kun je kijken van waar ligt dat dan aan en kan ik dat verbeteren. En wij ontdekten van ja, dat algoritme is op zich wel goed. Alleen daar zit een bepaalde bias in. Want je hebt natuurlijk patiënten die op de ICU zijn die daarna blijven leven en patiënten die doodgaan. Ja, bijvoorbeeld. En de dataset waarop getraind was, was redelijk gebiased. Dus we hebben een auditionele studie gedaan. En waar zat de bias in? Meer op de overlevende. Oh ja. En dan kun je verkeerde voorspellingen krijgen. En als je verkeerde voorspellingen krijgt, dan is de kwaliteitsvergelijking niet helemaal goed. En als je het wil gebruiken om al gedurende een opname kwaliteit van zorg te verbeteren, dan kan dat ook een probleem opleveren. Dus wat we hebben gedaan, we hebben een veel grotere dataset gebruikt van even uit mijn hoofd, meer dan 600.000 patiënten. Verdeeld over een paar honderd ICUs in honderd ziekenhuizen geloof ik in de USA. Het algoritme verbetert. En nu voorspelt het dus wel stukken beter. De lengte of T zoals dat dan mooi heet in een ICU. En dan kan het veel beter gebruikt worden om kwaliteit te verbeteren. Dat is een voorbeeld van bias waarvan je ontdekt van dat zit erin. In een bepaalde oplossing. En dat verbeter je dan. Ik was wel nieuwsgierig. Hoe is het aan het licht gekomen of hoe is het gespot? Dat is een goede vraag. Daar moet ik het antwoord op schuldig blijven. Dat weet ik niet. Redelijk vraag zijn dat als we dat soort dingen met elkaar leren herkennen namelijk, dan kunnen we het al eerder onszelf challengen. Het punt is, als je even uitzoomt, eigenlijk is het een volstrekt logische vraag. Want eigenlijk ga je weer nadenken van de dataset waar ik mijn algoritme op train, is die representatief voor de target population? En de target population is in dit geval breed. breder dan wat iemand oorspronkelijk waarschijnlijk had gedacht. Of men dacht van ja, de data set is breed genoeg. Maar dat bleek het eigenlijk niet zo te zijn. Dus het is toch weer eigenlijk zo vroeg mogelijk in de ontwikkeling van een algoritme. Eigenlijk al vroeg dat je het ontwikkelt, maar eigenlijk bij de use case definitie daar al heel veel kritische vragen stellen van waarom wil ik dit? En wat moet ik dan doen? En wat heb ik dan nodig? Wat is het effect? En dat blijven challengen. En daar was ik wel benieuwd, want je vertelt dat het een relatief klein team is. Ten opzeg van Philips als hele grote organisatie. Hoe zorg je dat de teams die hiermee bezig zijn met de implementatie van AI, dat ze de ethische kaders ook meenemen? Het team is in totaal zeven mannen en vrouwen. Terwijl Philips ongeveer 70.000 mensen is. Ja, dat bedoel ik. Dus het is een kleine verhouding. Kijk, als centraal team, wij doen verschillende dingen. Enerzijds hebben wij diverse trainingen ontwikkeld op het gebied van die ethische kaders. Zodat mensen die binnen Philips AI gebruiken of AI ontwikkelen, bewust zijn van bepaalde aspecten. En ethische aspecten die zitten in die training. Dus dat is een soort awareness die je creëert. Dat is één ding. Daarnaast houden wij workshops voor de businesses. Waarbij we dan met grotere teams van zo'n business unit gewoon een sessie van twee uur hebben. Waarbij we bepaalde dingen uitleggen. Waarbij we samen met hun in specifieke projecten van hun duiken. Om aan te geven, hier kun je daaraan denken. Hier kun je dat gebruiken om kritisch te zijn. Dat is een tweede voorbeeld. Daarnaast, zeker als je kijkt nu met de AI Act, hebben we er ook voor gezorgd dat alle business units een projectleider hebben. Om AI Act Ready te zijn. En dat is een community die we hebben gecreëerd. En die community geeft ook heel veel informatie. Die komen regelmatig bij elkaar om ook additionele informatie en best practices te delen. Zodat zij dat ook weer kunnen gebruiken in hun business. Je doet niet alles zelf. Je probeert ook mensen in de business op zo'n duidelijk niveau te krijgen. Tot zij weer verder kunnen helpen. Is het voor een internationaal bedrijf niet lastig? Want ethiek is natuurlijk iets. Dat zijn je waarden. En die verschillen nogal per cultuur. Ja. Ja, dat is een leuke. Kijk, voor Philips, we hebben heel plat gezegd, er zijn drie grote regio's. Je hebt Amerika, je hebt Europa en China, zou je kunnen zeggen. Dat zijn denk ik wel de grootste markten. Met Amerika verreweg de grootste. In Amerika heb je natuurlijk, onder het huidige politieke klimaat, heb je ook wel een verschuiving van ethische waarden. Ja, behoorlijk. Het geen lastig kan zijn. Europa is heel duidelijk qua ethische waarden. En China heeft weer andere ethische waarden. Het punt is, wij moeten rekening houden met wat geldt in welke regio. En dat maakt het lastig. Omdat in principe alles wat we ontwikkelen, willen we wereldwijd op de markt brengen. En dan is de vraag van, hoe ga je dat doen? Ga je bijvoorbeeld eerst naar Amerika toe? En dan naar Europa en dan naar China. Of begin je eerst in China. En dat zou een andere beslissing kunnen zijn van product tot product. Om dat te maken met complexiteit, datasets die je nodig hebt misschien. Ik noem maar wat. Dus per product wat je in de markt wil brengen, moet je eigenlijk gaan nadenken. Hoe ga ik dat op de meest eenvoudige manier doen? Zonder mezelf heel veel extra effort en vertraging op te leveren. En de ethische aspecten zijn verschillend. Daar moet je rekening mee houden. Dus voor mij een beeld, om te kijken of ik het goed begrijp. Zou het zo kunnen zijn dat bepaalde producten anders werken in de regio of dat niet? Is het met name een keuze? Als je kijkt naar bijvoorbeeld in China. Je moet producten getraind hebben op Chinese data. Maar als ik die producten heb en ik zou die dan weer willen gebruiken in Amerika of Europa, dan zal ik toch weer moeten hertrainen naar andere datasets. Ik kan ze niet één op één gebruiken. Maar dat geldt ook tussen Amerika en Europa. Want, kijk, dat kom ik weer terug op het puntje van het vertrouwen van je klanten, van de healthcare professionals en van de patiënten. Artsen vragen ons van, ja, jij komt met een mooie AI-oplossing die in Amerika is ontwikkeld. Maar als ik in Leiden, ik noem maar wat, een ziekenhuis dat wil gebruiken, hoe weet ik of dat voor mijn populatie geschikt is? Want dat heeft al heel andere karakteristieken dan bijvoorbeeld Boston of San Francisco. Dus je zult toch altijd naar lokale data moeten gaan. Dus die transparantie en helderheid van wat zit er in die data, wat zit er in het model, Wat is het effect? Dat is van essentieel belang van de oplossing. Mooi. Ik wilde toch nog even kijken van de moment die verschillen. Want hoe ga je daar dan mee om in je team? Want ik neem aan dat je niet ook mensen hebt vanuit China in je team die gewend zijn. Kijk, de ethische waarden zitten zo diep verstopt eigenlijk in ons. Pas als je ze raakt, weet je dat je ze hebt. Hoe ga je daarmee om? Dat is een hele mooie vraag. Kijk, het team wat we hebben zijn allemaal Europeanen. Niet allemaal Nederlanders, maar het zijn Europeanen. We zijn wel divers in man versus vrouw. Dus bijna 50-50, dus dat is goed. Maar het is inderdaad allemaal Europeanen met Europese waarden en normen. Dat betekent dus ook, als wij discussie zijn met teams in China, dan moeten we er even op letten tot wij niet automatisch onze waarden en normen opleggen aan hun. Kijk, Philips is zo georganiseerd. Wij zijn onderdeel van een grotere Data & AI-organisatie. En die Data & AI-organisatie heeft ook teams in Amerika zitten en in China zitten. Dus op dit moment wat wij doen, wij proberen gebruik te maken van mensen uit die teams om die lokale normen en waarden en andere regelgeving om daar rekening mee te houden. Maar het is uiteindelijk ook de bedoeling, ja, wij zijn nu een puur Europees team. We willen eigenlijk ook gaan uitbreiden. We moeten eigenlijk ook echt mensen binnen ons team hebben die en in Amerika zitten en in China zitten. Dus dat gaat op den duur wel komen, ja. Snap ik. Je hebt al een klein beetje qua voorbeelden wat uitgelegd. Wat ik nu ga vragen hoor. Maar ik wilde daar misschien toch wel ietsje dieper op in. Hoe balanceer je nou het commerciële belang van een bedrijf en die ethische waarde? Ja. Dat is altijd een lastige balans. In de zin van, enerzijds is het niet zo moeilijk omdat je zegt van ja, patient safety and quality is wat ons dreigt. Dus dat moet echt de eerste gedachte zijn. Anderzijds, je zou je kunnen voorstellen, hoewel dat het op dit moment misschien iets minder is, maar je zou je kunnen voorstellen tot er lucratieve contracten liggen. Of zouden kunnen liggen met, ik noem maar wat, Amerikaanse overheid om iets op defensie te doen. Dat is de vraag, wil je dat? Wij willen niet betrokken worden in oorlogsvoering natuurlijk. Dus dat is de normen en waarden van Philips. En daar tornen we ook niet aan. Kijk, als het over gezondheidszorg gaat voor militairen, is het een ander verhaal. AI voor oorlogsvoering, nee, no way. Dus dat is een afweging, maar op zich niet zo heel erg moeilijk. Er komen regelmatig, of regelmatig af en toe, wel iets subtielere uitdagingen tevoorschijn, waarbij je kunt afvragen van, oké, ik wil een bepaald doel bereiken met een algoritme, maar de data die ik daarvoor wil gaan verzamelen, heb ik die echt nodig? Oh ja. Moet ik echt heel veel verschillende type data verzamelen of kan het ook wel met minder? En wat je merkt is soms is de neiging van ja, hoe meer data hoe beter. Maar als je dan de goede discussie hebt met de goede argumenten en zegt van nou, je hoeft echt niet ik noem maar wat 25 parameters per persoon te monitoren om jouw doel te bereiken. Dus misschien hoef je er maar 16 of 15 te meten. En dat is een afweging. Maar goed, uiteindelijk komen we daar tot op heden wel altijd goed uit. Ja, snap ik. Wat is volgens jou nou een misverstand rondom AI en ethiek? Een misverstand tussen AI en ethiek? Nou, wat ik observeer, ik weet niet of het een misverstand is, maar er zitten twee kanten aan je vraag. Want ik kan hem op verschillende manieren beantwoorden. Eén manier beantwoorden is van, er zijn ook onderzoeken geweest die bijvoorbeeld kijken van, is AI empathischer dan een arts? Oh ja. En er zijn onderzoeken waaruit komt, ja, AI is empathischer. Kun je afvragen, oké, kun je dat überhaupt zo definiëren? Empathische AI, want eigenlijk slaat het nergens op. Waarom niet? AI is maar een technologie. Daar zit geen gevoelsleven in. kijk naar de techniek. Daar zit helemaal... Je kunt daar geen menselijke kenmerken aan verbinden. Maar veel mensen doen dat wel. Dus daarin, op dat gebied zou je kunnen zeggen van ja, daar zit wel een struggle tussen AI en ethiek. Er zijn ook mensen die zeggen van ja, AI gaat al onze problemen oplossen. Dus geef ons alle data. Want anders kunnen we alle problemen niet oplossen. Dat is ook een ethische dilemma. Dilemma wat ik zie is... AI heeft hele grote potentie. Maar wat ik ook zie is... Het wordt zoveel gehyped. Ook de Genuine TVI wordt zoveel gehyped. Persoonlijk denk ik dat we grote stappen maken. Maar tegelijkertijd, er zijn mensen die denken dat we veel te snel grote problemen kunnen oplossen. Ook in healthcare. En dat je daarom misschien wat ethische dilemma's iets meer op de achtergrond zou moeten schuiven. Omdat je die progressie wil maken. En persoonlijk denk ik van, we moeten heel erg opletten tot de use cases zoals die voor AI gedefinieerd worden. waarbij gouden bergen beloofd worden als je echt gaat kijken van hoeveel van die use cases en zeker van de complexere use cases leveren echt iets op en kunnen op korte termijn iets opleveren dan denk ik tot je toch snel van de koude kermis thuis komt dus daar moeten we toch een beetje op letten en misschien een beetje op de rem trappen ik wil nog even terugpakken naar de use case die je noemt, we hebben het net al een klein beetje aangestipt Maar hoe zorgt ervoor dat de juiste vraag stelt? Je geeft trading en awareness en dat soort zaken. En er zijn ongetwijfeld zaken waarvoor jullie geraadpleegd worden. Maar hoe kan je als zo'n grote organisatie ervoor zorgen dat op tijd waar jullie wordt opgevraagd of dat jullie ervan weten en langs gaan? Hoe zorg je dat je dat organiseert? Op dit moment zijn we nog niet perfect. We hebben bepaalde ideeën van hoe je het optimaal zou kunnen organiseren. Bijvoorbeeld, kijk wij zijn een klein centraal team. Dat hoeft ook niet een heel groot team te zijn. Wat je uiteindelijk zou willen is tot in alle onderdelen van de organisatie, in alle onderdelen van Philips, tot je, zoals wij het noemen, Responsible AI Ambassadors hebt. Of Officers, of hoe je het ook wil noemen. Dus eigenlijk een verlengstuk van het centrale team. Maar die wel in dienst zijn van de business unit. En die vanuit hun rol lokaal al veel eerder dingen kunnen waarnemen, kunnen adresseren. Soms dingen zelf kunnen oplossen en soms richting het centrale team komen. Dat is een vorm van ideale oplossing die wij zien. Kijk, op dit moment zijn we daar nog niet. Maar wat we wel zien is dat er mensen in de businesses duidelijk heel erg op dat responsable AI traject willen zitten. En daar ook extra inspanning in willen verrichten. Oftewel, die zijn van nature al gedreven om teams in hun organisatie misschien ook wel te helpen. Of teams te attenderen op ons bestaan. En wij proberen natuurlijk tegelijkertijd zoveel mogelijk reclame te maken. We zijn zowel intern als extern, we geven regelmatig presentaties. Ja, nu dan een podcast. Dus ik hoop dat de Filosomens ook gaan luisteren natuurlijk. Maar intern, we distribueren ook een newsletter, een responsable newsletter, voor de mensen die hem willen ontvangen. En die community wordt steeds groter. We geven webinars. We gaan op bezoek. Dus die bekendheid is er ondertussen wel. Dus vooral communicatie, vol sprieten in de organisatie uitzetten. zorgen dat inderdaad mensen je weten te vinden. We hebben een kaartspel ontwikkeld. Juist om te praten over allerlei dilemma's die er mogelijk zijn rondom in dit geval wel generatieve AI. Dus de generatieve AI-editie van het kaartspel. En we willen jou graag ook een stelling voorleggen. Wij hebben trouwens ook een kaartspel. Wij hebben ook een kaartspel, niet zelfgemaakt, We gebruiken een kaartspel om productontwikkelteams te triggeren op de juiste vragen die ze zichzelf moeten stellen. Wat voor risico's loop ik nou? Interessant. Kunnen wij die ook krijgen? Het is een externe kaartset van de vrouw. Die wil je moeten kopen. Dan hebben we het wel even na de uitzending over. De categorie deze keer. Toekomst, visies en speculaties. Generatieve AI zal leiden tot ongekende bedrijfsmodellen en inkomstenstromen. ik denk dat je dat al ziet op dit moment dus dit is de speculatie sowieso wat ik al observeer en en veel mensen onderschatten dat nog ook bij ons trouwens hoe je je dagelijks werk gaat veranderen En eigenlijk al veranderd. En ik geef zelf wel eens het vergelijk met de schaakwereld. Ik ben ook een schaker. In de schaakwereld is het al jaren zo. Tot de topschakers maken gebruik van AI. In hun voorbereidingen, in de analyse achteraf. Dus dat is echt een samenwerking. Vroeger zaten ze gewoon zelf achter een schaakbord. Met schaakboek ernaast. En misschien wel meerdere schaakborden. We waren bezig met studie en voorbereiding. Nu is dat gewoon via de computer. En je ziet dat door die samenwerking tussen mens en AI, het schakel heel erg anders is geworden. Dat zie je dus nu ook in andere beroepen doorsijpelen. Ook in ons dagelijks werk. Mensen maken veel gebruik van het ChatGPT. bepaalde ideeën te krijgen of vragen snel te beantwoorden. Dus in die zin, elk bedrijf, elk persoon, zal binnen no time op een andere manier werken. En die ongekende andere businessmodellen, maar ja, de big tech firms, daar zie je het al aan. Dat zal ook naar andere bedrijven doorsijpelen. Dat gaat heel snel, sneller dan je denkt. En als we in deze analogie het doorzetten van het schaken, wat zou de volgende zet moeten zijn in de ontwikkeling van AI? De volgende zet, ontwikkeling van AI. Een andere technologie dan large language models. Oh ja, waar zit je aan te denken? Ik ben niet degene die die technologie kan verzinnen. Maar zoals je nu ziet hoe de Genitive AI modellen zijn opgezet. Dat is goed voor nu, voor de huidige toepassingen. Maar wil je een stap verder maken. En daar zijn ook de goeroes op AI gebied. Zijn het daar wel over eens, heb je andere technologieën nodig. Dus dit is maar een tussenoplossing. Ja, zit in de tussenfase. Ja, absoluut. Nou, mooi. Ik was wel nieuwsgierig, ik weet niet hoeveel je ervan weet, maar in de voorbereiding door onderzoek naar onze gasten en dat soort zaken, was er ook gesproken over dat er in het Philips Museum ook een onderwerp ethiek en... Dat klopt, ja. Zou je daar wat meer over kunnen vertellen? Ik was wel geïntrigeerd, want ik kon er voor de rest nog niet heel veel over vinden. Ah, ja, dan zul je er toch een keer naar Eindhoven moeten komen om het Philips Museum te bezoeken. We hebben daar samen met een collega van mij vier stellingen. Presenteren wij daar. Die hebben we opgenomen. Dus bezoekers die kunnen gewoon op hun computer krijgen ze ons te zien. En wij leggen de stelling uit. En stellen dan degene die dat verhaal bekijkt een vraag. Ben je voor deze stelling of tegen deze stelling? en de bezoeker kan over nadenken en kan dan bij de antwoorden van ons horen, omdat het is meestal niet zwart wit, het is of ja of nee het kan ja zijn en het kan nee zijn dus op die manier zou je kunnen zeggen dat ik vereeuwigd ben in het feest van me met een museumstuk ja dat zijn mijn gezinnen ook al en dat is om awareness te creëren op het ethieke Vraagstukken die we eigenlijk allemaal zien en waar je mee te maken hebt door eigenlijk gewoon in de maatschappij vraagstukken. Ja, het is een AI tentoonstelling in het Filipsmuseum. En natuurlijk, ethiek speelt daar een onderdeel in. Dus het is maar een klein onderdeeltje in de complete tentoonstelling. Maar ja, vanuit mijn perspectief natuurlijk het meest langer. Ja, het stuk. Je had ook nog compliance in je functietitel zitten. Hoe zorg je nou met de toenemende regulering dat dat meegenomen wordt in de ontwikkeling van de producten en van de modellen? Ja, dat is een crime. Ja, daar vraag ik het ook. Allereerst als je kijkt naar Europa. Kijk, want ik moet even globaal kijken over de hele wereld, omdat we een globaal bedrijf zijn. Maar als je kijkt naar Europa, de AI Act is een horizontale wetgeving, dus voor alle industrieën. Tegelijkertijd, wij als medisch bedrijf voldoen natuurlijk al jarenlang aan de medical device regulations. Dat is puur een regulation voor de healthcare sector. En als je die twee naast elkaar legt, dan zijn er wel wat strijdigheden. Oftewel, die twee samen zijn niet optimaal. Dat geeft dus een uitdaging. Wij moeten meer documentatie aanleveren die misschien niet heel erg nuttig is. Dat is in Europa. En AI Act, die wetgeving is er. Maar de standaardisatiecommissies zijn nog bezig. Dus de details van de wetgeving, die moeten nog komen. Dus de vraag is even van hoe ontwikkelt zich dat nog verder. Dus is het nog niet in steen gegoten. Dan heb je Amerika. Amerika heeft natuurlijk de FDA, in januari kwam ze nog uit, met een draft guidance voor AI. Die trouwens best wel in de richting was van de Europese regelgeving. En de FDA is de instelling die jullie dan ook goedkeurt dat je het medisch mag gebruiken. Ja, en Amerika. Maar tegelijkertijd heb je dan natuurlijk het nieuwe politieke klimaat. Die misschien wel FDA regelgeving gaat afzakken. Dat weten we nog niet. En je hebt daar vijftig staten die hun eigen regelgeving aan het maken zijn op AI-gebied. Want Californië heeft zijn eigen AI-act. Ja, dus wat er in de praktijk gebeurt. Ons Amerikaanse regulatory team kijkt naar die lokale voorstellen voor AI-wetgeving. Stuur ze ook naar ons toe en vraag ook aan ons van hebben jullie ook nog input hier? Zit hier bepaalde red flags in? Heel veel van die dingen zorgen ervoor dat we extra werk zouden moeten doen voor die lokale staten. Dus die staten zijn ermee bezig. Tegelijkertijd zegt de Amerikaanse overheid, nee, er moet nou een moratorium komen op de wetgeving op staatsniveau van AI. Dus heel dynamisch. die staten hun eigen wetgeving mogen blijven doen, dan zou je kunnen zeggen, Amerikaanse wetgeving is meer complex dan de Europese. En dynamisch. Ja, precies. Dat is leuk, hè? In China zie je tot, die zijn heel erg actief om ook hun wetgeving weer te updaten. Maar op zich denk ik, ze zijn streng. Maar misschien wel, je zou bijna kunnen zeggen, misschien ook nog wel het meest stabiel. Oh ja. Dus je hebt die drie grote gebieden. Ik vergeet even de rest van de landen. Dat is ook complex, want dat is ook allemaal verschillend. Maar dit zijn onze drie grote markten. Als je die drie naast elkaar legt, dan heb je verschillende eisen. Een aantal dingen zijn hetzelfde, maar een aantal dingen zijn ook verschillend. Dan moet je ze dus naast elkaar leggen en kijken van oké, wat zijn de synergieën? wat zijn de lokale bijzonderheden waar ik aandacht aan moet hebben en dan kom ik weer terug op een eerder punt hoe ga ik dat nou meenemen in mijn productontwikkeling die ik wereldwijd wil uitrollen dat is een grote uitdaging en daar hebben wij wij proberen dat op de best mogelijke manier te doen maar we hebben nog niet zeg maar de pot met goud gevonden om dat op de meest optimale manier te doen En het is zo'n dynamisch veld. Dus je moet constant, ben je ook bezig, om al die regelgevingen, als er weer een nieuwe regelgeving komt, om dat te kijken van wat betekent dat. Ten opzichte van wat we al hebben. Ja, heftig. Ja, en zo'n vraag blijft in mijn hoofd. Het is wel heel erg detailistisch, maar dat is mijn beeld van medical devices. Daar worden natuurlijk heel veel AI-toepassingen ingebouwd in zo'n medical device. Wat als daar een nieuwe model in moet komen? Moeten ze dan ook langs de FDA weer opnieuw? Hoe zit er zo'n product lifecycle management? Wanneer moet je weer langs? Ja, dat hangt er weer vanaf. Een voorbeeldje. De vraag die je zelf moet stellen van in Europa bijvoorbeeld, is de AI die je aan een systeem wil toevoeren, heeft die een bepaalde safety functie? Ja of nee? Want dat betekent al iets voor de dingen waar je aan moet voldoen. Als je een bepaald product al in de markt hebt, of een AI al in de markt hebt, en je wil het updaten, daar had je al rekening mee kunnen houden in de vorige aanvraag. In Amerika in ieder geval, je hebt iets zoals een predetermined change control plan. Dat betekent dus al dat je bij je aanvraag voor goedkeuring van de FDA, tot je dan al aangeeft van nou, we gaan nog een aantal keer updaten. En we leveren al informatie daarover aan. Even grof gezegd, wel heel zwartwit gezegd, maar daar komt ongeveer op neer. En als je dat doet, dan hoef je niet elke keer een nieuwe submission te doen. Dus er zijn diverse vragen die je per product moet stellen. En per regio moet stellen. En aan de hand daarvan kun je kijken wat je moet doen. Klinkt als een complexe legpuzzel. Het is een complexe legpuzzel. En by the way, dat is niet de pure verantwoordelijkheid van ons team. Wij hebben een heel groot regulatory-vers team in Philips. Die lokaal overal aanwezig zijn. Het is primair hun taak om dat te doen. Wij brengen de responsable perspectieven. Is er iets of iemand die jou geïnspireerd heeft op jouw kijk rondom ethiek en AI? Ja, die vraag heb ik al een keer eerder gekregen. En mijn eerste spontane antwoord was, ja eigenlijk niet. Maar dat klinkt een beetje fout. Wat? Nou, het punt is, ik volg heel veel mensen. Vooral op LinkedIn, om eerlijk te zijn. Daar zie je heel veel mensen die heel waardevolle dingen posten. Er is niet één die daar specifiek voor mij uitspringt. Die heeft mij of geïnspireerd. Of als die iets zegt, dan vind ik dat belangrijker dan iemand anders iets zegt. Dus er zijn verschillende mensen waarvan ik zeg, die volg ik. Dat vind ik nuttige informatie. Maar er is niet één iemand die mijn voorbeeld is. Dat hoeft ook niet. Ik was gewoon benieuwd. Klinkt wel mooi als diverse aan verschillende perspectieven die je dus meeneemt. Zeker. Wat zou je de luisteraar mee willen geven? Als ze nou zo direct, dan zetten ze deze uit, de podcast op het gebied van ethiek. Wat zou je ze mee willen geven? Ik zou ze eigenlijk mee willen geven van, zie ethiek niet als iets bedreigends of zo. Ik moet heel erg uitkijken met, ik moet misschien niet aan beginnen. ik zou zeggen van AI kom je niet omheen iedereen moet AI gaan gebruiken en liefst hoe snel mogelijk maar denk altijd goed na wat je doet, stel jezelf gewoon kritische vragen zou jij zelf aan de andere kant willen zitten aan de ontvangende kant zeg maar van het algoritme stel je dat soort vragen en ga gewoon aan de slag mooi hebben gekregen van wat jij doet binnen Philips. En voor mij was het heel erg nuttig om te horen hoe dat internationaal vooral werkt. Dus jullie hebben heel veel ervaring hoe je iets globaal doet. Dus dank je wel dat je dat met ons wilde delen. Graag gedaan. We hadden van tevoren het erover dat ik wel eens een verkeerd knopje indruk. Nou, dat was het weer. Bij de Eze. Heel erg leuk dat je weer luisterde naar een aflevering van AIToday Live. Vergeet je niet te abonneren via je favoriete podcast app. En dan mis je geen aflevering. Tot de volgende keer. Tot de volgende keer.