Wat leer je in deze aflevering?
Jeroen van der Laak, hoogleraar computationele pathologie aan het Radboud UMC, werkt 35 jaar aan Artificial Intelligence die microscopiebeelden analyseert en ziet hoe bewezen technologie toch niet gebruikt wordt. Het probleem is niet dat de AI niet werkt, maar dat de weg van onderzoeksresultaat naar klinische toepassing bezaaid ligt met regelgeving, firewalls en juridische contracten. Hij laat zien dat een betere AUC-score in een studie niemand overtuigt, maar dat "honderd onnodige operaties minder per jaar" dat wel doet.
Een Linux-server opzetten binnen een ziekenhuisfirewall kan technisch in een middag, maar duurt in de praktijk een half jaar. Morgen kun je voor je eigen AI-project de volledige implementatieketen in kaart brengen: technologie, validatie, IT-integratie en gebruikersacceptatie, want wie alleen naar de technologie kijkt, onderschat de werkelijke inspanning met een factor tien.
Kernbegrippen
- Generaliseerbaarheid
- AI-modellen die betrouwbaar presteren onder verschillende omstandigheden, zoals variaties in weefselpreparatie en scanmethoden.
- Workflow-integratie
- Het inpassen van AI-systemen in bestaande ziekenhuisinfrastructuur, inclusief IT-systemen en juridische processen.
- Patiëntuitkomsten
- Meetbare gezondheidsresultaten die aantonen welke praktische waarde AI-diagnoses hebben voor patiënten.
- Digitalisering van pathologie
- Omzetting van microscooponderzoeken naar digitale beeldbestanden die voor AI-analyse geschikt zijn.
- Data-interoperabiliteit
- Gestandaardiseerde uitwisseling van medische gegevens tussen systemen en instellingen met juridische waarborgen.
Wat kun je morgen doen?
- 1 Vertaal AI-prestaties naar patiëntuitkomsten: "X% betere diagnose" overtuigt niemand, "100 onnodige operaties minder per jaar" wel
- 2 Combineer beeldanalyse met geautomatiseerde rapportgeneratie voor een volledige businesscase richting pathologen
- 3 Gebruik LLMs voor data-extractie uit narratieve pathologierapporten als preprocessing-stap voor AI-training
Interview: Jeroen van der Laak
Kun je uitleggen wat pathologie precies is en wat een patholoog doet?
Pathologie is een medisch specialisme waarbij een patholoog weefsels beoordeelt – cellen en weefsels – op de aanwezigheid van ziekte. Je moet je voorstellen: als je een huiddingetje hebt, een moedervlek, die wordt weggesneden door een dermatoloog. Dat gaat naar de patholoog en de patholoog kijkt wat is het, wat is er aan de hand, hoe ernstig is het, en moet er eventueel aanvullende behandeling plaatsvinden. Als een vrouw een knobbeltje aan haar borst heeft, dan wordt daar een klein stukje weefsel weggehaald. De patholoog kijkt door een microscoop en die kan zien: is het kanker, is het een voorstadium van kanker, moet het geopereerd worden. Het is de diagnostiek van veel kanker, maar ook andere ziektes.
Hoe proberen jullie met AI de patholoog te helpen bij dit werk?
Met AI proberen we steeds meer om die patholoog te helpen om zijn werk efficiënter te maken. Je kan je voorstellen, als je AI inbrengt, dan kan het sneller zijn. Maar wat we ook weten: als we hetzelfde weefsel aan vijf pathologen geven – het blijft mensenwerk – dan krijg je niet vijf keer precies hetzelfde oordeel. Er zit variatie ook tussen pathologen.
Betekent dit dat AI niet alleen efficiënter maakt, maar ook kwalitatief beter?
Ja, precies. Stel dat jij als man een verhoogd PSA-niveau hebt. PSA is een stofje dat je in het bloed meet, en als je als man een te hoog PSA hebt, kan het duiden op prostaatkanker. Dan kan een uroloog een biopsie nemen – dus je neemt een klein beetje weefsel af. En dan gaat de patholoog kijken: is daar sprake van kanker. Als het kanker is, gaat die patholoog ook kijken van hoe ernstig het eruitziet. Als die patholoog zegt: het ziet er eigenlijk helemaal niet zo ernstig uit, dan is het beleid om over een jaar terug te komen en weer dat bloed te testen. Ziet het er heel ernstig uit, dan moet die prostaat meteen verwijderd worden. Dan kun je je voorstellen: als je die patholoog een graad van ernst geeft – dus die patholoog zegt het is een kankergraad 1, 2, 3 of 4 – dat leidt de patholoog af aan patronen in het weefsel. Je kijkt naar allerlei patronen en de groei van de cellen die bepaalt of het een graad 1, 2 of 3 is. Je kunt je voorstellen: als twee pathologen dat zouden doen, komt het wel eens voor dat de ene zegt "ik denk dat het een graad 2 is" en de andere denkt "nou, ik zie toch echt aanwijzingen voor een graad 3". AI kan daarbij helpen en AI is natuurlijk ontzettend consequent in zijn beoordeling. Dus AI kan helpen om die patholoog consequenter te maken en te zorgen dat ze allebei op een twee of een drie uitkomen.
Wat is eigenlijk het verschil tussen een graad 2 en een graad 3 voor de patiënt?
Dat kan het verschil zijn tussen het verwijderen van de prostaat en het niet verwijderen. Dat heeft dus behoorlijk veel impact.
Werk je met foto's of met meerdere beelden van het weefsel?
Het is een microscoopbeeld. Dus wat je in de pathologie doet: je maakt microscopische preparaten. Vroeger keek een patholoog door een microscoop en die beoordeelde dat weefsel door een microscoop. Tegenwoordig steeds meer kunnen we die beelden digitaliseren. Dus het volledige preparaat digitaliseren, en dan hebben we een 'whole slide image' – een heel groot beeld. Maar het zijn hele grote beelden. Je hebt het over 3 gigabyte aan pixels, gecomprimeerd. Dus dat zijn enorme beelden. De patholoog kijkt aan een beeldscherm, maar die heeft software die eigenlijk die microscoop een beetje nadoet. Dus je kunt nog steeds inzoomen, uitzoomen en schuiven.
Pathologie klinkt als een heel breed vakgebied – gaat het alleen over kankerdetectie?
Pathologie is heel breed – alle diagnostiek die je op weefsels doet, komt bij een patholoog terecht. Dus het gaat ook over baarmoederhalsuitstrijkjes, dat gaat over biopten. Maar als iemand kanker heeft in een orgaan, dan wordt ook het hele orgaan onderzocht. Als je een transplantatienier hebt, dan kan het zo zijn dat er een afstotingsreactie plaatsvindt in die nier. Dan halen we ook een klein beetje weefsel eruit en dat wordt ook door een patholoog bekeken.
Hoe staat het met de digitalisering van de pathologie wereldwijd?
Dat digitaliseren van die pathologie is eigenlijk vrij recent – dat is iets van de laatste jaren. Het ligt eraan waar je kijkt, maar wij in Nijmegen doen het de afgelopen vijf jaar, dus alles digitaliseren. Als je naar Amerika gaat, dan zien ze eigenlijk de meerwaarde van digitaliseren nog niet. Daar is 5% van de pathologielaboratoria die werkt met digitale beelden. 95% werkt met een microscoop. Dat heeft een beetje te maken dat digitaliseren best duur is en dat veel pathologen zeggen: ik zie die meerwaarde eigenlijk niet. En dat heeft wel grote consequenties, want dat betekent bijvoorbeeld voor de bedrijven in ons veld – er zijn steeds meer start-ups die proberen AI voor de pathologie te ontwikkelen – die hebben het erg moeilijk, omdat de markt er eigenlijk bijna niet is. Als pathologen niet digitaliseren en geen pixels hebben, dan kom je met AI niet heel ver natuurlijk.
Waarom zien pathologen de meerwaarde van digitalisering niet altijd?
Het zijn twee stappen. De digitalisering is een stap los van de AI, waarbij je gewoon wel workflow-verbetering kunt hebben. Normaal heb je dus die microscopische preparaten – en die worden voortdurend, dat is allemaal glas, dat wordt door de afdeling heen gebracht van de ene plek naar de andere. Het kan zoekraken, het opslaan daarvan is een heel gedoe, het is heel zwaar allemaal. Dus de digitale pathologie, het digitaliseren los van de AI, dat is op zich al een grote transformatie in de pathologie, waar gewoon de workflow een stuk soepeler van wordt. Dat zien niet alle pathologen. Want ze zeggen: dat is heel duur en de winst is eigenlijk niet zo heel groot. De volgende stap zou natuurlijk zijn: AI. Maar ik denk dat AI op zich een reden kunnen zijn voor pathologen om te gaan digitaliseren. Alleen de meerwaarde van AI is onvoldoende aangetoond. Dus ik denk op het moment dat wij kunnen aantonen dat een pathologielab door het gebruik van AI enorme winst kan boeken op de een of andere manier, dan denk ik dat de stap van digitalisering makkelijker wordt.
Waarom is het zo moeilijk om die meerwaarde van AI aan te tonen? Je zou denken dat met die fijnmazige beelden AI heel geschikt zou zijn.
Goede vraag. Er zijn een aantal punten, denk ik. Eén belangrijke is dat de kwaliteit van de AI toch niet altijd goed genoeg is. En dat heeft er vooral mee te maken dat je ontzettend veel variatie hebt in je data. En jullie kennen vast het probleem met generaliseerbaarheid van AI. Dat betekent: als ik AI produceer in Nijmegen in mijn eigen centrum en dat werkt ongelooflijk goed, en ik kom naar Utrecht – je zet diezelfde AI neer in Utrecht – dan doet hij het een stuk minder goed. Omdat Utrecht een iets andere manier heeft van het maken van die preparaten, een iets andere manier van het scannen van die preparaten.
Gaat dat dan niet eens om het weefsel zelf, maar vooral over hoe je dit weefsel gedigitaliseerd krijgt?
De stap van het uitgenomen weefsel tot een digitaal beeld – daar zitten een heleboel stapjes in. Het weefsel wordt gefixeerd, daar worden dunne plakjes van gesneden, dat wordt gekleurd, dat wordt gescand. En al die stappen brengen variatie in je beeld. En het blijkt dus dat er ongelooflijk grote variaties kunnen zijn tussen verschillende laboratoria, verschillende landen in hoe dat beeld eruitziet. Dus een heel groot deel van het onderzoek dat wij doen en dat er gedaan wordt, is kijken: hoe maken we onze AI nou robuust voor deze variaties?
Hebben jullie bij jezelf intern wel aangetoond dat AI meerwaarde heeft?
Ja, ik denk het wel. Die meerwaarde kan uit een aantal verschillende dingen bestaan. De belangrijkste voordelen die pathologen zien, is efficiëntie. Dat is bijvoorbeeld: een patholoog die moet iets beoordelen en dat kost veel tijd. Een computer, AI, zou je een soort voorscreening kunnen laten doen waarbij de patholoog dus tijd bespaart. Bijvoorbeeld iets wat wij veel bestudeerd hebben: een vrouw die borstkanker heeft. Daar kijken we altijd naar de lymfeklieren, omdat als er tumor zit in de lymfeklier, dan betekent dat dat die tumor – die borstkanker – het vermogen heeft om uit te zaaien, want hij is naar het lymfeklier gegaan. Dus dat betekent dat ze eigenlijk een slechte prognose heeft. Dat betekent bijvoorbeeld dat die vrouw eerder chemotherapie zal moeten krijgen naast chirurgie. Het vinden van die uitzaaiingen in lymfeklieren, dat is eigenlijk een soort speurwerk. Dus een patholoog heeft een heel groot beeld en moet gaan zoeken of er ergens een paar tumorcellen zitten. En dat kost typisch één tot twee minuten per beeld, per preparaat. We hebben aangetoond: als je een patholoog AI geeft – die AI scant dat beeld van tevoren, die vindt mogelijke tumorcellen – en die patholoog hoeft alleen maar te kijken: oké, AI heeft hier iets gevonden, hier iets gevonden, hier iets gevonden. Ik kijk alleen wat die AI gedetecteerd heeft. Is daar tumor bij, dan weet ik het. Is er geen tumor bij, weet ik het ook. Dus dan kun je in principe 50% van de pathologentijd of meer kun je daarmee besparen.
Een tot twee minuten klinkt niet veel, maar als het 50% is van alles wat je doet, is dat toch fors?
Ja, maar toch – wat je zegt klopt eigenlijk wel. Ik heb het ooit wel eens uitgerekend: dat lymfeklieren bekijken wat ik zo net beschrijf, dat is een stukje van het werk van de patholoog bij iedere borstkanker. Maar ik heb het ooit uitgerekend: als we naar alle lymfeklieren in heel Nederland met AI zouden voorscreenen, dan zouden we uiteindelijk op jaarbasis – ik ben het precieze getal kwijt – maar op jaarbasis zouden we per patholoog in heel Nederland een paar uur tijd besparen. Dan moet je dat afzetten tegen: als een bedrijf zo'n product op de markt moet brengen, moet het maken, moet certificeren, moet jaren aanwerken. Het gaat niet vanzelf natuurlijk. Het grote probleem is wel dat we die efficiëntie laten zien, maar wat je eigenlijk wil – het werk van de patholoog is heel breed. Een patholoog opent een nieuwe casus, kijkt naar klinische gegevens, kijkt naar het verleden van de patiënt, gaat die beelden beoordelen en moet vervolgens een verslag maken. En wat we tot nog toe hebben gedaan, is AI bouwen die alleen in dat beoordelen van die beelden een stukje werk overneemt. En als je op de hele workflow van de patholoog kijkt, dan is dat toch vrij beperkt wat die winst is. Wat ik merk is dat pathologen heel vaak tegen mij zeggen: weet je, dat stukje wat je aan die beelden doet, dat is leuk. Maar dat stuk rapportage bijvoorbeeld, dat kost veel meer tijd. Dus als je niet alleen maar dat beeld kunt analyseren, maar je kunt ook met een LLM bijvoorbeeld daar een stuk rapport maken – en zeggen: oké, die patholoog hoeft dat stuk rapport ook niet meer te maken, die rapportage die wordt ook geautomatiseerd – dan zou de winst een stuk groter worden.
Dat betekent ook wel dat je die context die de patholoog heeft, mee moet nemen naast de foto's en de beoordeling daarvan?
Ja, de complexiteit van je AI wordt groter.
Nu wordt alleen gerekend in productiviteit voor de patholoog. Maar kan de winst niet ook zitten in het vroegtijdiger of beter detecteren van kankercellen – wat dat dan betekent voor de patiënt?
Ben ik helemaal met je eens. En wat we tot nog toe zien – maar ik denk dat het wat dat betreft nog redelijk vroeg is voor ons vakgebied – kijk, als wij nu met pathologen praten, dan is eigenlijk bijna altijd het verhaal: ik wil die AI best gebruiken, maar het gaat me geld kosten, ik moet allemaal techniek regelen, dat moet allemaal geregeld worden. Dus dan moet daar een heel duidelijke business case zijn dat die AI mij zoveel winst gaat geven dat ik er voor over heb. En een patholoog kijkt dan natuurlijk in eerste instantie naar zijn eigen efficiëntie. Als ik tegen de patholoog zeg: we hebben in studies aangetoond dat de kwaliteit van de pathologie voor bepaalde toepassingen beter wordt door het gebruik van AI – zoals die prostaatkanker die ik zojuist noemde, we hebben laten zien dat de gemiddelde patholoog een betere kwaliteit diagnose geeft met AI. Ik vergelijk het wel eens met – ik denk dat het aantoonbaar is dat een zelfrijdende auto een betere kwaliteit chauffeur is dan een gemiddelde chauffeur. Ik denk dat heel veel mensen daar mee eens zijn. Laten we heel veel zelfrijdende auto's hebben, want de gemiddelde chauffeur is niet per se heel goed. Maar als ik tegen iemand zeg: ik denk dat jij zelfrijdend auto's moet gaan gebruiken – dan zegt iedereen: nou, ik vind mijn eigen rijstijl prima voorlopig. En dat geldt hier ook voor. Kijk, als ik tegen een patholoog zeg: wij hebben in studies aangetoond dat in gemiddelde zin een patholoog tot een betere diagnose komt met AI, dan geloven de meeste mensen dat wel. Maar als ik dan zeg: oké, jij moet nou geld gaan betalen om jouw eigen kwaliteit van diagnostiek te verbeteren – je hoeft het alleen voor de buurman – ja, dat is natuurlijk lastig.
Hebben jullie dat soort onderzoeken dan gedaan, en wat zijn de uitkomsten daarvan?
Jazeker. We hebben voor een aantal toepassingen laten zien dat de kwaliteit van diagnostiek echt beter wordt – bijvoorbeeld het graderen van borstkanker, het graderen van prostaatkanker – dat een patholoog met AI een uitkomst krijgt die dichter zit bij de waarheid. Dus wat we doen: we doen dan studies waarbij we een aantal casussen selecteren. Dan laten we een panel van experts – laten we zeggen, die bepalen de waarheid. Dus die bepalen: idealiter zou dit de uitkomst zijn, bijvoorbeeld een graad 2 of een graad 3 of graad 4. Vervolgens laten we een groot panel van 15 pathologen die casussen beoordelen zonder AI en met AI. En dan kijken we of hun scores dichter komen bij die waarheid die we bedacht hebben. En dan blijkt inderdaad dat het vaak het geval is dat pathologen met AI – en zeker de pathologen die minder gespecialiseerd zijn in een bepaald gebied – je hebt pathologen die heel veel prostaat doen, die zijn heel erg goed. Maar je hebt ook pathologen in kleinere ziekenhuizen die heel veel verschillende dingen doen. Die doen niet alleen prostaat, maar die doen ook alle mogelijke organen. En met name die pathologen, de meer algemene pathologen, die gaan met behulp van AI dichter naar die waarheid toe.
Wat doen jullie nu om dit concreter te maken voor de praktijk?
Waar we nu mee bezig zijn – ik zei altijd: dat is iets waarvan veel mensen zeggen "ja leuk, mooi dat je het aantoont", maar ik voel me niet geroepen om nu AI te gebruiken. Dus wat wij nu aan het doen zijn: we zijn nu een studie aan het doen waarbij we proberen om dit door te vertalen en te zeggen: oké, als we nou weten hoeveel beter die diagnostiek wordt met AI, wat betekent dat heel concreet voor het aantal mannen in Nederland bijvoorbeeld die een prostatectomie krijgen, waar de prostaat verwijderd wordt. Hoe vaak gebeurt dat misschien onterecht? En wat gebeurt er met dat getal als we AI gebruiken? Want ik denk dat we een veel sterker verhaal hebben, ook richting de verzekeraar, ook richting de patiëntenvereniging, als ik kan zeggen: door onze AI worden er vorig jaar in Nederland 100 mannen geen prostaat verwijderd waar het ook eigenlijk niet nodig is. Of er zijn 100 mannen waar die wel verwijderd wordt waar dat nu misschien niet gebeurt, terwijl ze het wel nodig hebben. En dan maak je het veel concreter. Want nu blijft het een beetje statistiek, het blijft al een beetje wetenschap. En wij proberen het dus veel concreter te maken wat de winst van AI is, want dat is eigenlijk het grote probleem. Er wordt heel veel onderzoek gedaan, er is nog steeds heel veel hype. Er zijn, ik denk, 100 of 200 wetenschappelijke publicaties die zeggen: wat zou het toch mooi zijn als je AI kon gebruiken voor prostaatbiopt. Die vervolgens een serie prostaatbiopten verzamelen, AI bouwen, een wetenschappelijk artikel schrijven en zeggen: wij hebben nu aangetoond hoe ongelooflijk beloftevol AI is voor prostaat. Daar zijn er denk ik 200 van. Ik weet zeker dat op dit moment nummer 201 eraan komt. Er is vrijwel niemand in de wereld die het gebruikt. En er is vrijwel niemand in de wereld die heeft bestudeerd: ja, maar wat betekent het nou? Het is natuurlijk leuk dat het beter wordt, maar ja, als dat beter worden alleen maar een of ander getalletje is wat niet leidt tot echt concrete patiëntwaarde, dan moet je ook afvragen waarom ze het willen gebruiken. En die data, die zijn er eigenlijk nog te weinig van.
Hebben jullie ook gekeken naar AI zonder de patholoog erbij, om te zien of er een bias is van de patholoog die door de AI beïnvloed wordt?
Ja, dat is een goede vraag. Ja, dat doen we ook. En het blijkt dat nu bij sommige toepassingen – ik moet er wel voorzichtig mee zijn – maar er zijn toepassingen waarbij wij zeggen: we vergelijken altijd de patholoog met de patholoog met de AI. Op een gegeven moment kun je af gaan vragen: kun je de AI vergelijken – de AI met patholoog? En er zijn toepassingen waar de patholoog het niet beter maakt, maar zelfs slechter. Vergelijkbaars zie je ook in andere vakgebieden. Er zijn allerlei plekken waar we zien dat de mens vaak het gevoel heeft dat je moet ingrijpen, dat je allerlei dingen ziet die een AI niet kan zien. Het voordeel van een AI is dat die ongelooflijk consequent is – echt rücksichtslos consequent. Er zijn toepassingen waar je ziet dat inderdaad, als een mens probeert in te grijpen, dat dat vaker negatief uitpakt dan positief. Dat ligt natuurlijk wel heel gevoelig allemaal.
Een vraag die je vast vaak krijgt op congressen: gaat AI de patholoog vervangen?
Als je naar congressen gaat, is dat een van de vragen die je altijd krijgt als je presentaties geeft: gaat het de patholoog vervangen? Ik denk dat dat op heel veel gebieden in de maatschappij geldt. Op dit moment ook voor onderzoekers – er komen steeds meer AI-agents die geweldig wetenschappelijk onderzoek kunnen bedenken, opzetten, bijna uitvoeren. Dus ook mijn eigen baan is wat dat betreft verre van veilig, denk ik. Maar dat is natuurlijk een terechte vraag. Tegelijk vind ik zelf ook – we werken in een ziekenhuis, ik werk in een ziekenhuis, uiteindelijk gaat het niet om de dokter, het gaat niet om mij, het gaat om de patiënt. Dus ik vind tegelijkertijd ook: als wij AI zo ver kunnen krijgen dat hij het beter doet dan een patholoog, dan zou het ook wel onethisch zijn om te zeggen dat gaan we niet gebruiken. Maar goed, zover zijn we nog lang niet door. Het blijft nog steeds wel bij hele bepaalde beperkte toepassingen waar we dat kunnen doen.
Wat is volgens jou een belangrijke stap om van research naar praktijk te gaan?
Wij zijn er wel hard mee bezig. Er zijn meer plekken, ook in Nederland waar ze mee bezig zijn. Je zit met één grote drempel, en dat is: je kunt niet zomaar iets in de praktijk toepassen. Het is medische sector. Dus je kunt niet – een chirurg kan niet zomaar eens een nieuw mes uitproberen en zeggen: het lijkt me nou eens leuk om dit te doen. En ook bij ons – diagnostiek – zitten ontzettend veel regelgeving. Dat betekent: voor je iets mag gebruiken in de praktijk, moet je heel veel bewijs leveren dat het veilig is. En moet je dat op allerlei manieren testen, moet je een kwaliteitsmanagementsysteem hebben waar dat allemaal in opgenomen wordt. En dan zijn er eigenlijk grofweg twee manieren waarop je dat kunt doen. Je kunt het ofwel doen via een bedrijf – we hebben zelf in Nijmegen een spin-off opgezet om dat voor elkaar te krijgen. Als je het als bedrijf doet, dan wil je dus een product in de markt zetten en dan moet je ook voldoen aan allerlei regelgevingen, moet je ook certificering krijgen. Dat is een ongelooflijk complex en duur proces, waarbij je ook voor die certificering bijvoorbeeld grote studies moet doen, moet aantonen dat het veilig is, ongelooflijk veel documentatie moet aanleveren. In Nijmegen hebben we dat voor elkaar gekregen, dus we hebben voor één product certificering gekregen voor het graderen van borstkanker. Dat is moeilijk, dat is complex, dat is duur. En vervolgens blijkt dat eigenlijk de markt nog niet echt daar is, zoals ik net al zei – de pathologen zijn ook helemaal niet zo eager om het te gaan gebruiken. De andere manier is wat ze in Amerika noemen een 'lab developed test' – dat is een test die je in eigen onderzoek ontwikkelt. Dan kun je een soort validatie doen in je eigen omgeving, dan hoef je geen certificering te doen. En dan mag je het ook in huis gebruiken, dan mag je het voor eigen gebruik gebruiken. Dus dat wordt heel veel gebruikt in allerlei laboratoria – je kunt ook je eigen test ontwikkelen, maar dan moet je wel zorgen dat je je eigen validaties doet, dat je zelf aantoont dat het veilig is. Daar zijn ook allerlei protocollen voor. En wij zijn in eigen Nijmegen bezig om ook dat te doen voor een aantal verschillende AI-modellen. Dat blijkt ontzettend complex, veel ingewikkelder dan ik dacht.
Waar zit die complexiteit dan in?
Dat zit hem eigenlijk in een hele hoop simpele zaken. Je AI moet werken – maar die AI produceren, dat hebben we gedaan, dat werkt. Je moet laten zien dat die AI goed werkt door het met gebruikers te gaan uitproberen. Maar je wil het ook in je workflow integreren. En dat integreren in die workflow betekent: je moet uiteindelijk in discussie met de bedrijven die onze workflow-software leveren. En die moeten een API leveren, je moet ergens je beelden uithalen en je resultaten terugstoppen. Je moet met je IT-afdeling van je instelling praten, want er moet ergens een firewall-port geopend worden, dan moet ergens een server opgezet worden. Klinkt heel erg bekend – eigenlijk denken, die allemaal heel simpel zijn. Maar het opzetten van een Linux-server – expertise van Linux is vrij beperkt, want we werken met Windows. Dus sommige hele eenvoudige, eenvoudig oplosbare problemen kosten soms maanden om op te lossen. Terwijl je denkt: ja, hoe moeilijk kan het zijn, een server binnen de firewall – dat kan een half jaar kosten.
Is het soms niet frustrerend dat je aan de ene kant een technologie hebt die heel krachtig is en van alles zou kunnen betekenen voor patiënten, en dat je aan de andere kant te maken hebt met allemaal drempels en kuilen?
Ja, dat is zeker frustrerend. En vooral, weet je, kijk: als het wetenschappelijke stuk niet goed is, dan weet je – ik moet iets doen. Als je AI-model niet goed genoeg is, dan voel je je ergens verantwoordelijk en denk je: ik heb het niet goed gedaan. Als het gaat om het openen van een firewall-port, dan voelt dat anders. En ik moet je eigenlijk zeggen: kijk, tien jaar geleden was ik ook denk ik veel meer van het hype-gevoel. Ging ik naar congressen en liet ik zien welke geweldige mogelijkheden er waren, en dan kreeg je altijd de vraag: wanneer gaat dit een rol spelen? En dan zei ik: nou, vijf jaar max, dan hebben we in de pathologie zeker AI-oplossingen die we gebruiken. Dat was tien jaar geleden. Ik vertelde net al: het wordt eigenlijk nog steeds vrij weinig gebruikt. En ik vind het nu eng om die vraag te beantwoorden, omdat ik gewoon weet dat er zoveel factoren zijn die je niet onder controle hebt, dat het heel lastig is om daar voorspellingen voor te doen. Maar het is wel frustrerend, want we weten dat we technisch van alles kunnen. Er zijn ook best wel veel gebruikers, potentiële gebruikers die vooruit willen. Maar ja, er zijn te veel hordes nog om het echt breed in te zetten.
Zijn jullie ook nog nieuwe modellen aan het maken of aan het onderzoeken?
Ja, zeker. We hebben heel veel projecten op allerlei gebieden. Mijn eigen focus is voor een groot deel borstkanker – daar ben ik al lang mee bezig. Maar ik heb ook projecten op niertransplantaten bijvoorbeeld, op de diagnostiek, op gynaecologische kankers. Collega's van mij kijken naar longkanker, huidkanker, prostaatkanker, pancreas. Veel oncologie. En op al die gebieden zien we echt wel mogelijkheden om winst te boeken. En dan zitten wij alleen maar in de pathologie-kant, maar je hebt natuurlijk ook de radiologie – daar is het ook een heel groot gebied. Genetica is een belangrijke stuk diagnostiek waar je met AI iets kunt. Het liefst zou je multimodaal gaan en die dingen met elkaar gaan combineren. Kan allemaal, alleen ja, data is vaak de grote uitdaging. Als je een onderzoeker vraagt wat zijn je uitdagingen, het krijgen van data – betrouwbare data – is ongelooflijk complex. En dan zit je met allerlei regelgevingen ook: de AVG, GDPR in Europa. Ik ben als onderzoeker, hoogleraar – ik ben echt een behoorlijk deel van mijn tijd ben ik bezig met het zoeken naar partners, het werken aan data transfer agreements. Je kunt niet zomaar data delen met iemand, er moet een juridische overeenkomst komen. Dat is ongelooflijk ingewikkeld.
Kun je iets vertellen over het Big Picture project?
Dat is een van de redenen dat een van mijn grootste projecten het Big Picture project is. De naam zegt het al een beetje – dat is een groot Europees project met 44 partners, waarvan tien farmaceutische bedrijven. Wat we daar doen is: we bouwen een hele grote database die we vullen met 3 miljoen pathologiebeelden plus allerlei metadata. Wat is het voor een patiënt, wat is de leeftijd van de patiënt, wat is het geslacht van de patiënt, wat is de diagnose. En dat willen we beschikbaar maken voor onderzoekers, maar ook liefst voor bedrijven – voor eigenlijk alle AI-ontwikkelaars. En dat is eigenlijk een beetje geboren vanuit onze eigen pijn met het verzamelen van data. We zien gewoon dat we heel veel tijd bezig zijn met het verzamelen van data, dat het echt heel moeizaam is. Dat heeft eigenlijk iedereen er last van. Dus dat hele Big Picture-idee is daaruit geboren. We hopen dat als Big Picture werkt – dat gaat nog een paar jaar duren – dat het in ieder geval heel duidelijk is. Nu: als ik onderzoek wil doen op het gebied van borstkanker, dan moet ik gaan zoeken naar welke onderzoekers hebben mogelijk interessante data. Ik moet erachter komen: welke data hebben ze nou eigenlijk precies, wat kan ik daar verwachten. Dan moet ik erachter komen: willen ze delen, en met welke voorwaarden gaan ze delen. Het idee van Big Picture is dat je een soort zoekfunctie aan de portal hebt, dat je eigenlijk in no time kunt zien: oké, deze data is aanwezig, dit is de metadata die aanwezig is, en dit zijn de voorwaarden waaronder ik het kan gebruiken. En ook het hele juridische stuk, dat dat helemaal gestandaardiseerd is. Dus dat je ook weet: als ik deze data interessant vind en ik ben in principe toestemming kunnen krijgen – bijvoorbeeld de data is beschikbaar voor een bedrijf en ik ben een bedrijf, ik volg precies de regels – dan weet ik ook precies: oké, dit is de weg om tot die data te komen. Dus ik moet deze aanvraag doen, dan komt deze procedure en dan kan ik dit verwachten. Dus het idee is daarmee om een hele grote hoeveelheid data te ontsluiten, omdat dat nu wel een van de grote belemmeringen is in ons veld.
Hoe ver zijn jullie met dit project?
Het is een zesjarig project, we zijn vijf jaar bezig. Maar het loopt echt heel moeizaam, dus we hebben uitstel aangevraagd. We zijn bezig met het aanvragen van uitstel om het project anderhalf jaar te verlengen. En dat zit hem in een aantal dingen, maar met name dat juridische stuk. Om te komen tot een soort juridische template die voor alle partners acceptabel is, dat heeft gewoon heel veel tijd gekost. Je moet je voorstellen: als ik nu met een partij een project inga om te kijken of ik data mag gebruiken van een andere partij, dan kost het vaak drie, vier, vijf, zes tot negen maanden voordat wij tot een contract komen. Een aantal keer op en neer: waar liggen de rechten voor bepaalde dingen, wie heeft welke verplichtingen. Dat kost gewoon tijd. We hebben nu een soort contract afgesloten met 44 partijen, dus ook 44 legal mensen in 44 partijen die allemaal datzelfde contact hebben moeten vinden. En van die 44 zijn er tien farmaceutische bedrijven – daar ligt de lat vaak nog hoger. Dus je kunt je voorstellen dat wij twee, tweeënhalf jaar bezig zijn geweest om dit voor elkaar te krijgen.
Maar het is wel een heel mooi initiatief?
Ja, zeker. En als het gaat werken, dan denk ik dat het heel veel waarde heeft. En we zijn goed op weg. En vooral voor de maatschappij heel veel waarde, inderdaad. Dus dat het buiten de bedrijven gaat leven en het gebruik ook groter kan worden, en dat je inderdaad best wat initiatieven kunt starten die hiervoor niet gestart konden worden, of heel moeilijk gestart konden worden.
Jullie hebben een kaartspel ontwikkeld met stellingen over AI in de gezondheidszorg. We hebben er één voor je: "AI heeft de meeste waarde voor de zorg als klinische beslisondersteuning." Wat vind jij daarvan?
De meeste waarde – moeilijk. Je ziet het gebruik van AI toenemen op allerlei plekken. Je ziet ook dat een behandelend arts die voor een patiënt op spreekuur komt, een heleboel data tot zich moet nemen om voorbereid te zijn. Dat kan bestaan uit allerlei rapporten van verschillende specialisten en zo. Waar wij nu ook mee testen bijvoorbeeld, is om een soort samenvatting te maken van al die klinische gegevens, zodat een behandelende arts eigenlijk een heel kort overzicht meteen ziet van: oké, dit is er relevant. En niet enorm hoeveel tekst hoeft door te lopen. Dat is geen beslisondersteuning, maar is wel een heel relevante toepassing, denk ik. Maar goed, het is wel mijn eigen vakgebied, dus ik denk – ja, ik zie daar zeker waarde in. Wij kijken nu al heel erg naar: kunnen wij voor borstkankerpatiënten bepalen of ze een bepaalde behandeling wel of niet nodig hebben, waarbij we heel erg proberen om therapie te de-escaleren. Dus dat wil zeggen: sommige borstkankerpatiënten krijgen nu chemotherapie, terwijl wij weten dat die eigenlijk helemaal geen baat hebben, maar wel heel veel last. Wij proberen met AI beter in te schatten of een patiënt misschien zonder die chemo kan. Dus we geven de patiënt niet meer therapie, we geven de patiënt minder therapie. En dat is natuurlijk wel een voorbeeld van die beslisondersteuning. En ik denk dat daar wel veel waarde te halen valt. Dat is dan ook dus personalisatie van de plannen die je toepast bij de context van de persoon.
Zou AI kunnen helpen in gebieden waar specialisme schaars is, bijvoorbeeld in ontwikkelingslanden?
Ja, denk ik zeker. En ik denk dat voor mijn eigen vakgebied – de pathologie – het rijke westen, in Amerika, Europa, dat is ongelooflijk goed geregeld. We hebben een hele hoge kwaliteit van diagnostiek. Er zijn heel veel landen waar nauwelijks pathologen aanwezig zijn. Dus waar elke AI-oplossing al heel veel meer zal zijn dan wat er nu is, want er is nu geen pathologie. En nu wordt er gewoon chirurgie uitgevoerd zonder dat iemand nou precies bekeken heeft wat er aan de hand is. Ik heb wel eens gehoord – ik weet niet of het nog steeds het geval is – maar in China heb ik wel eens gehoord dat er geloof ik tienduizend pathologen actief zijn. En ik geloof dat ze eigenlijk voor hun bevolking nog honderdduizend nodig hebben. Dus dat betekent gewoon dat er voor heel veel gevallen geen pathologie aan te pas komt. AI is niet perfect, hij zal nooit perfect zijn, maar hij kan nog steeds een ongelofelijke meerwaarde hebben.
Wat zijn grote veranderingen die je hebt meegemaakt in de afgelopen 30 jaar?
Voor ons is dat de mogelijkheid om te digitaliseren, om die beelden echt helemaal digitaal te maken. Dat is iets wat wel een revolutie in de pathologie heeft gegeven. Ik denk de meeste mensen die jullie hier ontvangen – deep learning is natuurlijk een ongelooflijk grote verandering geweest. Dat is natuurlijk een ommekeer geweest. En ja, kan het ook niet omheen: alles met generatieve AI, LLM's – dat is natuurlijk ook weer een ontzettende sprong, waarvan we ook zien dat het grote impact heeft op ons veld.
Zie je toepassingen van multimodale modellen, zoals ChatGPT die plaatjes kan analyseren, ook voor de pathologie?
Ja, zeker, daar wordt naar gekeken. Je kunt zelfs met – er zijn van die chatbots die op pathologie gericht zijn, dus die kun je een pathologiebeeld geven en dan kun je met de chatbot praten over dat beeld. Ze zijn niet op het niveau dat je er echt klinisch iets mee zou kunnen, maar ze zijn wel interessant. Het grappige is dat de meeste pathologen daar eigenlijk niet zo heel veel interesse in hebben, omdat het echt een gimmick is. Je kunt zo'n gedigitaliseerd beeld erin gooien en je kunt zeggen: wat denk je, wat zie je hier? En dan kan hij iets aangeven, misschien is het kanker. En dan kun je ook vragen: waarom denk je dat het kanker is? En als het kanker is, wat denk je dan van dit of dit, zie je bepaald soort invasie? Je kunt allerlei dingen aan vragen. De meeste pathologen zeggen: ja, maar weet je, ik heb in mijn werk helemaal geen tijd om gezellig te gaan kletsen met een chatbot. En meestal, ik kijk zelf, ik zie wat er aan de hand is. Ik – ja, daar heb ik helemaal niks aan. Waar vaak wel veel waarde in gezien wordt, is voor pathologen in opleiding. Nu is het zo dat een patholoog in opleiding casussen bekijkt, vervolgens met een patholoog gaat zitten en gaat bespreken wat hij of zij gezien heeft, waarom dat klopt, waarom het niet klopt. En dat kost natuurlijk best veel tijd. En veel pathologen zeggen: als een patholoog in opleiding dan veel vaker met zo'n chatbot zou kunnen praten, dat vervangt niet de interactie met de patholoog, maar het betekent wel dat je ontzettend veel exposure al hebt tot pathologie-kennis. Dat je heel veel vragen kunt stellen, vooral in het begin van je opleiding – zou je natuurlijk wel veel sneller kunnen leren dan alleen maar die momenten dat je nu met een patholoog hebt.
Hoe gebruiken jullie LLM's in het onderzoek zelf?
Daarnaast kijken we ook wel voor onze eigen onderzoeken of inderdaad met large language models dingen kunnen doen. Vaak zie je dat de kwaliteit daar nog niet goed genoeg voor is, maar dat het wel nuttig kan zijn. Wat wel bijvoorbeeld een hele mooie toepassing kan zijn: we halen vaak data uit onze systemen, en pathologierapporten zijn vaak heel erg narratief. Dus een patholoog, als die een casus verslaat, dan komt daar een heel stuk tekst uit. De patholoog spreekt dat in, en kan zeggen: nou, ik zie hier borstweefsel en ik zie dit, ik zie dat, ik zie dit, ik denk aan dit, ik denk aan dat. En als wij onze AI willen trainen, dan willen we natuurlijk heel gestructureerd die data eruit kunnen lichten. We willen geen mooi narratief, we willen gewoon: is het kanker of is het geen kanker, heeft het wel perifere vasculaire invasie of niet – alle karakteristieken die je kunt zien. Daar kun je LLM's heel goed voor gebruiken om die rapporten te analyseren en daar die data-extractie uit te doen en precies die informatie uithalen die je wil gebruiken. Dus daar gebruiken we dat wel voor – in de preprocessing en data in de juiste categorisatie krijgen.
Zou je het voor de patiënt ook toegankelijker kunnen maken? Want als ik als patiënt iets lees uit de pathologie in mijn elektronisch patiëntendossier, is dat niet makkelijk te begrijpen.
Je bedoelt dat je daar AI voor gebruikt om het leesbaar te maken? Ja, waarom niet. Je kunt je natuurlijk afvragen – het is zo dat inderdaad als patiënt heb je toegang tot al je patiëntendata. En inderdaad, zo'n pathologierapport, daar kun je van afvragen: ja, wat heeft de gemiddelde patiënt daaraan? Ik snap mijn eigen pathologierapport vermoedelijk ook niet. Dus je hebt altijd wel de uitleg van iemand nodig. Ik denk dat AI daar een hulp bij kan zijn, maar ik denk dat je nog steeds wel een mens nodig hebt om het echt goed te interpreteren. Vaak moet je een pathologiebevinding ook zien in het bredere kader van andere bevindingen, van je verleden als patiënt. Maar ik denk dat AI daar wel behulpzaam bij kan zijn om het wel iets vriendelijker te maken, iets meer jij-en-janker. Want inderdaad, het pathologierapport is – ja, dat is niet bedoeld voor een patiënt. Dat is bedoeld voor een andere dokter die weet wat hij leest.
Met de kennis van technologie en hoe dat allemaal gebruikt wordt, wat zou je absoluut niet willen dat er vervangen gaat worden met AI?
Dat is een goede vraag. Maar dat speelt in de pathologie minder een rol. Ja, ik denk de interactie met patiënten – dat je daar uiteindelijk natuurlijk toch wel graag een mens tegenover hebt. En ik denk voor de foreseeable future dat je ook wel een mens in controle wilt. We hebben toevallig pas een hele studie gedaan onder patiënten om een idee te krijgen van: wat vinden patiënten nou van AI in de gezondheidszorg? Dus we hebben geloof ik 250 – niet patiënten, we hebben eigenlijk potentiële patiënten, gewoon Nederlandse burgers – geïnterviewd. Dat was in het kader van borstkankeronderzoek. Dus we hebben vrouwen geïnterviewd, gewoon ook op straat bij het station, via patiëntenvereniging, via LinkedIn. En een hele vragenlijst gegeven over het gebruik van AI in de diagnostiek, en een beetje de grens opgezocht van: stel dat die AI aantoont dat het beter doet dan de dokter, vind je dat een AI deze rol mag hebben, mag AI een rol hebben? En dan zie je toch wel dat patiënten de meerwaarde wel zien, maar ook wel heel fijn vinden als de arts begrijpt hoe de AI werkt en ook als de arts nog wel in control is. Dus dat volledig autonome AI is nog wel een brug te ver. En dat snap ik, en ik zou dat op dit moment ook niet aandurven. Ik denk dat we veel meer studies nodig hebben voordat we echt voor bepaalde toepassingen durven zeggen: nou, hier hoeft de mens vrijwel niet meer aan te pas te komen of helemaal niet meer aan te pas te komen. Ik denk wel dat het gaat gebeuren in de toekomst. En wat ik zei: interactie met patiënten, denk ik toch – ja, ik zou zelf niet zo graag met een chatbot praten. Ik word nou wel heel zenuwachtig als ik een helpdesk-chatbot heb. Je zou het liefst samen ook doorklikken naar een mens. Dat werkt vaak toch net iets beter. Laat staan inderdaad als we het in het zorgveld zitten – inderdaad, persoonlijk en ja, dat stukje beleving die je daarin meeneemt, zeker.
Vind je dat een patiënt de mogelijkheid moet kunnen hebben om te zeggen: ik wil niet dat er AI gebruikt wordt binnen mijn behandeltraject?
Nee, vind ik eerlijk gezegd niet. Nee, weet je, kijk: we focussen heel vaak op AI voor allerlei dingen, maar hetzelfde wat je voor AI kunt vinden, kun je natuurlijk vinden van alle mogelijke innovaties die we in de zorg doen. En ik denk dat de gemiddelde Nederlander geen idee heeft wat een patholoog doet en welke testen daar allemaal bij komen kijken. Daar wil je vertrouwen in kunnen hebben dat wat er gebruikt wordt het beste is wat we kunnen gebruiken, dat het veilig is. Maar ik denk niet – als wij op een gegeven moment AI gaan gebruiken, dan is ons hele proces daarop ingericht. En als je dan zeggen voor deze individuele patiënt willen we het uitschakelen, dan ga je ten eerste het heel ingewikkeld maken, kostbaar en ook eigenlijk heel risicovol. Want op een gegeven moment ben je daar niet meer op ingericht. Vertrouwen, dat vind ik wel het kernwoord inderdaad in dit verhaal: hoe kun je vertrouwen bouwen en vertrouwen ergens in hebben? De toetsing en de regels die er zijn, dat bouwt enigszins vertrouwen. Maar ja, het is zoiets – ik ga ook niet tegen mijn monteur zeggen: ja, je mag mijn auto repareren, maar alsjeblieft de moersleutel mag je bij deze niet gebruiken. Maar wat je zegt is wel een goed punt. En wij zijn wel verplicht vanuit de Europese regelgeving om heel duidelijk op onze website bijvoorbeeld te vermelden waar we dat soort technieken gebruiken. Dus als we AI gaan gebruiken, moeten we dat wel – moet de patiënt dat in principe wel kunnen vinden.
Als je zou mogen dromen zonder alle huidige limitaties, wat is dan de AI-oplossing die je in de komende vijf jaar zou willen creëren en in de praktijk brengen?
Ik denk dat degene waar we in Nijmegen nu vrij ver mee zijn, is bijvoorbeeld die prostaatkankergradering. Daar hebben we ook al aangetoond dat het echt goed werkt. Dus ik denk dat dat zou erin zijn waarvan ik hoop dat we die over vijf jaar wel in de praktijk hebben. En ik moet – ik durf geen voorspellingen meer te doen. Het zou me verbazen als ons dat niet lukt in vijf jaar. We zijn daar echt wel hard mee bezig.
Over de gast
Jeroen van der Laak is hoogleraar computationele pathologie aan het Radboud UMC in Nijmegen. Al ruim dertig jaar ontwikkelt hij software om microscopiebeelden te analyseren, werk dat tegenwoordig onder de noemer AI valt maar in essentie altijd hetzelfde doel heeft gehad: de patholoog helpen betere diagnoses te stellen. Zijn onderzoek richt zich onder meer op het verbeteren van de diagnostiek bij kanker en het ontsluiten van grote hoeveelheden pathologiedata voor onderzoekers wereldwijd.
Bekijk gastprofielTranscript
Jeroen van der Laak is hoogleraar computationele pathologie aan het Radboud UMC en Nijmegen. Hij bouwt al decennia software die microscopiebeelden analyseert. Tegenwoordig heet dat AI, maar de kern is altijd hetzelfde geweest. De patholoog helpen betere diagnoses te stellen. In deze aflevering gaat het over een vraag die meer inhoudt dan je denkt. Want als AI aantoonbaar beter presteert dan de gemiddelde patholoog bij het graderen van prostaatkanker, waarom gebruikt dan bijna niemand het nog? Joop: Leuk dat je luistert naar een nieuwe aflevering van AIToday Live. Joop: Mijn naam is Joop Snijder, Head of AI bij Info Support, Niels:mijn naam, Niels Naglé en Area Lead Data & AI bij Info Support, Joop: en we hebben de gast Jeroen van der Laak en Jeroen, ik ben echt heel erg blij dat je hier in de studio bent, want ik had namelijk een buitengewone presentatie van jou gezien en het ging over AI in de pathologie. Joop: En als ik nou ergens geen verstand van heb, dan is het wel pathologie. Joop: Dus we zijn heel erg benieuwd naar jouw verhaal van wat doe je eigenlijk daar allemaal mee. Joop: Maar voordat we beginnen, wil je jezelf eerst even voorstellen. Jeroen: Ja, zeker. Jeroen: Dank voor de uitnodiging sowieso. Jeroen: Mijn naam is Jeroen van der Laak. Jeroen: Ik ben hoogleraar computationele pathologie in het Radboud UMC Nijmegen, dus academisch ziekenhuis. Jeroen: Ik heb een achtergrond als informaticus, maar dat is wel heel lang geleden. Jeroen: 1991 ben ik afgestudeerd en ben ik terechtgekomen in het Radboud ziekenhuis vanuit een stage eigenlijk. Jeroen: Reken maar uit, dus ik ben kleine 35 jaar werk ik in de Radboud. Jeroen: Ik ben altijd bezig geweest eigenlijk met het maken van software om microscopie beelden te analyseren. Jeroen: Dat is pathologie en daar kunnen we iets meer over hebben, en de laatste tien, vijf jaar, zoals jullie weten noemen dat AI, daarvoor had dat andere namen. Jeroen: Zal ik daar iets meer over vertellen? Joop: Ja, graag zeker. Jeroen: Misschien eerst iets over de pathologie. Jeroen: Pathologie is een medisch specialisme. Jeroen: Waarbij een patholoog weefsels beoordeelt, cellen weefsels beoordeelt op de aanwezigheid van ziekte. Jeroen: Dus je moet je voorstellen als je een huid dingetje hebt een moedervlek, die wordt weggesneden door een dermatoloog. Jeroen: Dat gaat naar de patholoog en de patholoog die kijkt wat is het, wat is er aan de hand, hoe ernstig is het. Jeroen: En moet er eventueel aanvullende behandeling plaatsvinden. Jeroen: Als een vrouw een knobbeltje aan haar borst heeft, dan wordt daar een klein stukje weefsel weggehaald. Jeroen: Patoloog kijkt door een microscoop. Jeroen: En die kan zien: is het kanker, dus een voorstadium van kanker moet het geopereerd worden. Jeroen: De diagnostiek, zeg maar veel kanker, maar ook andere ziektes. Jeroen: Met AI proberen we steeds meer om die patholoog te helpen om zijn werk efficiënter te maken. Jeroen: Je kan je voorstellen, als je AI inbrengt, dan kan het sneller zijn. Jeroen: Maar wat we ook weten, als we hetzelfde hetzelfde weefsel aan vijf pathologen geven, blijft mensenwerk, dan krijg je niet vijf keer precies hetzelfde oordeel. Jeroen: Er zit variatie ook tussen pathologen. Joop: Betekent dat je naast, want je zegt efficiënter maken, betekent het dan ook kwalitatief beter maken, dat er ook bij hoort. Jeroen: Ja, precies. Jeroen: Dus als jij stel dat jij een verhoogd PSA niveau. Jeroen: Het PSA is een stofje dat meet je in het bloed. Jeroen: En als je als man te hoog PSA hebt, kan het duiden op prostaatkanker. Jeroen: Dan kan een uroloog die opnemen. Jeroen: Dus je neemt een klein beetje weefsel af. Jeroen: En dan gaat de patholoog kijken, is daar sprake van kanker. Jeroen: En als het kanker is, gaat die patholoog ook kijken van hoe ernstig ziet het eruit. Jeroen: En als die patholoog zegt van het ziet er eigenlijk helemaal niet zo ernstig uit, dan is het beleid, kom over een jaar terug, testen of een jaar weer dat bloed. Jeroen: Ziet het er heel ernstig uit, dan moet die prostaat meteen verwijderd worden. Jeroen: Dan kan je voorstellen, als je die patholoog geeft dan een graad van ernst. Jeroen: Dus die patholoog zegt: het is een kankergraad 1, 2, 3, 4. Jeroen: Dat lijkt de pathologen af aan patronen in het weefsel. Jeroen: Dus je kijkt naar allerlei patronen en de groei van de cellen die bepaalt of het een graad 1, 2, 3 is. Jeroen: Ik kan je voorstellen, als een vijf pathologen dat zouden doen, twee pathologen dat zouden doen, komt het wel eens voor dat de ene zegt: ik denk dat het een graad 2 is, en de andere denkt van nou, ik zie toch echt aanwijzingen voor je graad 3. Jeroen: AI kan daarbij helpen en AI is natuurlijk ontzettend consequent in zijn beoordeling. Jeroen: Dus AI kan helpen om die patholoog consequenter te maken en te zorgen dat ze allebei op een twee of een drie uitkomen. Joop: Wat maakt het heel erg uit dan, een 2 of een drie. Joop: Dat ligt eraan dat kan het verschil zijn tussen het verwijderen van de prostaat en het niet verwijderen van behoorlijke impact dan heeft het wel impact. Niels: En ik was wel nieuwsgierig. Niels: Je zei een foto, het is op basis van een foto of is het van meerdere foto's, broei. Jeroen: Het is een microscoopbeeld. Jeroen: Dus wat wij wat je in de pathologie doet, je maakt microscopische preparaten. Jeroen: Vroeger keek een patholoog door een microscoop en die beoordeelt dat dat weefsel door een microscoop. Jeroen: Tegenwoordig steeds meer kunnen we die beelden digitaliseren. Jeroen: Dus het volledige preparaat digitaliseren. Jeroen: En dan hebben we een whole slide image. Jeroen: Heel groot beeld. Niels: Ja, heel groot beeld van een scan van alles wat er in het preparaat dan zit om te gebruiken. Jeroen: Maar het zijn hele grote beelden, je hebt het over 3 gigabyte aan pixels. Jeroen: Gecomprimeerd. Jeroen: Dus dat zijn enorme beelden. Niels: En die kan je dus dan allemaal gebruiken, terwijl hiervoor moet je een microscoop inzoomen, uitzoomen, inzoomen uitzoomen of niet. Jeroen: Dus de patholoog die kijkt aan beeldscherm, maar die heeft software die eigenlijk dat microscoop een beetje nadoet. Jeroen: Dus je kan nog steeds inzoomen, uitzoomen, schuiven. Niels: Je noemde in het begin specialisatiepathologie, maar volgens mij hoor ik ook heel veel zaken weer, kankerdetectie, andere soorten weefsels, dus daarbinnen is eigenlijk weer een heel groot gebied, heb ik het gevoel van pathologie. Jeroen: Nou, ja, pathologie is heel breed, alle diagnostiek die je op weefsels doet. Jeroen: Dat komt bij een patholoog terecht. Jeroen: Dus het gaat ook over baarmoederhals uitstrijkjes, dat gaat over biopsie. Jeroen: Maar als iemand kanker heeft in een orgaan, dan wordt ook het hele orgaan onderzocht. Jeroen: Als je een transplantaat nier hebt, dan kan het zo zijn dat er een afstotingsreactie plaatsvindt in die nier. Jeroen: Dan halen we dan ook een klein beetje weefsel uit en dat het ook door een patholoog bekeken. Niels: Als het daar goed gebruikt wordt en dan is de impact ook heel groot die het kan hebben. Jeroen: Ja, in principe wel, dat is natuurlijk wel een interessant punt. Jeroen: Een jaar of tien, vijftien, dus dat digitaliseren van die pathologie, dat is eigenlijk vrij recent, dat is iets van die laatste. Jeroen: Ja, het ligt eraan waar je bekijkt, maar wij in Nijmegen doen het de afgelopen vijf jaar, dus alles digitaliseren. Jeroen: Als je naar Amerika gaat. Jeroen: Dan zien ze eigenlijk de meerwaarde van digitaliseren nog niet. Jeroen: Dat is 5% van de pathologie laboratoria werkt met digitale beelden. Jeroen: 95% werkt met een microscoop. Jeroen: Dat heeft een beetje te maken dat digitaliseren best duur is en dat veel pathologen zeggen van nou, ik zie die meerwaarde eigenlijk niet. Jeroen: En dat heeft wel grote consequenties, want dat betekent bijvoorbeeld voor de bedrijven in ons veld, er zijn steeds meer start-ups die proberen AI voor de pathologie te ontwikkelen. Jeroen: Die hebben het erg moeilijk, omdat de markt er eigenlijk bijna niet. Jeroen: Als pathologen niet digitaliseren in pixels hebben, dan kom je met AI niet heel ver natuurlijk. Joop: En willen ze het dan niet omdat ze niet in die AI geloven. Jeroen: Het zijn twee stappen. Jeroen: De digitalisering is een stap los van de AI. Jeroen: Waarbij je gewoon wel workflow verbetering kan hebben. Jeroen: Normaal heb je dus die microscopische preparaten. Jeroen: En die worden voortdurend, dat is allemaal glas, dat worden door zijn afdeling heen gebracht van de ene plek naar de andere, het kan zoek raken. Jeroen: Het opslaan daarvan is een heel gedoe, het is heel zwaar allemaal. Jeroen: Dus de digitale pathologie, het zeker digitaliseren, los van de AI, dat is op zich al een grote transformatie in de pathologie, waar gewoon de workflow een stuk soepeler maakt. Jeroen: Dat zien het niet alle pathologen zetten. Jeroen: Want ze zeggen van ja, dat is heel duur en de winst is eigenlijk niet zo heel groot. Jeroen: De volgende stap zou natuurlijk zijn AI. Jeroen: Maar ik denk dat AI op zich een reden kunnen zijn voor pathologen om daar te digitaliseren. Jeroen: Alleen de meerwaarde van AI is onvoldoende aangetoond. Jeroen: Dus ik denk op het moment dat wij kunnen aantonen van een pathologie lab kan door het gebruik van AI enorme winst boeken op de een of andere manier. Jeroen: Dan denk ik dat de stap van digitalisering makkelijker wordt. Joop: En waarom is die zo moeilijk om dat aan te tonen? Joop: Want je zou denken, je beelden, je hebt hele fijne, fijnmazige beelden. Joop: Daar is AI typisch voor geschikt. Joop: Wat maakt het dan complex om het dan wel aan te tonen? Jeroen: Ja, goede vraag. Jeroen: Er zijn een aantal punten, denk ik. Jeroen: Eén belangrijke is dat de kwaliteit van de AI toch niet altijd goed genoeg is. Jeroen: En dat heeft er vooral mee te maken dat je ontzettend veel variatie in je data. Jeroen: En jullie kennen vast het probleem met generaliseerbaarheid van AI. Jeroen: Dus dat betekent als ik AI produceer in Nijmegen in mijn eigen centrum en dat werkt ongelooflijk goed. Jeroen: En ik kom naar vele, dan kun je het vele nadoen. Joop: Utrecht. Jeroen: Je zet diezelfde AI neer in Utrecht, dan doet hij het een stuk minder goed, omdat Utrecht heeft een iets andere manier van het maken van die preparaten, even een iets andere manier van het scannen van die preparaten. Joop: Dat gaat niet eens om het weefsel, het gaat uiteindelijk over hoe je dit weefsel gedigitaliseerd krijgt. Jeroen: De stap, zeg maar, van het uitgenomen weefsel tot een digitaal beeld. Jeroen: Daar zit een heleboel stapjes in en het weefsel wordt gefixeerd, dat wordt, daar worden dunne plakjes voor gesneden, dat wordt gekleurd, dat wordt gescand. Jeroen: En al die stappen die brengen variatie in je beeld. Jeroen: En het blijkt dus dat er ongelooflijk grote variaties kunnen zijn tussen verschillende laboratoria, verschillende landen in hoe dat beeld eruit ziet. Jeroen: Dus een heel groot deel van het onderzoek dat wij doen en dat er gedaan wordt, is kijken hoe maken we onze AI nou robuust voor deze variaties. Joop: Oké, maar hebben jullie bij jullie zelf intern wel aangetoond dat het meerwaarde heeft. Joop: En neem je nu de stap om te kijken of je het generieker kan maken. Joop: Werkt het zo goed. Jeroen: Ja, ik denk het wel. Jeroen: Dus die meerwaarde die kan uit een aantal verschillende dingen bestaan. Jeroen: En twee hebben we net al genoemd. Jeroen: Dus de belangrijkste voordelen die pathologen zien, is efficiëntie. Jeroen: Dat is bijvoorbeeld een patholoog die moet iets beoordelen en dat kost veel tijd. Jeroen: Zo een computer AI zou je een soort voorscreening kunnen laten doen waarbij de patholoog dus tijd bespaart. Jeroen: Bijvoorbeeld iets wat wij veel bestudeerd hebben, is een vrouw die borstkanker heeft. 136 Jeroen: Daar kijken we altijd naar de lymfklieren, omdat als er tumor zit in de lymfklier, dan betekent dat dat die tumor. 137 Jeroen: Die borstkanker het vermogen heeft om uit te zaaien. 138 Jeroen: Want hij is naar het lymfklier gegaan. 139 Jeroen: Dus dat betekent dat ze eigenlijk een slechte prognose geeft. 140 Jeroen: Dus dat betekent bijvoorbeeld dat die vrouw eerder chemotherapie zal moeten krijgen naast chirurgie. 141 Jeroen: Het vinden van die uitzaaiing lymfklieren, dat is eigenlijk een soort speurwerk, dus een patholoog heeft een heel groot beeld. 142 Jeroen: En moet gaan zoeken of er ergens een paar tumorcellen zitten. 143 Jeroen: En dat kost typisch één tot twee minuten per beeld per preparaat. 144 Jeroen: We hebben aangetoond, als je een patholoog AI geeft, die AI die scant dat beeld van tevoren, die vindt mogelijke tumorcellen. 145 Jeroen: En die patholoog hoeft alleen maar te kijken van oké, AI heeft hier iets gevonden, hier iets gevonden, hier iets gevonden. 146 Jeroen: Ik kijk alleen wat die AI gedetecteerd heeft, is daar tumor bij, dan weet ik het, is er geen tumor bij, weet ik het ook. 147 Jeroen: Dus dan kan je in principe kan je daar 50% van de pathologentijd of meer kun je daarmee besparen. 148 Joop: Wij zegt één tot twee minuten, dat klinkt nog niet veel, maar als het dan 50% is van alles wat je aan het doen bent. 149 Joop: Dat is wel fors. 150 Jeroen: Ja, maar toch wat je zegt klopt eigenlijk wel. 151 Jeroen: Ik heb het ooit wel eens uitgerekend, dat die lymfklieren bekijken, wat ik zo eens beschrijf, dat is een stukje van het werk van de patholoog bij iedere borstkanker. 152 Jeroen: Maar ik heb het ooit uitgerekend, als we naar alle al die lymfklieren in heel Nederland met AI zouden voor screenen. 153 Jeroen: Dan zouden we uiteindelijk op jaarbasis, nou ben ik het precies het getal kwijt, maar op jaarbasis zouden we per patholoog in heel Nederland een paar uur tijd besparen. 154 Jeroen: Dan moet je tegen afzetten dat als een bedrijf ze op de markt brengt, het product moet maken, moet certificeren, moet jaren aanwerken. 155 Jeroen: Het gaat niet verlopen, natuurlijk. 156 Jeroen: Het groot probleem is wel dat we die efficiëntie laten zien. 157 Jeroen: Maar wat je eigenlijk wil, het werk van de patholoog is heel breed. 158 Jeroen: Patoloog opent een casus, nieuwe casus, kijkt naar klinische gegevens, kijkt naar het verleden van de patiënt, gaat die beelden beoordelen en moet vervolgens een verslag maken. 159 Jeroen: En wat we tot nog toe hebben gedaan, is AI bouwen die alleen in dat beoordelen van die beelden, een stukje werk overneemt. 160 Jeroen: En als je op de hele workflow van de patholoog bekijkt, dan is dat toch vrij beperkt wat die winst is. 161 Jeroen: Wat ik merk is dat pathologen heel vaak tegen mij zeggen van weet je, dat stukje wat je aan die beelden doet, dat is leuk. 162 Jeroen: Maar dat stuk rapportage bijvoorbeeld, dat kost veel meer tijd. 163 Jeroen: Dus als je niet alleen maar dat beeld kan analyseren, maar je kan ook met een LLM bijvoorbeeld daar een stuk rapport maken. 164 Jeroen: En zeggen van oké, die patholoog hoeft dat stuk rapport ook niet meer te maken, die rapportage die wordt ook geautomatiseerd. 165 Jeroen: Dan zou de winst een stuk groter worden. 166 Niels: Ja, maar dat betekent ook wel dat die context die de patholoog heeft, die zou je ook mee moeten nemen dan naast de foto's en de beoordeling daarvan. 167 Jeroen: Ja, de complexiteit van je AI wordt groter. 168 Joop: Maar nu wordt er alleen gerekend dan in wat dit betekent aan productiviteit voor de patholoog. 169 Joop: Ik kan me zo voorstellen dat de winst ook in kan zitten in het vroegtijdiger kunnen detecteren van bijvoorbeeld de kankercellen of beter detecteren. 170 Joop: Wat dat dan betekent voor de patiënt. 171 Joop: En als je daar winst weten boeken, is dat zijn dat denk ik veel grotere stappen. 172 Jeroen: Ja, ben ik helemaal met je eens. 173 Jeroen: En wat we tot nog toe zien, maar ik denk dat het wat dat betreft nog redelijk vroeg is voor ons vakgebied. 174 Jeroen: Kijk, als wij nu met pathologen praten, dan is eigenlijk bijna altijd het verhaal. 175 Jeroen: Ik wil die AI best gebruiken, maar het gaat me geld kosten, ik moet allemaal techniek, dat moet allemaal geregeld worden. 176 Jeroen: Dus dan moet daar een heel duidelijke business case zijn dat die AI mij zoveel winst gaat geven dat ik er voor over heb. 177 Jeroen: En een patholoog kijkt dan natuurlijk in eerste instantie naar zijn eigen efficiëntie. 178 Jeroen: Als ik tegen de patholoog zeggen van we hebben in studies aangetoond dat de kwaliteit van de pathologie voor bepaalde toepassingen beter wordt door het gebruik van AI. 179 Jeroen: En zoals die prostaatkanker die ik zojuist zei, we hebben laten zien dat de gemiddelde patholoog een betere kwaliteit diagnose geeft met AI. 180 Jeroen: Ik vergelijk het wel eens met, ik denk dat het aantoonbaar is dat een zelfrijdende auto een betere kwaliteit chauffeur geeft dan een gemiddelde chauffeur. 181 Jeroen: Ik denk dat heel veel mensen daar mee eens zijn, laten we heel veel zelfrijdende auto's hebben, want de gemiddelde chauffeur is op die per se heel goed. 182 Joop: En ik denk dat heel veel mensen daarmee eens zijn, maar als ik tegen iemand zeggen van ik denk dat jij zelfrijdt, Niels staat net op te scheppen dat hij iemand dezelfde in de stand gezet had, en het bevalt mij prima voorlopig, maar dat geldt hier ook voor. 183 Jeroen: Kijk, als ik een patholoog zeggen van wij hebben in studies aangetoond dat in gemiddelde zin een patholoog tot een betere diagnose komt met AI, dan zijn de meeste mensen geloven dat wel. 184 Joop: Maar als ik dan zegt, oké, jij moet nou geld gaan betalen om jouw eigen kwaliteit van diagnostiek te verbeteren, je hoeft alleen voor de buurman. 185 Joop: Maar hebben jullie dat soort onderzoeken gedaan? Jeroen: Jazeker. Joop: En wat zijn de uitkomsten daarvan? Jeroen: We hebben voor een aantal toepassingen laten zien dat de kwaliteit van diagnostiek echt beter wordt voor bijvoorbeeld het graderen van borstkanker voor het graderen van prostaatkanker. Jeroen: Dat een patholoog met AI een uitkomst krijgt die dichter zit bij de waarheid. Jeroen: Dus wat we doen, we doen dan studies waarbij we een aantal casus selecteren. Jeroen: Dan laten we een panel van experts laten we zeggen, de waarheid bepalen. Jeroen: Dus die bepalen vanuit dit idealiter zou dit de uitkomst zijn. Jeroen: Bijvoorbeeld een graad 2 of een graad 3 of graad 4. Jeroen: Vervolgens laten we een groot panel van 15 pathologen laten we die casussen beoordelen zonder AI en met AI. Jeroen: En dan kijken we of hun scores dichter komen bij die waarheid die we bedacht hebben. Jeroen: En dan blijkt inderdaad dat het vaak het geval is dat het pathologen met AI. Jeroen: En zeker de pathologen die minder gespecialiseerd zijn in een bepaald gebied, je hebt pathologen die heel veel prostaat doen, die zijn heel erg goed. Jeroen: Maar je hebt ook pathologen in kleinere ziekenhuizen, die doen heel veel verschillende dingen. Jeroen: Die doen niet alleen prostaat, maar die doen ook alle mogelijke organen. Jeroen: En met name die pathologen, de meer algemene pathologen, die gaan met behulp van AI dichter naar die waarheid toe. Jeroen: Waar we nu mee bezig zijn, want ik zei altijd, dat is iets waarvan veel mensen zeggen van ja, leuk, mooi dat je het aan hebt, maar ik voel me niet geroepen om nu AI te gebruiken. Jeroen: Dus wat wij nu aan doen zijn, we zijn nu een studie aan doen waarbij we proberen om dit door te vertalen. Jeroen: En te zeggen van oké, als we nou weten hoeveel beter die diagnostiek wordt met AI. Jeroen: Wat betekent dat heel concreet voor het aantal mannen in Nederland bijvoorbeeld die een prostatectomie krijgen, waar de prostaat verwijderd wordt. Jeroen: Hoe vaak gebeurt dat misschien onterecht? Jeroen: En wat gebeurt er met dat getal als we AI gebruiken? Jeroen: Want ik denk dat we een veel sterker verhaal hebben, ook richting de verzekeraar, ook recht in de patiëntenvereniging. Jeroen: Als ik kan zeggen, door onze AI worden er vorig jaar in Nederland 100 mannen geen prostaat verwijderd, waar het ook eigenlijk niet nodig is. Jeroen: Of er zijn 100 mannen waar die wel wat verwijderd waar dat nu misschien niet gebeurt, terwijl ze het wel nodig hebben. Jeroen: En dan maak je het veel concreter. Jeroen: Want nu blijft het blijft een beetje statistiek, het blijft al een beetje wetenschap. Jeroen: En wij proberen het dus veel concreter te maken wat de winst van AI is, want dat is eigenlijk het grote probleem. Jeroen: Er wordt heel veel onderzoek gedaan, er is nog steeds heel veel hype. Jeroen: Volgens mij vertel ik dat tegen jou toen elkaar tegenkwamen bij dat congres. Jeroen: En er zijn, ik denk, 100 of 200 wetenschappelijke publicaties. Jeroen: Die zeggen van, goh, wat zou het toch mooi zijn als je AI kon gebruiken voor prostaatbiopte, die vervolgens een serie prostaatbiopte verzamelen, AI bouwen. Jeroen: Een wetenschappelijke artikel schrijven en zeggen, wij hebben nu aangetoond hoe ongelooflijk beloftevol AI is voor prostaat, er zijn er denk ik 200. Jeroen: Ik weet zeker dat op dit moment nummer 201. Jeroen: Er is vrijwel niemand in de wereld die het gebruikt. Jeroen: En er is vrijwel niemand in de wereld die heeft bestudeerd van ja, maar wat betekent het nou? Jeroen: Maar het is natuurlijk leuk dat het beter wordt, maar ja, als dat beter worden, alleen maar een of ander getalletje is, wat niet leidt tot echt concrete patiëntwaarde, dan moet je ook afvragen waarom ze het willen gebruiken. Joop: Zeker. Jeroen: En die data, die zijn er eigenlijk nog te weinig. Niels: En daar zijn jullie mee bezig. Jeroen: Ja, maar dat zijn wel hele lastige studies. Niels: Ja, dat kan ik geloven, inderdaad, dat zou ook een bij benadering zijn. Niels: Ik was even nieuwsgierig, vandaar dat ik een beetje zo zat dat ik heb een vraag. Niels: Ik heb het even verzeten. Niels: Je zegt, we hebben het dan zonder AI, we hebben een patholoog met AI, heb je hem ook gedaan zonder patholoog, om te kijken of er een bias is van de patholoog die door de AI beïnvloed wordt om een bepaalde keuze te maken. Jeroen: Ja, dat is een goede vraag. Jeroen: Ja, dat doen we ook. Jeroen: En het lijkt dan nu bij sommige toepassingen, ik moet er wel voorzichtig mee zijn, maar er zijn toepassingen. Jeroen: Dus wij zeggen altijd de patholoog vergelijk je met de patholoog met de AI. Jeroen: Op een gegeven moment kun je af gaan vragen van kun je de AI vergelijken van de AI met patholoog. Jeroen: En er zijn toepassingen waar de patholoog het niet beter maakt, maar zelfs slechter. Jeroen: Is vergelijkbaars zie je ook in andere vakgebieden, zijn allerlei plekken waar we zien dat de mensen heeft vaak het gevoel dat je moet ingrijpen dat je allerlei toch dingen ziet die een AI niet kan zien. Jeroen: Het voordeel van een AI is dat die ongelooflijk consequent is, echt rücksichtsloos consequent. Jeroen: Er zijn toepassingen waar je ziet dat inderdaad, als een mens probeert op in te grijpen, dat dat vaker negatief uitpakt dan positief. Jeroen: Dat ligt natuurlijk wel heel gevoelig allemaal. Niels: Ja, en aan de situatie. Niels: En ja, er zijn natuurlijk zoveel bij de menselijke kant, je kan moe zijn, je zit toch met beeld, dus je zit te kijken, dus er speelt heel veel factoren mee inderdaad. Jeroen: Ja, en ook waar we het net over hadden, de opname van AI door door de beroepsgroep waarom gebruiken mensen het wel of niet. Jeroen: Kijk, als je naar congressen gaat, een van de vragen die je altijd krijgt als je presentaties geeft, gaat het de patholoog vervangen. Jeroen: Ik denk dat dat op heel veel gebieden in de maatschappij geldt. Jeroen: Op dit moment ook voor onderzoekers. Jeroen: Er komen steeds meer AI agents die geweldig wetenschappelijk onderzoek kunnen bedenken, opzetten, bijna uitvoeren, dus ook mijn eigen baan is wat dat betreft ver van veilig, denk ik. Jeroen: Maar dat is natuurlijk een terechte vraag. Jeroen: Tegelijk vind ik zelf ook alweer, we werken in een ziekenhuis, ik werk in een ziekenhuis. Jeroen: Uiteindelijk gaat het niet om de dokter, het gaat niet om mij, het gaat om de patiënt. Jeroen: Dus ik vind tegelijkertijd ook als wij AI zo ver kunnen krijgen dat hij het beter doet dan een patholoog. Joop: Ja, dan zou het ook wel onethisch zijn om te zeggen, dat gaan we niet gebruiken. Jeroen: Maar goed, zover zijn we nog lang niet door. Jeroen: Het blijft nog steeds wel bij hele bepaalde beperkte toepassingen waar we dat kunnen doen. Niels: En je hebt een aantal vanuit research is er nog steeds heel veel research, wat goed is, en het wordt door onderzocht. Niels: Wat is volgens jou een belangrijke stap om van research naar praktijk te gaan, op basis van wat je zelf hebt ervaren, want dat is nog een horde. Jeroen: Ja, zeker. Jeroen: Wij zijn er wel hard mee bezig. Jeroen: Er zijn meer plekken, ook in Nederland waar ze mee bezig zijn. Jeroen: Je zit met één groot één grote drempel, en dat is, je kan niet zomaar iets in je praktijk toepassen. Jeroen: Het is medische sector. Jeroen: Dus je kan niet een chirurg kan niet zomaar eens een nieuw mes uitproberen en zeggen, het lijkt me nou eens leuk om dit te doen. Jeroen: En ook bij ons diagnostiek zitten ontzettend veel regelgeving. Jeroen: Dat betekent voor je iets mag gebruiken in praktijk, moet je heel veel bewijs leveren dat het veilig is. Jeroen: En moet je dat op allerlei manieren moet je dat gaan testen, moet je dat een kwaliteitsmanagementsysteem, daar moet dat allemaal in opgenomen worden. Jeroen: En dan zijn er eigenlijk grofweg twee manieren waarop je dat kan doen. Jeroen: Je kunt het ofwel doen via een bedrijf. Jeroen: We hebben zelf in Nijmegen een spin-off opgezet om dat voor elkaar te krijgen. Jeroen: Als je het als bedrijf doet, dan wil je dus als product in de markt zetten en dan moet je ook voldoen aan allerlei regelgevingen, moet je ook certificering krijgen. Jeroen: Dat is een ongelooflijk complex en duur proces. Jeroen: Waarbij je ook voor die certificering, bijvoorbeeld, moet je grote studies doen, moet je aantonen dat het veilig is, moet je ongelooflijk veel documentatie aanleveren. Jeroen: In Nijmegen hebben dat voor elkaar gekregen, dus we hebben één product hebben we certificering voor het graden van borstkanker. Jeroen: Dat is moeilijk, dat is complex, dat is duur. Jeroen: En vervolgens blijkt dat eigenlijk de markt nog niet echt daar is, zoals ik net al zei, de pathologen zijn ook helemaal niet zo eager om het te gaan gebruiken. Jeroen: De andere manier is wat ze in Amerika noemen een lab developed test, dat is een zeg maar een test als je je eigen onderzoek iets ontwikkelt, dan kun je een soort, dan hoef je geen certificering te doen, maar dan doe je een soort validatie in je eigen omgeving. Jeroen: En dan mag je het ook in huis gebruiken, dan mag je het voor eigen gebruik gebruiken. Niels: Dus dan mag het in je eigen instelling dan. Jeroen: Dus dat is dat wordt heel veel gebruikt in allerlei laboratoria. Jeroen: Je kan ook je eigen test ontwikkelen. Jeroen: Maar dan moet je wel zorgen dat je je eigen validaties doet dat je zelf aantoont dat het veilig is. Jeroen: Daar zijn ook allerlei protocollen voor. Jeroen: En wij zijn in eigen Nijmegen bezig om ook dat te doen voor een aantal verschillende AI-modellen. Jeroen: Dat blijkt ontzettend complex, veel ingewikkelder dan ik dacht. Jeroen: En dat zit hem eigenlijk een hele beetje simpele zaken. Jeroen: Je moet je AI AI moet werken, maar die AI produceren, dat hebben we gedaan, dat werkt je moet laten zien dat die AI goed werkt door het met gebruikers te gaan uitproberen. Jeroen: Maar je wil het ook in je workflow wil je het ook integreren. Jeroen: En dat integreren in die workflow betekent, je moet uiteindelijk in discussie met de bedrijven die onze workflow software leveren. Jeroen: En die moeten een API leveren. Jeroen: Je moet ergens moet je je beelden uit te halen en je resultaten terug te stoppen. Jeroen: Je moet met je IT-afdeling van je instelling moet je gaan praten, want er moet ergens een firewall port geopend worden, dan moet ergens een of andere server opgezet worden, klinkt heel erg verkend. Jeroen: Eigenlijk denken die allemaal heel simpel zijn, maar het opzetten van een Linux server, expertise van Linux is vrij beperkt, want we werken met Windows. Jeroen: Dus sommige hele eenvoudige eenvoudig oplosbare problemen, kosten soms maanden om op te lossen. Jeroen: Terwijl je denkt van ja, moeilijk kan het zijn een server binnen de firewall, dat kan een half jaar kosten. Joop: Als je er zo bovenop zit en zoveel van weet, is het soms dan niet frustrerend dat je aan de ene kant een technologie hebt die heel krachtig is en van alles zou kunnen betekenen voor patiënten, en dat je aan de andere kant te maken hebt met allemaal drempels, kuilen. Joop: Waar je doorheen moet voordat dat dan voor die patiënt ook daadwerkelijk meerwaarde gaat leveren. Jeroen: Ja, dat is zeker frustrerend. Jeroen: En vooral, weet je, kijk, als het wetenschappelijke stuk niet goed is, dan weet je, ik moet iets doen. Jeroen: Als je AI-model niet goed genoeg is, dan voel je je ergens verantwoordelijk en denk je, ik heb het niet goed gedaan. Joop: Als het gaat om het openen van een firewallpoort, dan voelt dat anders. Jeroen: En ik moet je eigenlijk zeggen, kijk, tien jaar geleden was ik ook denk ik veel meer van de hype, van het hype gevoel. Jeroen: Ging ik naar congressen en liet ik zien welke geweldige mogelijkheden er waren, en dan kreeg je altijd de vraag. Jeroen: Wanneer gaat dit een rol spelen? Jeroen: En dan zeg ik, nou vijf jaar max, dan hebben we in de pathologie zeker AI oplossingen die we gebruiken. Joop: Dat was tien jaar geleden. Jeroen: Ik vertelde net al, het wordt eigenlijk nog steeds vrij wat niet gebruikt. Jeroen: En ik vind het nu eng om die vraag te beantwoorden, omdat ik gewoon weet dat er zoveel factoren zijn die je niet onder controle hebt. Jeroen: Dat het heel lastig is om daar voor voorspellingen te doen. Jeroen: Maar het is wel frustrerend, want we weten dat de technisch van alles kunnen. Jeroen: Er zijn ook best wel veel gebruikers, potentiële gebruikers die vooruit willen. Jeroen: Maar ja, er zijn te veel horden nog om het echt breed in te zetten. Joop: En ik kan me ook voorstellen dat het wel lastig is als er iets is en de media pakken het natuurlijk ook altijd groot uit, net alsof het al nu beschikbaar is voor een grote groep. Joop: En aan de andere kant hebben we ook, weet je, vanuit de politiek dat ze zeggen, ja, AI lost alles op in de gezondheidszorg. Jeroen: Ja, dat is wensdenken. Joop: Ja toch? Joop: Als je niet zo goed weet wat de oplossing is voor de gezondheidszorg, daar roep je AI, kan je weer een paar jaar vooruit. Jeroen: Nee, AI lost niet alles op, zeker niet. Jeroen: Ik denk dat het echt een illusie is. Niels: En zijn jullie ook nog nieuwe modellen nu aan het maken of onderzoeken. Jeroen: Ja, zeker. Jeroen: We hebben heel veel projecten op allerlei gebieden. Jeroen: Mijn eigen focus is voor een groot deel borstkanker, daar ben ik al lang mee bezig. Jeroen: Maar ik heb ook projecten op niertransplantaten bijvoorbeeld, op de diagnostische tafel te verfijnen. Jeroen: Gynecologische kankers. Jeroen: Collega's van mij die kijken naar longkanker, huidkanker, prostaatkanker, pancreas. Jeroen: Veel oncologie. Jeroen: En op al die gebieden zien we echt wel mogelijkheden om winst te boeken. Jeroen: En dan zitten wij alleen maar in de in de pathologie kant, maar je hebt natuurlijk ook de radiologie. Jeroen: Daar is het ook een heel groot gebied. Jeroen: Genetica is een belangrijke stuk diagnostiek, waar je met AI iets kunt. Jeroen: Het liefst zou je multimodaal gaan en die dingen met elkaar gaan combineren. Jeroen: Kan allemaal, alleen ja, data is vaak de grote uitdaging. Jeroen: Als je een onderzoekskant hebt over wat is nou wat zijn je uitdagingen. Jeroen: Het krijgen van data, betrouwbare data, is ongelooflijk complex. Jeroen: En dan zit je met allerlei, ook met allerlei regelgevingen, de AVG GDPR in Europa. Jeroen: Ik ben als onderzoeker, hoogleraar ben ik echt een behoorlijk deel van mijn tijd ben ik bezig met het zoeken naar partners, het werk het werken aan data transfer agreements. Jeroen: Je kan niet zomaar data delen met iemand, er moet een juridisch een overeenkomst komen. Jeroen: Dat is ongelooflijk ingewikkeld. Jeroen: En dat is ook een van de redenen dat een van mijn grootste projecten is het Big Picture project. Jeroen: Ik was eigenlijk altijd over gelezen in het big picture zegt het al een beetje. Jeroen: Dat is een groot Europees project met 44 partners, waarvan tien farmaceutische bedrijven. Jeroen: Wat we daar doen, is we bouwen een hele grote database. Jeroen: Die we vullen met 3 miljoen pathologiebeelden. Jeroen: Plus allerlei metadata. Jeroen: Wat is het voor patiënten, wat is de leeftijd van de patiënt, wat is het geslacht van de patiënt, wat is de diagnose. Jeroen: En dat willen we beschikbaar maken voor onderzoekers, maar ook liefst voor bedrijven voor eigenlijk alle AI-ontwikkelaars. Jeroen: En dat is eigenlijk een beetje geboren vanuit onze eigen pijn met het verzamelen van data. Jeroen: We zien gewoon dat we heel veel tijd bezig zijn met het verzamelen van data dat het echt heel moeizaam is. Jeroen: Dat heeft eigenlijk iedereen er last van. Jeroen: Dus dat hele big picture idee is daaruit geboren. Jeroen: We hopen dat je straks, als Big Picture werkt, dat gaat nog een paar jaar duren, dat het in ieder geval heel duidelijk is. Jeroen: En nu zoals ik onderzoek wil doen op het gebied van borstkanker, dan moet ik gaan zoeken naar welke onderzoekers hebben mogelijk interessante data. Jeroen: Ik moet erachter gekomen welke data hebben ze nou eigenlijk precies, wat kan ik daar verwachten. Jeroen: Dan moet ik erachter komen willen het met bepaalde voorwaarden gaan ze delen. Jeroen: Het idee van Big Picture is dat je een soort zoekfunctie aan de portal hebt, dat je eigenlijk in no time kan zien, oké, deze data is aanwezig. Jeroen: Dit is straks metadata aanwezig en dit zijn de voorwaarden waaronder ik kan gebruiken, en ook het hele juridische stuk, dat dat helemaal gestandaardiseerd is. Jeroen: Dus dat je ook weet van als ik deze data interessant vind. Jeroen: En ik ben in principe toestemming kunnen krijgen, bijvoorbeeld de data is beschikbaar voor een bedrijf en ik ben een bedrijf, ik volg precies regels. Jeroen: Dan weet ik ook precies van oké, dit is de weg om tot die data te komen. Jeroen: Dus ik moet deze aanvraag doen, dan komt dit de procedure en dan kan ik dit verwachten. Jeroen: Dus het idee is daarmee om hele grote hoeveelheid data te ontsluiten, omdat dat nu wel een van de grote belemmeringen is in ons veld. Niels: Ja, de marketplace, zeg maar, wat heb ik nodig, welke context, wat zijn de voorwaarden? 357 Niels: Het klinkt als een heel mooi. 358 Niels: En je zicht natuurlijk nog een aantal jaren, dat wordt nu ontwikkeld. 359 Jeroen: Ja, we zijn het een zesjarig project. 360 Jeroen: We zijn vijf jaar bezig. 361 Jeroen: Maar het lijkt echt heel moeizaam, dus we hebben een uitstel aangevraagd. 362 Jeroen: We zijn bezig met het aanvragen van uitstel om het project anderhalf jaar te verlengen. 363 Jeroen: En dat zit hem in een aantal dingen, maar met name dat juridische stuk. 364 Jeroen: Om te komen tot een soort juridische template die voor alle partners acceptabel is. 365 Jeroen: Dat heeft gewoon heel veel tijd gekost. 366 Jeroen: En je moet je voorstellen, als ik nu met een partij project ingaan. 367 Jeroen: Om te kijken of ik data mag gebruiken van een andere partijen, dan kost het vaak drie, vier, vijf, zes tot negen maanden voordat wij tot een contract komen. 368 Jeroen: Om een aantal keer op en neer, waar liggen de rechten voor bepaalde dingen, wie is welke verplichtingen. 369 Jeroen: Dat zijn altijd kost gewoon tijd. 370 Jeroen: We hebben nu een soort contract afgesloten met 44 partijen, dus ook 44 legal mensen in 44 partijen die allemaal datzelfde contact hebt moeten vinden. 371 Joop: Ik denk dat iedereen wel kan begrijpen hoe complex dat verhaal is. 372 Jeroen: En van die 44 zijn er tien farmaceutische bedrijven, daar ligt de lat vaak nog hoger. 373 Jeroen: Dus je kan je voorstellen dat wij twee, tweeënhalf jaar bezig zijn geweest om dit voor elkaar te krijgen. 374 Joop: Wel een heel mooi initiatief. 375 Jeroen: Ja, zeker. 376 Jeroen: En als het gaat werken, dan denk ik dat het heel veel waarde heeft. 377 Joop: En we zijn goed op weg, mooi. 378 Niels: En vooral voor de maatschappij heel veel waarde, inderdaad. 379 Niels: Dus dat het buiten de bedrijven gaat leven en het gebruik ook groter kan worden en dat je inderdaad best wat initiatieven kan starten, die hiervoor niet gestart konden worden, of heel moeilijk gestart konden worden. 380 Joop: We hebben een kaartspel samen ontwikkeld met het Elisabeth II Steden Ziekenhuis. 381 Joop: En dat gaat over allerlei stellingen op het gebied van AI, veel ook wel generatieve AI in de gezondheidszorg. 382 Joop: En die leggen we eigenlijk aan iedereen voor, want iedereen heeft te maken met gezondheidszorg. 383 Joop: Maar met jou is het natuurlijk extra interessant. 384 Joop: Dus die willen we aan jou ook eentje voorleggen. 385 Unknown: AI games mee voor elkaar. 386 Unknown: Je denken zo het spel bepalen AI verhalen. 387 Joop: Niels legt er toch weer eentje bij. 388 Niels: Nee, ik leg hem niet weg, ik pak hem erbij, want ik ga hem wel stellen, inderdaad, om de luisteraars al mee te hebben gepakt. 389 Niels: Je zagen ik heb geschud. 390 Niels: De eerste die ik pakte, was de categorie technologie en innovatie en de stelling luidt. 391 Niels: AI heeft de meeste waarde voor de zorg als klinische beslisondersteuning. 392 Jeroen: De meeste waarde moeilijk je ziet het gebruik van AI toenemen op allerlei plekken. 393 Jeroen: Je ziet ook dat een behandelend arts die voor het een patiënt op een spreker komt, moet een heleboel data tot zich nemen. 394 Jeroen: Om voorbereid te zijn, dat kan bestaan uit allerlei rapporten van verschillende specialisten en zo. 395 Jeroen: Waar wij nu ook mee testen, bijvoorbeeld is om een soort samenvatting te maken van al die klinische gegevens, zodat behandelende arts eigenlijk een heel kort overzicht meteen ziet van oké, dit is er relevant. 396 Jeroen: En niet enorm hoe ver de tekst hoeft door te lopen. 397 Jeroen: Dat is geen beslisondersteuning, maar is wel een heel relevante toepassing, denk ik. 398 Jeroen: Maar goed, het is wel mijn eigen vakgebied, dus ik denk, ja, ik zie daar zeker waarde in. 399 Jeroen: Wij kijken nu al heel erg naar kunnen wij voor borstkankerpatiënten bepalen of ze een bepaalde behandeling wel of niet nodig hebben, waarbij we heel erg proberen om therapie te deëscaleren. 400 Jeroen: Dus dat wil zeggen, sommige borstkankerpatiënten krijgen nu chemotherapie. 401 Jeroen: Terwijl wij weten dat die eigenlijk helemaal je baat van hebben, maar wel heel veel last. 402 Jeroen: Wij proberen met AI beter te inschatten of een patiënt misschien zonder die chemo kan. 403 Jeroen: Dus ik geven niet patiënt meer therapie, we geven uit de patiënt minder therapie. 404 Jeroen: En dat is natuurlijk wel een voorbeeld van die beslisondersteuning. 405 Jeroen: En ik denk dat daar wel veel waarde te halen valt. 406 Niels: Is dat dan ook dus personalisatie van de plannen die toepassen bij de context van de persoon. 407 Joop: Ik zat nog te denken van kijk, het lastige is wat jij zei, is dat die foto's over het digitaliseren van die foto zo duur is. 408 Joop: Maar aan de andere kant hebben we natuurlijk ook heel veel gebieden in de wereld waar specialisme, ook dat heel duur is. 409 Joop: Zou AI daarbij kunnen helpen om als je toch misschien in een derde wereldland zit of zo dat je daarmee een betere betere arts zou kunnen maken. 410 Jeroen: Ja, denk ik zeker. 411 Jeroen: En ik denk dat voor mijn eigen vakgebied de pathologie het rijke westen in Amerika, Europa is dat ongelooflijk goed geregeld. 412 Jeroen: We hebben een hele hoge kwaliteit van diagnostiek. 413 Jeroen: Er zijn heel veel landen waar nauwelijks pathologen aanwezig zijn. 414 Jeroen: Dus waar elke AI-oplossing al heel veel meer zal zijn dan wat er nu is, want er is nu geen pathologie. 415 Jeroen: En nu wordt er gewoon chirurgie uitgevoerd zonder dat iemand nou precies bekeken heeft wat er aan de hand is. 416 Jeroen: Ik heb wel eens gehad, ik weet niet of het nog steeds het geval is, maar in China heb ik wel eens gehoord dat ze geloof dat er zijn tienduizend pathologen actief. 417 Jeroen: En ik geloof dat ze eigenlijk voor hun bevolking nog honderdduizend nodig hebben. 418 Jeroen: Dus dat betekent gewoon dat er voor heel veel gevallen geen pathologie te pas komt. 419 Jeroen: Dat AI niet perfect. Jeroen: Hij zal nooit perfect zijn, dat hij nog steeds een ongelofelijke meerwaarde kan hebben. Niels: Je zit al het jaren A in de technologie en het vakgebied. Niels: Wat zijn nou grote veranderingen die je heb meegemaakt in de afgelopen 30 jaar. Jeroen: Voor ons is dat de mogelijkheid om te digitaliseren. Jeroen: Om die beelden echt helemaal digitaal te maken. Jeroen: Dat is iets wat wel een revolutie in de pathologie heeft gegeven. Jeroen: Ik denk de meeste mensen die jullie hier ontvangen. Jeroen: Deep learning is natuurlijk een ongelooflijk grote geweest. Jeroen: Dat is natuurlijk een omding geweest. Jeroen: En ja, kan het ook niet omheen, alles met generatieve LLM's dat is natuurlijk ook weer een ontzettende sprong. Jeroen: Waarvan we ook zien dat hij grote impact heeft op ons veld. Joop: En als we toch heel even voor de luisteraar de techniek ingaan. Joop: Ik ga ervan uit dat jullie nu vooral neural networks gebruiken voor het bepalen van het nakijken van de images. Joop: Zou de zijn nu natuurlijk dat je ook de diffusion modellen hebt, wat mensen kennen eigenlijk van ChatGPT, dat je plaatje kan geven en dat hij die ook kan analyseren. Joop: Zie je daar toepassingen in, ook voor de pathologie. Jeroen: Ja, zeker, daar word ik naar gekeken hoor. Jeroen: Je kan zelfs met, er zijn van die chatbots die op pathologie gericht zijn, dus die kun je een pathologiebeeld geven en dan kun je met de chatbot praten over dat beeld. Jeroen: Ze zijn niet op het niveau dat je er echt klinisch iets mee zou kunnen. Jeroen: Maar ze zijn wel interessant. Jeroen: Het grappige is dat de meeste pathologen daar eigenlijk niet zo heel veel interesse in hebben. Jeroen: Omdat het echt een gimmick. Jeroen: Je kan er gewoon zo'n zo'n gedigitaliseerd beeld in gooien en je kan zeggen, wat denk je wat zie je hier? Jeroen: En dan kan hij iets aangeven, misschien is kanker. Jeroen: En dan kun je ook vragen van waarom denk je wat kanker is. Jeroen: En als het kanker is, wat denk je dan van dit of dit, wat denk je dat gratis of zie je bepaald soort invasie of kun je allerlei dingen aan vragen. Jeroen: De meeste pathologen zeggen van ja, maar weet je, ik heb in mijn werk helemaal geen tijd om gezellig te gaan kletsen in de chatbot. Jeroen: En meestal, ik kijk zelf, ik zie wat er aan de hand is. Jeroen: Ik ja, daar heb ik helemaal niks aan. Jeroen: Waar vaak wel veel waarde in gezien wordt, is voor pathologen in opleiding. Jeroen: Nu is het zo dat een patholoog in opleiding die bekijkt casussen, gaat vervolgens met een patholoog zitten en gaat bespreken wat hij gezien heeft, zei of hij. Jeroen: Waarom dat klopt, waarom het niet klopt, en dat kost natuurlijk best veel tijd. Jeroen: En veel pathologen zeggen, als je pathologie in opleiding dan veel vaker met zijn chatbot zou kunnen praten, dat vervangt niet de interactie met de patholoog, maar het betekent wel dat je ontzettend veel exposure al hebt tot pathologie kennis, dat je heel veel vragen kan stellen, vooral in het begin van je opleiding, zou je natuurlijk wel veel sneller kunnen leren dan, dan alleen maar die de momenten dat je nu met een patholoog hebt. Joop: Ja, precies. Joop: Dat is wel interessant, ja. Joop: Ja, dat zou een hele goede kunnen zijn. Jeroen: Daarnaast kijken we ook wel voor onze eigen onderzoeken, of inderdaad, met large language models dingen kunnen doen. Jeroen: Vaak zie je dat de kwaliteit daar nog niet goed genoeg voor is, maar dat het wel nuttig kan zijn. Jeroen: Wat wel bijvoorbeeld een hele mooie toepassing kan zijn, we halen vaak data uit onze systemen. Jeroen: En pathologierapporten zijn vaak heel erg narratief, dus een patholoog, als je het casus verslaat, dan komt daar een heel stuk tekst uit, de patholoog spreekt dat in. Jeroen: En als een patholoog kan zeggen van nou, ik zie hier een borstweefsel en ik zie dit, ik zie dat ik zie dit, ik denk aan dit, ik denk aan dit. Jeroen: En als wij onze AI willen trainen, dan willen we natuurlijk heel gestructureerd die data naar uit kunnen lichten. Jeroen: Zij willen geen mooie narratief, waar willen gewoon het is kanker of het geen kanker. Jeroen: Het heeft wel perifere vasculaire invasie of niet alle karakteristiek die je kan zien. Jeroen: Daar kan je LLMs heel goed gebruiken om die rapporten te analyseren en daar die data extractie uit te doen en precies die informatie uithalen die je wil gebruiken. Jeroen: Dus daar gebruiken we dat wel voor. Joop: Ja, precies. Niels: Dus in de preprocessing en data in de juiste categorisatie krijgen en daar wordt het voor gebruikt. Joop: En voor de patiënt. Joop: Ik heb ook wel eens vanuit de pathologie, zeg maar iets zitten lezen in mijn EHR. Joop: Dat lees niet als een goed boek. Joop: Sterker nog, weet je, het is voor mij als patiënt dan heel veel mambo jumbo. Joop: Zou je er voorstander van zijn dat het ook leesbaar zou zijn voor mij als patiënt. Jeroen: En je bedoelt dat je daar AI voor gebruikt om het leesbaar te maken. Jeroen: Ja, waarom niet. Jeroen: Je kunt je natuurlijk afvragen. Jeroen: Het is zo dat inderdaad als patiënt heb je toegang tot al je patiëntendata. Jeroen: En inderdaad, zo'n pathologierapport, daar kun je van afvragen. Jeroen: Ja, wat heeft de gemiddelde patiënt daaraan? Jeroen: Ik snap mijn eigen pathologierapport vermoed ik ook niet. Jeroen: Dus je hebt altijd wel de uitleg van iemand nodig. Jeroen: Ik denk dat AI daar een hulp bij kan zijn, maar ik denk dat je nog steeds wel een mens nodig hebt om het echt wel goed te interpreteren. Jeroen: Vaak moet je pathologiebevinding ook zien in het bredere kader van andere bevindingen van je verleden als patiënt. Jeroen: Maar ik denk dat AI daar wel behulpzaam bij kan zijn om het wel iets vriendelijker te maken, iets meer jij en janker zijn. Jeroen: Want inderdaad, de pathologierapport is, ja, dat is niet bedoeld voor een patiënt. Jeroen: Dat bedoeld voor een andere dokter die weet wat hij leest. Joop: Snap ik. Niels: Ik was wel nieuwsgierig, met de kennis van technologie en hoe dat allemaal gebruikt zijn, wat zou je absoluut niet willen dat er vervangen gaat worden met AI. Jeroen: Dat is een goede. Jeroen: Maar dat speelt in de pathologie minder een rol. Jeroen: Ja, ik denk de interactie met patiënten, dat daar uiteindelijk natuurlijk dat je toch wel graag een mens tegenover hebt. Jeroen: En ik denk voor de foreseable future, dat je ook wel een mens in controle wil. Jeroen: We hebben toevallig pas een hele studie gedaan onder patiënten om een idee te krijgen van wat vinden patiënten nou van AI in de gezondheidszorg. Jeroen: Dus we hebben geloof 250 of niet patiënten, we hebben eigenlijk potentiële patiënten, gewoon Nederlandse burgers. Jeroen: Hebben gevraagd, en dat was in het kader van borstkankeronderzoek. Jeroen: Dus we hebben vrouwen geïnterviewd, gewoon ook op straat bij het station, via patiëntenvereniging, via LinkedIn. Jeroen: En een hele vragenlijst gegeven van het gebruik van AI in de diagnostiek en een beetje de grens opgezocht van stel dat die AI aantoont dat je het beter doet dan de dokter. Jeroen: Vind je dat een AI deze rol hebben, maar mag AI een rol hebben. Jeroen: En dan zie je toch wel dat patiënten de meerwaarde wel zien, maar ook wel heel fijn vinden als de arts begrijpt hoe de AI werkt en ook als de arts nog wel in control is. Jeroen: Dus dat volledig autonome AI nog wel een deur een brug te ver is. Jeroen: En dat snap ik en ik zou dat op dit moment ook niet aan durven. Jeroen: Ik denk dat we veel meer studies nodig hebben voordat we echt voor een bepaalde toepassingen durven zeggen van nou hier hoeft de mens vrijwel niet meer aan te pas komen of helemaal niet meer aan te pas te komen, ik denk wel dat het gaat gebeuren in de toekomst. Jeroen: En wat ik zei, interactie met patiënten denk ik toch ja, ik zou zelf niet zo graag met een chatbot praten, ik word nou wel heel zenuwachtig als ik een helpdesk chatbot heb. Jeroen: Je het liefst samen ook doorklikken naar een mens, dat werkt vaak toch net iets beter. Niels: Laat staan inderdaad als we het in het zorgveld zitten inderdaad persoonlijk en ja, ik snapt het wel een stukje beleving die je daarin meeneemt zeker. Joop: Je merkt nu ook wel juist omdat het gek genoeg is een technologie is waar iedereen nu wat van vindt. Joop: Vind jij dat dat een patiënt de mogelijkheid moet kunnen hebben om te zeggen, ik wil niet dat er AI gebruikt worden binnen mijn behandeltraject. Jeroen: Nee, vind ik eerlijk gezegd niet. Jeroen: Nee, weet je, kijk, we focussen heel vaak op AI voor allerlei dingen, maar hetzelfde wat je voor AI kan vind AI kan vinden, kan je natuurlijk vinden van alle mogelijke innovaties die we in de zorg doen. Jeroen: En ik denk dat de gemiddelde Nederlander geen idee heeft wat een patholoog doet en welke testen daar allemaal bij komen kijken. Jeroen: Daar wil je geen vertrouwen kunnen hebben dat wat er gebruikt wordt het beste is wat we kunnen gebruiken dat het veilig is. Jeroen: Maar ik denk niet als wij op een gegeven moment AI gaan gebruiken, dan is ons hele proces daarop ingericht. Jeroen: En als je dan zeggen voor deze individuele patiënt willen we het uitschakelen, dan ga je ten eerste ga je het heel ingewikkeld maken, kostbaar en ook eigenlijk heel risicovol. Jeroen: Want op een gegeven moment ben je daar niet meer op ingericht. Joop: Waarom ik deze vraag stel, ik zat van de week zat ik in een podcast te luisteren. Joop: En daar gaven ze aan van ja, weet je, het was een Amerikaanse podcast, want het is bij AI is het heel belangrijk dat je full disclosure geeft dat je altijd aangeeft waar je AI hebt gebruikt. Joop: Ik ga helemaal met jou mee hoor, van ik dacht ook van ja, maar er zijn zoveel plekken waarin waarin je het niet wil, irrelevant is, laat staan. Joop: Wat degene die het ontvangt, weet je wat die met de informatie moet. Niels: Ik denk dat vertrouwen, dat vind ik wel het kernwoord inderdaad, in dit verhaal, hoe kan je vertrouwen bouwen en vertrouwen ergens in hebben de toetsing en de regels die er zijn dat enigszins bouwt. Niels: Maar ja, ik verwar in mijn hoofd zal ik zoiets, we hadden het toch over de auto zelfrijdend. Niels: Ik ga ook niet tegen mijn monteur zeggen, ja, je mag maar auto repareren, maar alsjeblieft de moersleutel mag je bij deze niet gebruiken. Jeroen: Maar wat je zegt, is wel een goed punt. Jeroen: En wij zijn wel verplicht vanuit de Europese regelgeving om heel duidelijk op onze website bijvoorbeeld te vermelden. Jeroen: Waar we dat soort technieken gebruiken. Jeroen: Dus als we AI gaan gebruiken, moeten we dat wel, moet de patiënt dat in principe wel kunnen vinden. Joop: Maar dat is nog. Joop: We moeten er ook wat van mogen vinden. Joop: Hij mag wel wat van vinden, of we daarop kunnen acteren, is in een andere vraag toch lijkt me heel lastig. Joop: Ik had een afsluitende vraag. Joop: Die ontschiet me. Joop: Misschien heb jij nog. Niels: Ik denk er zijn best wel beperkingen wat regelgeving, maar als je zou mogen dromen en kijken, wat is dan de AI-oplossing die je in de nu en vijf jaar zelf zou willen creëren, als je als je niet met alle huidige limitaties te maken hebt. Joop: Niet met de firewall. Niels: Zonder files, maar zonder de probleem van de files laten we het zo zijn. Jeroen: Creëren en dan bedoel je dus in praktijk brengen. Niels: Ja, in de praktijk brengen. Jeroen: Ik denk dat degene waar we in Nijmegen nu vrij ver mee zijn, is bijvoorbeeld die prostaatkankergradering. Jeroen: Daar hebben we ook al van aangetoond dat het echt goed werkt. Jeroen: Dus ik denk dat dat zou erin zijn waarvan ik hoop dat we die over vijf jaar wel in praktijk hebben. Jeroen: En ik moet straks ik durf geen voorspellingen meer te doen. Jeroen: Het zou ons verbazen als ons dat niet lukt in vijf jaar, we zijn daar echt wel hard mee bezig. Jeroen: Een andere is het graderen van borstkanker, waar we ook hard aan werken. Jeroen: Dus dat zijn heel specifieke stukjes binnen onze diagnostiek die we die we zouden kunnen verbeteren. Jeroen: En ik hoop dat we dan wel iets kunnen toevoegen daaraan dat je wat ik straks al vertel, niet alleen het stukje beoordeling van beelden doet, maar dat je daar ook een stukje rapportgeneratie aan koppelt, dus dat je zowel de kwaliteit verbetert, maar dat je ook de efficiëntie verbetert, twee vliegen in één klap staat. Joop: Dat lijkt me een heel mooie, hoopvolle afsluiting. Joop: Dankjewel, Jeroen, dankjewel dat je hier wilde zijn en dit met ons wilde delen. Joop: Leuk dat je weer luisterde naar deze aflevering. Joop: Vergeet je niet te abonneren via je favoriete podcast app, dan mis je geen aflevering. Joop: Tot de volgende keer.