Publieke waarde versus commerciële belangen: de AI-balans

In deze aflevering hoor je Jet de Ranitz, directeur publieke sector bij Microsoft en Erik Fledderus, lector digital business and society bij Windesheim, over de balans tussen publieke waarde en commerciële belangen bij AI-toepassingen.… Ze bespreken hoe AI zowel uitdagingen als kansen biedt voor verschillende sectoren en waarom kritische reflectie essentieel blijft. *** is eigenlijk wie bepaalt eigenlijk welke richting we opgaan. Is dat de grote techbedrijven? Zijn dat de onderwijsinstellingen? Of zijn wij dat allemaal? En daar praten we met twee, ben ik echt heel blij, de gasten die we hebben. De eerste is Jet de Ranitz. Jet, zou je jezelf eerst even willen voorstellen? Ja, ik ben directeur publieke sector bij Microsoft. Duidelijk. Ons tweede gast, Erik Fledderus. En zou jezelf ook even kort willen voorstellen aan de luisteraars? Ik ben lector Digital Business and Society bij Windesheim. En Erik, we gaan je straks confronteren. Maar je hebt volgens mij al eens eerder gezegd dat niet iedereen AI nodig heeft. Dat is denk ik een jaar of twee geleden. Sta je daar eigenlijk nog steeds achter? Nou, ik moet even diep graven wanneer ik die uitspraak heb gedaan. Ik denk dat er beroepen zijn, zoals dat ook wel met corona was toen iedereen thuis moest werken. Waarbij sommige mensen zeiden, ja thuis werken. Mijn werk is niet thuis. Dus ik moet wel echt al die fabriek in. En zo zal het denk ik ook wel rondom AI zijn. Er zijn beroepen die misschien wat minder ontvankelijk zijn voor de toepassing van AI. Maar als je het wat uitbreidt. En vandaag hadden we een robot, een humanoid robot op het podium waar natuurlijk ook een stuk AI in zit. Dan denk ik dat je een hele eind komt. En dan zou ik misschien die uitspraak al willen herzien. Hoe zie jij dat, Jet? Ik ga wel met Erik mee Ik denk dat we uiteindelijk allemaal wel AI toepassingen in ons leven zullen hebben En net zoals we ook Eigenlijk bijna allemaal mobiele telefoon hebben Die worden allemaal standaard uitgerust met AI Straks ook je laptop zit straks gewoon AI in En ik ken eigenlijk geen mensen meer Zonder laptop of mobiele telefoon Behalve Zelfs mijn schoonmoeder van 93 Heeft inmiddels een mobiele telefoon Dus het is onontkoombaar Tegelijkertijd gebruik je dat nou heel intensief elke dag in je werk. Dat zal heel erg afhangen van het werk dat je doet. En ook de taak die je op dat moment aan het uitvoeren bent. Of de toegevoegde waarde heeft of niet. Zeker. En jullie hebben een heel mooie achtergrond. Ook in het onderwijs. Dat hadden we al mooi horen. Allebei ook een achtergrond bij SURF. Het is ook wel veel digitale domein ingerold. Zouden jullie kort wat kunnen vertellen over jullie huidige rol? En de rol daarvan met AI erin? Wie begint? Erik, ga je gaan? Zal ik beginnen? Nou, we hebben in het onderzoek gebruik van AI op een paar plekken. We doen veel projecten met de maakindustrie. Je ziet dat in de productie van allerlei producten en diensten, maar met name producten, dat daar veel automatisering en veel data en daarmee ook langzamerhand steeds met AI gebruikt wordt. Dat kan gekoppeld worden aan een slimme camera die fouten detectie moet doen of kwaliteitscontrole. Dus dat is een plek waar we heel veel met AI doen. We zien dat MKB'ers, dus eigenlijk veel van de ondernemers die het nog best spannend vinden om met dit soort geavanceerde technologie te werken, nog wat meer in de hoek van vertel eens waar het over gaat, ik wil wat meer achtergrond krijgen voordat ze echt het diepe in durven te duiken. Nou daar helpen we ze mee. En de laatste, en dat sluit heel erg aan bij waar Jet werkt, dat is AI en data in de publieke omgeving. Dus dat kan met name veel op de overheid. Ook AI en het onderwijs. In die zin heeft mijn lectoraat en heb ik zelf ook wel een soort dubbelfunctie. Deels naar de buitenwereld, maar ook wel intern winnen zijn. Ook iets meer vertellen over wat is dit nou? Hoe spannend is het nou? Hoe spannend is het echt? Wat is de achtergrond? Ook wat jij aangaf over waarom je deze podcast bent gestart. Maar ook daar een beetje de wat overtrokken verhalen wat realistischer te krijgen. Maar het ook niet zo te downplayen. Dat je zegt, dit waait ook wel weer over, ga lekker slapen. Ja, precies. En hoe zie jij dat, Jet? Mijn functie is vooral het verkopen van AI aan klanten in Nederland. En mijn klanten zijn de Rijksoverheid, provincies, gemeenten, onderwijsinstellingen, ziekenhuizen. Maar ik zie het toch vooral ook als het maken van een vertaalslag Zeker als het over AI gaat Want Microsoft is een heel groot bedrijf Maakt technologie die wereldwijd toepasbaar is En die daarmee in de aard der dingen eigenlijk ook een beetje algemeen gemaakt wordt Maar hoe je dat nou precies moet toepassen in het onderwijs Zodanig dat het een zinnige toepassing krijgt Die betekenis heeft en die het geld waard is Daarvoor moet je toch ook echt wel een beetje snappen Hoe het onderwijs werkt er in een ziekenhuis gebeurt, hoe de Rijksoverheid in elkaar zit, hoe de publieke dienstverlening moet worden vormgegeven, omdat je anders de verkeerde implementatie gaat doen. En dan krijg je eigenlijk het product niet zoals het bedoeld is. En hoe maak je dan die afweging, want ik kan me zo voorstellen dat dat in de publieke sector iets anders is dan in het bedrijfsleven? Tot op zekere hoogte ja en nee. Ik vond het voorbeeld wat, we waren vandaag bij die Community of Practice en daar vertelde een meneer die in zonnepanelen werkt over de klantenservice. Die die met AI heel veel beter kan laten presteren en kan zorgen dat die medewerkers van die klantenservice eigenlijk alle makkelijke vragen door de AI kunnen laten beantwoorden. En daardoor zelf tijd hebben voor de ingewikkelde gevallen. Dat zie je ook een bank hebben, dus ABN AMRO doet dat ook op die manier. Ik denk als je kijkt naar alle vragen die een gemeente krijgt. Of alle vragen die ambtenaren moeten beantwoorden. Bijvoorbeeld op basis van de wet open overheid. Zit er ook heel veel van het type informatie bij. Wat eigenlijk steeds dezelfde informatie is die je moet geven. Of die gewoon openbaar toegankelijk is. Die je heel makkelijk zou kunnen verzamelen met AI. Waardoor dat zo'n ambtenaar geen tijd en energie kost. Om te zorgen dat je 80% van het antwoord al aan de burger kan geven. En dan is er misschien 20% waar je nog even over na moet denken omdat het echt wat nauwer luistert. Of omdat de burger ook nog één ingewikkeld onderdeel had waar hij iets over wilde weten. En dan kun je als ambtenaar daar je tijd aan besteden. En dat is in IT-termen niet iets heel anders dan hoe je het voor een klantenservice zou inrichten. Wat ik me kan voorstellen, sorry dat ik je interrumpeer, maar ik kan me voorstellen. Hoe het eruit ziet voor de burger natuurlijk wel. Ja, maar ik kan me voorstellen dat, kijk, als bij dit bedrijf van die zonnepanelen, zonneplan was het, als daar de bot een advies geeft die niet past en die niet klopt, dat dat heel vervelend is. Maar in de publieke sector gelden daar denk ik andere regels voor. Als ik een vraag stel aan een gemeentebot en die geeft mij een advies die eigenlijk niet past binnen de gemeentewet. Dan is er een wat groter probleem, denk ik. Ik denk dat je in die zin in beide gevallen een probleem hebt of je nou een commercieel bedrijf bent of een gemeente. We moeten ons realiseren dat als een mens een antwoord geeft dat hij het ook bij het verkeerde eind kan worden. En dat je het hier dus vooral hebt over hoe ga je om met je aansprakelijkheid. Daar zijn ook rechtszaken over geweest. Waar op het moment dat jij een bot inzet om namens jou een antwoord te geven. Dat je daar net zo aansprakelijk voor bent. Als wanneer jij zelf die fout had gemaakt. En dat betekent dat je dus ook echt wel goed op moet letten met het trainen van zo'n bot. En dat op het moment dat dat dan toch verkeerd gaat. Dat je daar de aansprakelijkheid voor moet aanvaarden. Mijn ervaring is dat het met de AI ook heel vaak beter gaat. En een mooi voorbeeld vind ik uit de medische sector. Als je in het ziekenhuis ligt en je mag het ziekenhuis verlaten, dan krijg je een ontslagbrief mee. Waarin vaak ook iets staat over of je nog medicijnen moet nemen, wanneer je je weer moet melden, dat soort dingen. En die ontslagbrieven, daar hebben we een pilot mee gedaan waarbij die wordt gegenereerd door een AI. En nou blijkt, de patiënten die die brief ontvangen zijn eigenlijk blijer met de brief die ze met een AI gemaakte versie krijgen dan de versie van de arts. En waarom is dat? Omdat de AI eigenlijk getraind is om ingewikkelde taal van een dokter over wat jouw medische gegevens zijn beter kan uitleggen op een manier die voor een patiënt begrijpelijk is. Ook veel vriendelijker en invoelender is. Want die arts moet dat anders om 11 uur 's avonds na de zoveelste operatie doen. Dan heeft hij echt geen tijd om aardig te zijn. Dat kan die AI wel. En geeft vaak veel betere uitleg en instructie over wat jij moet doen als jij het ziekenhuis uitkomt. Mooi voorbeeld. Ja, en dat vind ik dus echt inspirerend. Scheelt de artsen enorm veel tijd, scheelt de verplegers enorm veel tijd. En de patiënt die het ziekenhuis verlaat is eigenlijk blijer met wat hij meegekregen heeft. En wat die arts en de verpleger wel moet doen is, klopt het stuk. Medisch, wat kritisch is, wat daarin staat. Dus je stuurt hem nooit één op één zonder nog eens na te kijken met die patiënt mee. Een mooi voorbeeld. Maar zijn er dan eigenlijk wel verschillen in afwegingen buiten en binnen het publieke domein? Ik denk dat het altijd vakmatige afwegingen zijn. Waar zo'n arts op moet letten op het moment dat hij zo'n ontslagbrief controleert, heeft te maken met de expertise die hij of zij op dat moment in moet brengen. Datzelfde geldt voor de verpleger. Die let op andere dingen in diezelfde brief. En op het moment dat dat een brief is die gaat over een verzekeringsproduct bij een verzekeringsmaatschappij. Of een bankproduct bij een bank. Ja, dan gaat het over die specifieke expertise. Dus wij kunnen technologie vanuit Microsoft maken die dit type automatisering voor je mogelijk maakt. En dat noemen we dan met een duur woord artificial intelligence. Maar de professional is degene die AI moet trainen om dat correct te doen. en die ook moet checken, is het ook correct? Op het moment dat die op verzenden drukt of het uitprinten aan jou meegeeft. Dus van generalisatie naar specialisatie. En de specialisatie ligt echt bij de vakkennis en degenen die daarmee aan de slag moeten. Ik zou één verschil tussen een privaat en een publieke omgeving willen noemen. En dat is het feit dat je de wet open overheid hebt. Dus je bent als overheid bij, dat noemden we vroeger WOP-baar. Je moet dus uit kunnen leggen en stukken kunnen sturen die aangeven hoe je tot een bepaald besluit bent gekomen. Een bedrijf hoeft dat niet. Als je zegt, leg nou eens uit waarom ik dat tarief moet betalen, dikke pech. Als ze erachter komen van, dat heeft die AI toch een beetje onhandig berekend, dan zullen ze dat wel corrigeren. Maar ze hoeven het niet verplicht uit te leggen als ze het er wel mee eens zijn, maar het komt wat slecht uit. Een overheid heeft andere plichten. En in die zin wil ik eigenlijk met jullie naar de publieke waarde, want daar refereer je hier aan. Erik, jij doet onderzoek naar de publieke waarde van digitalisering, terwijl Jet nu werkt juist voor een commerciële technologiepartij. Hoe zie jij, of jullie eigenlijk, de balans tussen publieke waarde en de commerciële belangen in het digitale domein? Ja, dan is het mooi dat Jet daar wel het onderwerp publieke waarde heeft binnen Microsoft. Dus dat maakt het heel interessant. Want voor mij zijn publieke waarden kun je op een aantal manieren vormgeven. Je kunt ze vormgeven in de technologie. Is er sprake van transparantie? Heb je het goed getraind met de goede data? Hoe weet je dat zeker? Dan praat je over bijvoorbeeld het algoritme. Veel overheden praten ook over een algoritmesysteem. En dan gaat het niet alleen maar over de techniek. Maar het gaat ook over het team of de organisatie rondom dat algoritme. En dat dus uit moet kunnen leggen hoe zij niet alleen human in the loop. Maar ook human at the end. Verantwoordelijkheid kunnen nemen voor een bepaald besluit dat is genomen. Of hoe ze bijvoorbeeld in geval van uitzonderingen. Een betekenisvolle menselijke tussenkomst kunnen organiseren. Dat zijn allemaal voorbeelden van publieke waarde. En de derde element waar je dan naartoe kunt gaan is in hoeverre zijn mensen zelf getraind om met dit soort technologie te kunnen werken. Dat kun je geletterdheid, AI geletterdheid noemen, maar dat gaat steeds verder, een stap verder. En het verhaal over de AI Act liet dat ook zien. Afhankelijk van hoeveel verantwoordelijkheid je hebt in je dagelijkse leven, in je werk, Zul je daar geletterder voor moeten zijn. Je zult daar meer capable in moeten zijn. Dan als je dat nooit tegenkomt. En langs die drie lijnen. Kun je publieke waarden. Denk ik uitstekend vorm geven. En hoeveel bewuster daarmee bezig zijn. Dan te zeggen. Ja weet je. Dat is ergens uitgevonden. Laten we het maar gebruiken. En Jet. Uiteindelijk Microsoft is een commerciëel bedrijf. Dus die hebben gewoon commerciële belangen. Hoe hou je dan die balans met die publieke waarden? De leiding van mijn bedrijf zegt altijd Microsoft runs on trust. En dat is ook echt zo. Want wij gaan om met de data van onze klanten. En of dat nou de gegevens van de klanten van ABN AMRO zijn. Of ING in Nederland. Of de overheid. En dan gaat het over overheidsdata. Of de gegevens van studenten in het onderwijs. Op het moment dat je het gevoel zou hebben dat dat niet veilig zou zijn in Microsoft technologie. dan koop jij niet meer bij ons. Dan blijf je er ver van. Dus voor ons is de belofte dat jouw data bij ons veilig zijn... en dat wij daar heel goed voor zorgen... en dat wij dus ook heel ver gaan in cybersecurity... om te zorgen dat criminelen daar niet zomaar bij kunnen... niet gehackt kan worden. Dat onze eigen mensen, techneuten, niet zomaar bij jou spullen kunnen. Dat zo'n datacenter heel erg veilig is. Ja, dat is nodig, omdat anders niemand bij ons ook nog maar één product wil afnemen. Ja, en hoe zit dat dan? Want de generatieve AI, dan hebben we het heel snel over de taalmodellen. Dat is denk ik waar mensen het meeste van kennen. Er zijn nogal wat verschillen rondom ideeën van hoe je of en hoe je bias, hoe je dat tegen gaat. En zeker zeg maar onder het huidige geopolitieke klimaat zijn er nogal verschillen tussen Amerika en Europa. Hoe kijk je daar tegenaan? Ik denk dat daar bij ons niet zo heel erg veel veranderd is ten opzichte van vroeger. In de zin dat we niet in één keer afgelopen jaar ons diversiteits en inclusiebeleid hebben gewijzigd. Dat is nog precies hetzelfde als het altijd was. Goed zo. Ook hier in Nederland. Ik ben sponsor van het netwerk van de LHBTIQ Plus gemeenschap. Dus inclusie is voor ons echt ook iets wat iets betekent. Niet alleen in de technologie die we maken. Maar ook gewoon hoe wij als collega's op de vloer met elkaar omgaan. Want uiteindelijk moet het zich ook gewoon in je menselijk gedrag vertalen. En daar is de technologie een uiting van. Microsoft heeft ook een raamwerk waarin dit past. En dat zit ook in Responsible AI. Eigenlijk by design willen we zorgen dat dat zo goed mogelijk getraind is. Wat je natuurlijk wel ziet, is dat je in een toepassingssituatie bij een gemeente bijvoorbeeld, specifieke voorbeelden kunt tegenkomen waarbij wij onvoldoende getraind hebben. Want de bevolkingssamenstelling van de gemeente als Rotterdam is anders dan die van Seattle. Om maar even wat uiterste te pakken. Overal zeer gevarieerd. Maar bijzondere gemeenschappen in Rotterdam, daar hebben ze in Seattle echt geen verstand van. En dat betekent dat je een soort basis krijgt aangereikt in hoe wij denken dat het goed getraind zou kunnen zijn. Maar op het moment dat je bijvoorbeeld een chatbot zou willen ontwerpen voor de gemeente Rotterdam, die vragen kan beantwoorden van burgers. En je moet er rekening mee houden dat sommige burgers in Rotterdam niet zo goed Nederlands spreken. En dat misschien met een bepaalde tongval doen, omdat ze uit de Marokkaanse of een Hindoestaanse gemeenschap komen. Dan moet je de bot leren dat te verstaan. En te weten als die burger deze vraag stelt. Dan wil die misschien een vergunning. Waar als je niks doet. Je misschien alleen de burger uit Hillegersberg zou hebben verstaan. Dat vinden wij niet goed. Dus wij gaan heel vaak aan de slag met onze klanten. Om te kijken. Wat hebben wij eigenlijk al ingebouwd. En wat moet je dan nog extra doen. Gegeven de context. Waarin jij aan de slag gaat met die AI. Ik denk dat het wel heel mooi is inderdaad. We weten welke context erin speelt en wat is er al in de basis. En is die basis voldoende voor de context waar je mee aan de slag gaat om terug te gaan naar de zorg? Is de juiste informatie er al voor, de juiste turn of voice, de juiste vertaling daarvan? Ik wil met jullie even een stapje maken van publieke waarden, commerciële belangen naar onderzoek en praktijk. Erik, welke concrete projecten was ik wel nieuwsgierig naar lopen en momenteel op electoraat? En hoe betrek je niet alleen de studenten erbij, maar ook het bedrijfsleven? Om echt met elkaar die verschillende perspectieven in te kunnen brengen. Dat is een leuke. Er heeft er eentje gelopen die in dit verband wel interessant is en dat is de toepassing van AI in voetbalstadions. De kwestie is veiligheid, maar ook gastvrijheid. Dat levert spanning op in een organisatie als een betaald voetbalorganisatie, want ze willen heel gastvrij zijn en tegelijkertijd moet het ook veilig zijn. Van families tot en met mensen die even een gezellig uitje willen hebben om de tegenstander het zo moeilijk mogelijk te maken. Verbaal en non-verbaal. En men heeft bedacht, laten wij daar ook met alle camera's en microfoons die er zijn, sowieso al zijn, laten we daar ook verkennen of AI de specialisten in de kamer, in de opnamekamer, ook kan helpen. En dat gebeurt dan met het vlaggen van bepaalde delen van opnames. Waarbij dan een steward kan kijken van is hier wat aan de hand? Zoomen ze wat in? Of zijn de stewards op het veld in van ga eens even kijken bij vak XYZ. Dat hebben we gedaan deels met de publieke organisatie de gemeente. Want die is verantwoordelijk voor de veiligheid. Met name om het stadion. In het stadion is dat de BVO. In dit geval was dat PEC. Maar er zat ook een bedrijf bij. Een aantal bedrijven bij. Die met name verantwoordelijk waren voor de training van de AI. En de hele inrichting van het dashboard. En het voeren van dat gesprek. Maar zelfs ook het voeren van het gesprek samen met de supporters. De harde kern. Wat vinden jullie nou belangrijk? Als je praat over het ontwikkelen. De toepassing. Alle effecten die je mogelijk wel of niet voorziet. nam best wel even tijd voordat iedereen het eigenlijk wel een goed idee vond. En vanaf waar vonden ze het een goed idee? Want ik kan me voorstellen dat de gemiddelde hardcore fans niet zitten te wachten op cameratoezicht. Nou, nee, zeker. Dus dat gaf bij twee andere clubs ik zal hun namen hier niet publiekelijk noemen het gevoel van nou laten we dat gesprek maar niet voeren. Laten we het maar gewoon eens proberen en kijken wat ze ervan vinden. Misschien valt het wel mee. Hier werden wij van meet af aan om die reden ook meegenomen in het consortium. Dat gaf overigens ook in het gesprek met de beoordelaar het gevoel van hier wordt ook het belangrijke gesprek over waarden, over publieke belangrijke waarden in het geheel, wat serieus genomen. Dat levert uiteindelijk soms ook wel een resultaat waarvan de opdrachtgever of de financier zegt van ja, maar dat hadden we niet bedoeld. Want toen zeiden wij van, ja, maar als je een gesprek voert alleen maar om het gesprek te voeren en er geen consequenties aan wil verbinden, dan doen wij het niet. Dus dat de club uiteindelijk heeft gezegd, we doen het op dat soort momenten niet en op andere momenten wel, vonden wij eigenlijk wel een heel krachtig resultaat. Hoewel de financier daar wat anders naar kijkt. Dus antwoord op jouw vraag, wanneer vond men dat een goed idee? De technologiebedrijven en de gemeente vond het van meter van een goed idee. Men vond het wel spannend van wat voor consequenties. Als je het over controle wil men ook wel het liefst daar controle hebben. De voetbalsupporters, ja, die vonden daar natuurlijk van alles van. Uiteraard zou ik haast willen zeggen. En waar je dan in meegaat in het gesprek is. Wat voor handelingsperspectief levert dat op technologie. Betere technologie ontwikkelen. Kun je het beter trainen. Het inbedden in de organisatie. Is er altijd iemand in de loop die zegt van. Er gaat geen AI zeggen van die persoon moet eruit. Nee, het moet altijd een persoon zijn. Je moet kunnen escaleren ook als je het ergens niet mee eens bent. En hoe train je dus ook mensen dat ze weten waar ze mee omgaan. En was dat dan voldoende voor de supporters om te zeggen van doe het dan wel? Dat was in ieder geval voldoende voor de supporters om meer vertrouwen te hebben. Maar ook wel om duidelijk een signaal te geven. Daar hebben we het nog niet voldoende vertrouwen. Daar kun je ons niet overtuigen dat het oké is. Dus dan moet je aan andere manieren denken. En het gaat hier ook over proportionaliteit. En dat is best de spannende. hoe proportioneel is de inzet van AI en in een bepaalde situatie ten opzichte van andere mogelijkheden die je ook zou kunnen hebben. En dat is een maatschappelijk debat wat je met elkaar hebt. Hoe lang mag iets fout gaan voordat we zeggen van en nou moet het echt anders. Hebben we al die alternatieven goed op een rijtje. Lijkt me een mooie les. Heb jij ook zo'n soort les uit jouw praktijk? Nou wat ik interessant vind aan dit gesprek Dat zie ik ook wel bij voorbeelden die in mijn praktijk voorkomen. Dat juist door het voeren van dit gesprek over welke waarden staan op het spel. Welke bias zou kunnen optreden. Word je je bewust van het feit dat je die hebt. Totdat we dat gesprek gevoerd hadden namen we gewoon beslissingen. Namen ambtenarenbeslissingen, docentenbeslissingen, doktersbeslissingen. Zonder dat ze zich die vraag stelden. Hé, heb ik eigenlijk een bias? En kom ik wel op de juiste gronden tot dat oordeel? Wat ook een risico in zich heeft. Dat we soms... Want ieder mens heeft bias. Ik heb dat ook. Zeker. Dan ontkomen we niet aan. AI kan ook echt helpen. Als je jezelf bewust die vragen stelt. Om minder vaak in dat vooroordeel te stappen. Wat elk mens heeft. Je geeft echt... We doen soms alsof het met AI alleen maar slechter kan worden. Ik denk dat het ook beter kan worden. Maar de voorwaarde is wel dat je echt even reflecteert. Echt even goed kijkt. Wat zijn de plussen? Wat zijn de minnen? En weeg dat tegen elkaar op. En die reflectie, dat is waar het vaak aan ontbreekt. En als je kijkt naar de AI-projecten die fout zijn gegaan. Dan is eigenlijk de conclusie van de commissies die die dingen onderzoeken altijd. Het ontbrak aan de reflectie vooraf. En dat is echt het belangrijkste voordat je hieraan begint. Om dat te doen. En dan word je als mens dus ook beter. Je maakt echt een geweldige brug naar ons kaartspel. Want wij vinden het niets belangrijker dan dat je over allerlei stellingen nadenkt. Want daar komt het op neer. Dus wij hebben een kaartspel en wij willen namelijk ook een stelling aan jullie voorleggen. En het idee is dan eigenlijk dat je dit met elkaar in een grotere groep eigenlijk bespreekt om van elkaar te weten hoe sta je hier eigenlijk in. Dus er is geen goed of fout. Het is gewoon hoe sta je ergens in. Niels heeft geschud. En ethiek en maatschappij is het thema. Heb jij voor mij. Jullie zagen dat ik hem echt geschud. Maar dat betekent dat we een mooie onderwerp, een mooie categorie hebben in onze stellingenspel. De stelling luidt als volgt. Hij zei doeltreffende strategieën beschikbaar om vooroordelen in generatieve AI algoritmen te verminderen. Laten we beginnen met Jeth. Ja, die zijn er. Kan je daar wat van noemen? Ja. Ik ben zelf geen techneut, maar wij trainen natuurlijk onze AI in generieke zin. Dat heb ik net ook uitgelegd. En wat ik zei, ik vind het heel belangrijk om in de context dan vervolgens het nog een keer te doen. En te kijken waar wil je deze AI toepassing in werking stellen. En waar moet je deze AI dan al extra optrainen. Om beducht te zijn voor wat er in deze situatie zou kunnen gebeuren. En dat betekent dat je dus ook echt kijkt naar de scoping. Wat mag deze AI? Bij welke data mag die het antwoord gaan zoeken? En je moet hem op een gegeven moment ook leren. Dit zijn de verkeerde antwoorden. Hier zit de verkeerde conclusie in. Of dit zou wel eens een bias kunnen zijn. Omdat de onderliggende data een bepaalde bias vertonen. En daar kom je achter door dat in de praktijk ook met elkaar uit te vinden. Erik? Nou, laat ik daar het antwoord nee op zeggen. En ik denk dat we er zeker niet zijn. Als ik hier ja op zou zeggen, dan zou ik daar ook al een zekere mate van genoeg van. Nou, het is wel oké, maar ik denk dat het nog niet oké is. En om als voorbeeld... trainen van een algoritme gaat op een paar manieren. Eén, je geeft het algoritme een aantal data voor en daar moet het een besluit over nemen. Of daar moet het een actie aan doen. En dat wordt dan beloond. Nou, wie beloont dat? Daar kun je mensen voor vragen. En de vraag is, is je groep die daar iets van zegt divers genoeg? Daar kun je wat aan doen. Maar wat ik nog spannend vind, en waar nog best wel wat onderzoek een van mijn collega's wil daar ook op gaan promoveren. is de mate waarin de data die je gebruikt om een algoritme te trainen, in hoever daar al bias in zit. Kun je daar een label aan geven of een bepaalde waarde aan geven? In Engelse taal is daar best veel over bekend. Er zijn ook best wel een aantal checks en balances die je daar kunt loslaten op een gegeven databron. Voor het Nederlands is dat veel minder bekend. En daar wil zij met name op gaan promoveren. Ook wat betreft de mate waarin mannen en vrouwen in een bepaalde tekst of in bepaalde data op een heel andere manier behandeld worden. Zonder dat daar überhaupt reden voor zou moeten zijn. Dat kun je seksisme noemen. Maar eigenlijk is die aanwezigheid in data op dit moment niet goed te detecteren. En daarmee weet je dus niet hoe beroerd of hoe goed de data is die je... Dus een stukje transparantie eigenlijk over de LLM en de data eronder. Eigenlijk een label van tevoren. Deze databron is voor dit doel einde good enough. Maar dat geldt zo direct eigenlijk ook voor wat er uitkomt. Dus we hebben het hier over generatieve AI. Heb je dat eigenlijk ook als evaluatie technieken nodig? Die zeggen van de uitkomst heeft ook een bepaalde mate uiteindelijk van vooroordeel. Dat was het voorbeeld wat Jet net noemde. Zij gaf aan van ons algoritme is bij wijze van spreken getraind voor de stad en de bevolking van Seattle. Dan pas je dat toe in Rotterdam. Dan heb je een andere samenstelling. Dus je zult even in de gaten moeten houden. Wetende dat er een bepaalde bias in kan zitten. Die bias treedt op op het moment dat je toepast in een nieuwe situatie. Dan moet je er alert zijn. Ik ga ervan uit dat als het algoritme in Seattle is getraind. Dat is goed toepasbaar. Maar een hele andere context. En dat is natuurlijk wel de business van een bedrijf als Microsoft. Dat is niet een bedrijf dat zich alleen maar bevindt in Seattle. En daar ook haar business. Dat zou we snel klaar zijn. Dat moet wereldwijd. Dus het is goed kijken naar wat je als bedrijf zelf kunt doen. Om dit zo goed mogelijk aan te leveren. En dat is iets waar we dagelijks mee bezig zijn. Dus als je kijkt naar de ontwikkeling sinds generatieve AI op de markt kwam. En de modellen nu. Is er een enorme verbetering zichtbaar. Waarbij de AI en zeker Copilot geeft ook citaties weer. Waarbij je kunt zien welke bronnen die dan gebruikt heeft. Waardoor je ook jezelf een beetje een oordeel kunt vormen over hoe waarachtig is het eigenlijk. Dus als bij spreken een artikel over mij refereert aan bronnen van vijf jaar geleden. Is de kans aanwezig dat het niet heel actueel is, misschien niet helemaal klopt. Maar hij heeft die bronnen van bij spreken gisteren gevonden. En je vindt dat betrouwbare media waar zo'n AI zich op baseert. Is de kans behoorlijk aanwezig dat wat daaruit komt correct is. Maar we moeten wel onthouden dat AI een technologie is. En generatieve AI een technologie is die niet pretendeert waarheid te geven. Hij geeft een waarschijnlijkheid op basis van tekstredeneren. Dus je moet altijd controleren. Daar helpen die citaties. Het vermelden van de bronnen helpt daarbij. Maar dat voorbeeld van die ontslagbrieven van ziekenhuis toont ook maar weer aan. Je moet ook echt altijd even je professionaliteit eroverheen leggen. En zeker in zo'n ziekenhuiscontext is dat ook superkritisch. Als dat ging over, kun je mijn cv opleuken? Is het minder kritisch? Ben je zelf aan zet. Ja, het wordt wel soms voor mensen een beetje lastiger voor dat controleren. Omdat niet overal bronnen worden aangegeven. Er zijn zoekmachines die dat niet doen. Of heel wild. Ik weet eigenlijk niet waar ik naartoe wil met mijn vraag. Maar het gaat er eigenlijk om dat, we worden er zo vertrouwd mee, dat ik me af ga vragen, weet je, wie gaat nog die bronnen zo direct ook daadwerkelijk checken? Nou, dat is wel een interessant punt. Want wij zitten nu eigenlijk nog maar met een hele nieuwe technologie. Natuurlijk, je kunt zeggen het is in de jaren 50 uiteraard. Maar de manier waarop het zich nu manifesteert is relatief nieuw. Wij kunnen nu nog een tekst beoordelen. Want veel professionals hebben die kennis nog en kunnen dus zeggen van ja, nee, maar dat is echt fout of nee, dat klopt wel redelijk. Fast forward, tien jaar, twintig jaar vanaf nu. Nieuwe professionals die zijn getraind, opgeleid in een tijd waarin we heel veel met AI deden. Hebben veel minder van het vak meegekregen dan misschien de mensen van nu. In hoeverre kunnen die nog, hoe zijn die cognitief luier geworden op een bepaald onderwerp? Het wordt vaak vergeleken met kunnen wij nog kaart lezen? Kunnen we überhaupt nog de weg vinden? Zonder een toepassing in een app. Nou, een groot aantal van ons gelukkig nog wel. Niels is het heel hard nu. Ik zal niet zeggen dat je cognitief lui bent. Maar, en misschien kon je wel dat nooit. Maar je moet wel blijven trainen. Dus de volgende stap wordt, en ik heb het maar even cognitieve obesitas genoemd. We moeten wel trainingsprogramma's gaan maken over hoe wij scherp blijven. Een vraag die bij mij altijd blijft knabbelen. Om even de antwoord te geven, ben je cognitief lui? Voor het kaartlezen ben ik cognitief lui en dat hoef ik ook niet te leren. Daar ga ik van de technologie vertrouwen ik volledig. Dus ik heb een probleem als dat uitvalt. Even terug naar mijn vraag. Een skill die ik steeds vaker tegenkom, die van essentieel belang is, is het kritisch blijven op de oplossingen en de tools die we inzetten. Hoe kunnen we daar de luisteraars, de studenten, de toekomst, de workforce, erop attenderen? Hoe blijf je kritisch? Ik ben wel benieuwd, hoe doen jullie dat binnen jullie organisatie? Hoe zorg je dat de cultuur is om kritisch te blijven en niet voor snelheid en gemak te gaan? Het is gewoon ook met elkaar in gesprek blijven. Het begint met niet de technologie de wereld laten regeren, maar zelf blijven nadenken en mensen aanmoedigen om dat te doen. En ook uit te spreken wat ze denken. Ik heb het toen ik hier vanmiddag een praatje hield gehad over de gesprekken die ik voer met klanten of organisaties zoals Surf of SLM Rijk die optreden namens grote groepen klanten. Die geven echt stevig weerwerk om samen met ons te kijken wat zijn de Nederlandse eisen die wij aan Microsoft technologie willen stellen. Zodat wij aan onze achterbank kunnen zeggen, nou als je het zo doet kun je het goed gebruiken. Het klopt dat niet iedereen dat kan. Het goede nieuws is dat soort organisaties zijn er die dat type gesprek met ons voeren. En ik denk dat je dat ook gewoon in je dagelijks gebruik voor jezelf moet blijven bevragen. De andere kant, en daar hebben we het veel te weinig over, is dat AI ook heel veel mogelijkheden biedt om hele complexe informatie juist toegankelijk te maken voor mensen die het moeilijk vinden om dingen te snappen. Dus zo'n vraag worden we niet te dom, vind ik ook echt een typische hoogopgeleide vraag. Want we hebben het niet over dat we hele ingewikkelde informatie toegankelijk kunnen maken door de AI te vragen, kun je hier een plaatje van maken? Of kun je deze brief die ik van de overheid heb gekregen, die ik niet snap, even in mijn eigen taal in simpele woorden te vertalen, zodat ik snap wat ik als burger moet doen? Dus ik vind dat we soms ook in een enorm hoog opgeleide discussie zitten. En niet nadenken over welke betekenis AI kan hebben voor mensen die het gewoon per definitie moeilijk vinden. En die met die AI toch toegang kunnen krijgen tot dingen die anders te ver weg zijn. Te moeilijk. Niet te begrijpen. Ja, mooi. Je gebruikt dan niet zozeer de voorspellende AI. Maar je gebruikt eigenlijk de analyserende AI. Je zegt, ik heb hier heel veel dingen. Maar ik maak er maar een chocola van. Ik was vorige week bij een bijeenkomst van het COA en daar ging het over hoe kunnen we nou de AI inzetten om de beleving van asielzoekers die in een centrum wonen te verbeteren. Dat zijn mensen die spreken heel slecht Nederlands als ze überhaupt al Nederlands spreken. Die hebben geen idee hoe ze dingen voor elkaar moeten krijgen. Hele simpele dingen proberen geregeld te krijgen. En er is structureel te weinig personeel. Daar kan AI enorm helpen om gewoon simpele informatie toegankelijk te maken in de taal van de asielzoekers zelf. Of soms met plaatjes. En dat maken we dan heel ingewikkeld. Totdat we heel technisch complexe discussies aan het voeren zijn over ethische waarden. Ik denk, ja jongens, dit kun je morgen toepassen. En daar worden heel veel mensen zo blij van. En dat is helemaal niet risicovol. Want dat is gewoon openbare informatie die gewoon beschikbaar is. Maar we doen het niet. Heel mooi voorbeeld. Toch willen we wel afsluiten met twee pittige vragen. En we beginnen met jou Erik. Want als je ziet, is het hoger onderwijs, misschien eigenlijk ieder onderwijs, is dat niet eigenlijk nu hopeloos achterhaald met de komst van AI? Nou, hopeloos achterhaald is wel heel erg dramatisch. Ik gooi hem er even in. Nee, ik snap de tactiek. Ik vind het voorbeeld wat Jert net noemde, dat AI ook een aantal hele goede gevolgen kan hebben, vind ik ook wel op het onderwijs van toepassing. Als je bijna kijkt naar de wijze waarop wij toetsten, ik denk dat het inmiddels behoorlijk aan het veranderen is, was het wel heel erg makkelijk van, nou student, doe maar even dit, doe maar even dat, zijk maar even hier. Allemaal hele relatief eenvoudigheid. De vraag was, werd daar nou echt getest wat wij een student mee willen geven? Dus wij worden door AI gedwongen als docenten goed na te denken over de essentie van ons vak. En die essentie van je vak kun je wel degelijk ook op een andere manier aanbrengen en toetsen dan met AI. En voor de rest zou ik willen zeggen, maak er gebruik van. Dus hopeloos achterhaald. We worden wel ontzettend met onze neus op de feiten gedrukt. Maar we moeten het wel opnieuw doordenken. Dus daarmee is het achterhaald. En uitgedaagd dus. En uitgedaagd, ja. Leuk. Tenminste, ik neem aan dat je werk leuker maakt. Dat vind ik wel, ja. Absoluut. Mag ik hier toch een keer? Oh ja, tuurlijk. Jazeker. Nu komt het onderwijs hard. Onderwijs gaat over drie dingen. Professor Bista heeft dat gelanceerd. Het gaat over persoonsvorming. Wie ben jij in de wereld? Het gaat over socialisatie. Wie ben jij met jouw omgeving? Met je vrienden, je familie? Mensen in jouw vak? En een stuk dat gaat over kennis. Die kenniscomponent gaat inderdaad heel erg veranderen. Want dat gaan we gewoon op een andere manier tot ons nemen. En ook op een andere manier gebruiken. Want daar komt technologie in. Maar die socialisatie en persoonsvorming is ook iets heel erg menselijks. Ook daar kun je op onderdelen best een stukje technologie bij inzetten. Maar daar zitten ook een aantal vaste waarden in. Die al eeuwen in het onderwijs aanwezig zijn. En die omdat wij mensen zijn naar mijn overtuiging ook echt nog eeuwenlang blijven. Dus we moeten het ook niet te dramatisch maken. Ik spreek vanavond in een talkshow over AI en relaties. Dus ik help het je op. Ja, maar dat vind ik gewoon belangrijk ook omhoog te houden. Als ik kijk waarom mijn kinderen een goede studietijd hebben gehad. Het ging ook over de vrienden die ze daar gemaakt hebben. Over het bedenken wat ze willen worden, wie ze willen zijn. Heel wezenlijk. En daar gaat AI echt niet over. Gelukkig niet. Mooie toevoeging, dankjewel. Ik had ook nog een pittige vraag. En die luidens volgt. Microsoft investeert miljarden in OpenAI. en integreert deze technologie in vrijwel alle producten, Copilot en alle andere tools die we kennen. En critici stellen dan dat dit een klassieke vendor lock-in strategie is, waarbij klanten steeds afhankelijk worden van één ecosysteem. Is dit niet in strijd met de publieke waarde of van digitale soevereiniteit, waar de overheid naar streeft? Wij willen gewoon een heel mooi product maken en zorgen dat dat goed werkt met alle andere Microsoft producten die wij maken. Maar er zijn ook andere modellen. Wij hebben goede concullega's in de markt. Ik zou het heel leuk vinden als ook Europa zich zou gaan roeren op dit vlak. Ik zie een aantal hele mooie initiatieven. Onder andere geïnitieerd door Surf. Ik denk dat deze markt groot genoeg is. En dat wij die concurrentie prima aankunnen. Mooi. Mooie afsluiting. Dank jullie wel. Dank jullie wel voor dit buitengewoon interessante gesprek. We hebben best wel een hele hoop behandeld. Publieke waarden, onderwijs. Hoe Microsoft eigenlijk in dit verhaal staat. Dank jullie wel voor deze inzichten. Hebben jullie eventueel nog een tip voor de luisteraars? En je zegt dan, als je zo direct hem uitzet, deze podcast, wat zou je dan moeten doen vanuit jouw idee? Laten we beginnen met Erik. Zo, ik dacht dat we een moeilijke stelling hadden gehad. Nou, ik denk dat de oproep zowel van de community practice als nu ook van mij is om, mocht je nog niet zijn gaan experimenteren, doe het. Ga eens bij iemand te raden die eigenlijk dezelfde stappen heeft doorlopen. En ga eens even aan de hand van iemand anders wat uitproberen. Kijk eens naar bepaalde dingen die je energie kosten. En kijk eens hoe je dat eventueel met AI anders zou kunnen doen. Dat het misschien je energie oplevert. Ik denk dat dat wel een aardige zou zijn. Ik denk ook, wees niet bang voor technologie. Ik heb Frans gestudeerd. En ik ben opgegroeid in een wereld waar tegen meisjes werd gezegd, technologie is te moeilijk. En ik kom heel veel mensen tegen die op het moment dat ze het woord IT horen, denken oh dat kan ik niet. En dan nemen ze eigenlijk afstand en willen niks meer horen. En als ik dan kijk naar mijn schoonmoeder van 93, bij haar heeft dat ertoe geleid dat zij de familieappjes niet meer kan volgen. Eigenlijk afgesloten is van de wereld. Dus wat ik mezelf heb voorgenomen is, ik moet één ding doen, is die wereld induiken en over mijn schroom heen het gewoon gaan doen. En dan blijkt dat voor wat ik nodig heb voor mijn vak, ik dit ook echt wel kan. En ik hoef echt niet te programmeren om te snappen hoe die technologie zich in mijn wereld vertoont. En als het over programmeren gaat, dan bel ik die techneuten in mijn wereld en daar heb ik er meer dan genoeg van. Ja, bel ons, zou ik zeggen. Ja, maar voor de meeste mensen is dat wat jij ervan moet snappen, is te doen. Het is helemaal niet zo moeilijk. Het is een kwestie van gewoon met kleine stapjes beginnen. En dat zou ik dus met Erik eigenlijk ook iedereen aanraden. Wees niet bang, gewoon doen. Fouten maken mag. Fouten maken mag, hartstikke mooi. Zeker. Ik dank jullie wel. Bedankt ook voor het luisteren naar deze aflevering. Vergeet je niet te abonneren via je favoriete podcast app. En dan mis je geen aflevering, krijg je automatisch een seintje. Tot de volgende keer. Tot de volgende keer.