De toekomst van Responsible AI met Marc van Meel (KPMG)

Hoi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Met vandaag vriend van de show, Marc van Meel. De derde keer toch? De derde keer, driemaal scheepsrecht. Hopelijk ook niet de laatste keer. Mijn naam is Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, Area Lead, Data & AI bij Info Support. Ja Niels, Niels? Nee, sorry, Marc. Edit. Marc, zou je je eerst willen voorstellen aan de luisteraars, diegenen die je nog niet kennen? Uiteraard, dank dat ik weer te gast mag zijn allereerst. Altijd leuk. Mijn naam is Marc van Meel, ik ben Manager Responsible AI bij KPMG. En ja, wij helpen onze klanten met, het woord zegt het eigenlijk al, Responsible AI. Dus wij helpen klanten met AI, Artificial Intelligence. Hoe doe je dat nou op een goede manier, vanuit een technisch perspectief? Hoe doe je het nou op een manier dat je compliant bent, in overeenstemming met intern en extern en wet en regelgeving, met een derde gegeven dat je iets kan, gegeven dat je iets mag. Je zou nu ook moeten willen doen, dat is de ethische dimensie. En over die drie assen helpen wij onze klanten om verantwoord AI te doen. Het meeste waarde uit AI oplossingen te halen eigenlijk. En dat op een goede verantwoorde manier. Ja, dat je dus niet negatief in het nieuws komt, zou ik kunnen zeggen. Nou, we hebben een nieuw onderdeel, de vraag van de leek. En die gaat hier denk ik ook wel een beetje over. Zo dan! Dat was hem niet. Het is even wennen. Ja, daar is hij. Als kunstenaar zie ik hele mooie dingen voorbijkomen die gemaakt zijn door AI. En die ik zelf niet op die manier zou kunnen maken. Wat betekent het eigenlijk voor de kunst, AI? Is het de vraag van de week of de leek? Ja, allebei. De vraag van de leek is deze week. Wat is de impact van AI op kunst? Goeie vraag. Meteen een beetje een existentiële vraag. Ik kan het over meerdere assen beantwoorden. Ik kan iets vertellen over de jobmarket misschien. En ik kan iets vertellen over wat creativiteit dan zou betekenen. Dat zou mooi zijn. Misschien over die assen. Ik denk wel, AI heeft natuurlijk transformatieve effecten op onze samenleving. En dat betekent ook de banen die mensen hebben. Dat heeft het internet ook gehad natuurlijk. Dat hebben alle technologieën gehad. Vroeger had je iemand die de lift bediende bijvoorbeeld. Die bestaat niet meer. Dus ja, zullen de banen verdwijnen? Ongetwijfeld. Je ziet in Amerika eigenlijk al de eerste tekenen van scriptwriters die zich zorgen maken om de impact van AI op scriptwriting. Acteurs die bang zijn dat hun gelijkenis verkocht wordt, permanent. En dat ze moeilijker aan de bak kunnen komen. Ik denk dat er allerlei beroepen zijn die daadwerkelijk door een combinatie van AI, maar ook augmented reality vervangen kunnen worden. Bijvoorbeeld handmodellen. Heel veel dingen kan je al renderen in reclames. Handmodellen, oh echt. Dat je foto's of reclame met alleen een hand. Ja, je hebt dus mensen die zijn dan handmodel. Hun hand is dan in een reclame. Die hebben niet een heel lange toekomst meer. Dat kan je nou gewoon genereren. Met zes vingers. Nou, dat is dus voorbij. Tegenwoordig hebben ze weer vijf vingers. Generaal is zover gekomen. Er zijn weer andere dingen waar je nu op moet letten. Wat het betekent, dat betekent even saai gezegd voor de jobmarket. Er was recent ook een reëel, volgens mij een comicboek. Volgens mij was het van Batman. Er was een reel over omdat een lezer had, dacht hij, Gen AI art gespot. Dus hij had een comicboek gekocht en hij had gezegd, hé maar wacht even. Volgens mij gebruiken jullie als uitgever, als artiest heb jij waarschijnlijk Gen AI gebruikt om bepaalde afbeeldingen te genereren. Dat bleek ook zo te zijn. En dat creëerde een beetje een controverse over. Wat is kunst? Is het creativiteit? Is het ook auteursrecht? Moet het helemaal door een mens zijn gemaakt? Mag het misschien ook assisted zijn door Gen AI? Overigens, veel animatiestudio's maken al gebruik van computersoftware natuurlijk. Adobe is natuurlijk ook een softwareproduct waarin mensen kunst maken. Gemaakt voor Star Wars. Adobe? Ja, de Photoshop is gemaakt voor de Star Wars films. George Lucas is daar eigenlijk de initiatiefnemer van. Oh dat wist ik niet. Ik heb dat geleerd. Oh tof. Oh gaaf. Dat geeft al aan, Star Wars is al best wel oud natuurlijk. Ik ben zwaar fan trouwens hoor. Ik ook. Laten we het niet over de nieuwe films hebben. Of de Acolyte, de nieuwste serie. Heel slecht. Nee maar inderdaad, volgens mij is er al een lange historie van de impact van technologie op banen. En ook op, in dit geval, kunst, creativiteit. Ik denk dat het ook weer nieuwe deuren opent. Dus nieuwe mogelijkheden om creatiever te zijn. Om bijvoorbeeld met behulp van Gen AI afbeeldingen te maken, kunst te maken, filmpjes te maken. Ik denk dat het de threshold, de barrière verlaagt voor mensen om zelf iets te kunnen gaan doen. Vroeger had je allemaal duur equipement nodig voordat je kon schilderen. Dat was eigenlijk een beetje voor de elites natuurlijk. Nou met Adobe Photoshop inderdaad heeft het het eigenlijk al makkelijker gemaakt voor iedereen om bijvoorbeeld kunst te maken, digitale kunst, vector art. En met Gen AI maakt het eigenlijk alleen maar makkelijker om zelf filmpjes te maken, afbeeldingen, memes. Muziek. Ja, muziek. Jullie hadden ook een digitale assistent volgens mij hè? Ja. Als je het even hebt over creativiteit, je zou natuurlijk vragen kunnen stellen, is het als het volledig gemaakt is door een machine, of door een AI systeem, hoe je het ook wil noemen, is het dan nog creatief? Daar zou je natuurlijk al een filosofische discussie over… Wat vind jij? Goeie vraag. Ik denk dat wij mensen over het algemeen ook geen nieuwe dingen verzinnen. Dus als jij met iets nieuws komt, quote-on-quote nieuws, dan is dat vaak een combinatie van twee bestaande dingen. Dus jij verzint bijvoorbeeld niet zomaar een nieuwe figuur ofzo. Als jij een nieuwe vorm of een figuur verzint is dat waarschijnlijk een combinatie van al bestaande figuren. Dus creativiteit is eigenlijk A plus B is C. Of iets wat bestaat bekijken door een andere lens. Dus je combineert eigenlijk dingen. We stand on the shoulders of giants, weet je wel. Dus in dat opzicht zou je AI technologie die bijvoorbeeld afbeeldingen of kunst produceert op dezelfde wijze kunnen beschouwen. Dat kijkt ook naar instanties uit het verleden. Dus je zou dat inspiratie kunnen noemen. Dus je kan een heel interessante filosofische discussie houden over wat creativiteit is. Ik vind het niet de meest interessante discussie. Nee, ik ook niet. Maar als het gaat over intellectual property rights is het wel interessant. Ik weet wel, in Europa hebben we iets relaxter intellectual property rights. In de zin van, in Amerika moet volgens mij de eigenaar altijd een natuurlijk persoon zijn. Volgens mij hoeft dat in Europa niet. Volgens mij was er wat discussie rondom toen met die selfie van die aap. Misschien hebben jullie dat meegekregen. In Amerika zou die nooit de eigenaar van de foto zijn. Want er was een fotograaf en die had een camera ergens neergezet en de aap die had eigenlijk gewoon zelf op het knopje gedrukt waardoor die een selfie had gemaakt. Dus daarmee is eigenlijk ook de aap de fotograaf. Dus de IP-houder van de foto. Dat was de vraag dan. Naast het portretrecht zou je nog kunnen afvragen. Maar inderdaad, de aap had zelf op het knopje gedrukt en dan ben je de fotograaf. Ja, maar is de aap dan ook de eigenaar van de foto? Ja, dat was het hele vraagstuk. Dat is het hele vraagstuk. En in Amerika was dat volgens mij niet het geval. In Europa is dat dus nog maar de vraag. Dat speelt nu ook in de stripboekenwereld, waarin er ook een stripboek is geweest in het verleden, waarin de auteur het volgens mij ook met Jenna J had gegenereerd, de afbeeldingen. Volgens mij heette het 'Sire of the Dawn'-stripboek. En zijn claim op de rechter was daarop ook afgewezen. Omdat hij volgens mij dan onvoldoende zelf creatieve inbreng had gehad in het eindproduct. Ja, precies. En als je dit nou terugbrengt, dit vraagstuk, naar wat jij in je dagelijks werk doet, over Responsible AI. We zijn nu ruim anderhalf jaar verder met de introductie van ChatGPT. Heel veel mensen zien dit trouwens als AI. De vorm van AI. Hoe kijk je nu, anderhalf jaar later, naar Gen AI, ChatGPT en hoe past dat onder de paraplu van Responsible AI? Goeie vraag. Ik vind het ten eerste een heel snelle, maar ook wonderlijke fenomeen. Heel veel organisaties zitten bijna in een soort van race om iets met Gen AI te doen. Ik neem maar even Gen AI en taalmodellen als leidend voorbeeld. Daar komt het eigenlijk altijd weer op neer. Jullie weten, AI is natuurlijk breder dan dat. Dat is even hot nu. Je ziet heel veel organisaties, die zijn bijna aan het rennen, aan het racen om business cases te verzinnen om Gen AI te implementeren. De eerste is natuurlijk een soort van digitale assistent. Ik denk Microsoft, dat was er ook een heel goed voorbeeld van recent, met die recall functionaliteit. Hebben jullie misschien ook wel meegekregen? Ja, misschien kan je dat even uitleggen, wat ze deden daar. Microsoft had functionaliteiten geïmplementeerd in de trend van, eigenlijk loggen ze alles wat je deed. Ze maakten een soort van screenshots, screen apps van alles wat jij deed op jouw computer, op jouw pc. Waardoor je dan eigenlijk makkelijk heel achteraf kon achterhalen wat je had gedaan. Dus stel jij was iets vergeten, dan kan je heel makkelijk vragen, ook met een Gen AI, chat interface, wat was dat recept ook alweer? Of wat had Jantje mij ook alweer verteld, vorige week? Dat model kan dat beantwoorden, omdat hij dus beeld en tekstueel materiaal heeft verzameld en heeft opgeslagen van alles wat je hebt gedaan. Klinkt interessant, toch? Ik denk dat best wel de luisteraars nu zeggen, oh ja, dat zou ik best willen. Bijna een soort second brain-achtige functionaliteit. Uiteindelijk hebben ze die teruggetrokken, die functionaliteit, of moet ik het zeggen, ze hebben het uitgesteld. Wat dus betekent, die komt in een volgende release. Omdat het natuurlijk vragen waren, terechte vraagtekens met betrekking tot privacy concerns. Is dit eigenlijk een use case, ook als je erover nadenkt, is het nou een use case die marktgedreven is? Zitten consumenten hier daadwerkelijk op te wachten? Of is dit een use case die voorkomt uit de eerste te willen zijn, om iets met Gen AI te willen doen? Dat is altijd, denk ik, heel erg belangrijk om jezelf af te vragen. Komt dit wel bij consumenten vandaan? Of wil jij simpelweg de eerste zijn om te kunnen laten zien van, ik heb weer nieuwe functionaliteit met AI. Ik zie heel veel organisaties nu in een soort van race om iets met Gen AI te willen gaan doen. Soms om goede redenen, maar soms ook om redenen waar je vraagtekens bij kan stellen. Ik zeg altijd, let op, want er zitten heel veel voordelen aan, maar ook een aantal haken ogen. Het beste voorbeeld, we hadden het net al over intellectual property, bijvoorbeeld ook tegen open AI. Er lopen nog tal van rechtszaken op dit moment. Dus je ziet, organisaties zitten bijna in een soort van race om die functionaliteit te implementeren, om bijvoorbeeld modellen van open AI te procuren. Terwijl er nog tal van rechtszaken lopen. Onduidelijkheden zijn bij betrekking tot intellectual property, waar de trainingsdata vandaan komt. Safety concerns zijn bij betrekking tot de reliability, de betrouwbaarheid van de antwoorden bijvoorbeeld. Ja, het is wonderlijk om te zien. Ja toch? Ik heb er ook wel eens over nagedacht, is er daarvoor wel eens een situatie geweest, waarbij, wat jij zegt, er zijn eigenlijk nog zoveel risico's, onduidelijkheden, vragen, waarbij de adoptie zo groot is, en zo snel gaat. Ik kon in zekere zin niks zomaar verzinnen. Ik denk social media is misschien een goed voorbeeld. Ik kan me nog heel goed herinneren, in de early days, toen hadden we Hives. Op een gegeven moment nam Facebook het een beetje over in Nederland. Mensen hadden eigenlijk in een race om zoveel mogelijk persoonlijke informatie op het internet te gooien. Als je erop terugkijkt, eigenlijk heel erg wonderlijk. Dat mensen allerlei foto's, soms ook niet de meest charmante foto's, gewoon uploaden. Liefdesverklaringen, haatverklaringen, gewoon publiek aan publiek online gooiden. Wat natuurlijk weer voer was voor organisaties als Meta, bedrijven die data vergaarden, data brokers. Als je erop terugkijkt, eigenlijk een wonderlijke situatie waar we toen in beland waren. Er was helemaal geen terughoudendheid voor het grote publiek om grote velen persoonlijke data online te gooien. Ja, maar dat waren dan nog individuen. Trouwens, die bedrijven deden dat eigenlijk ook wel. Die promoten ook alles. Er was geloof ik laatst ook een heel kritische stuk bij, ik dacht dat het Jeugdjournaal was, had ik over gelezen. In ieder geval een programma die had een heel kritisch stuk over social media en wat er allemaal aan mis was. En bij de afsluiting zeiden ze "volg ons op". En vervolgens kwamen ze allemaal weer voorbij. Er zit ook een hele rare kronkel in. En die zie je denk ik nu weer terug rondom dat January. Dus aan de ene kant zeggen we "pas op" en aan de andere kant zeggen we "laten we er zo hard mogelijk mee gaan". Dus de technologie maakt het mogelijk, maar omdat het mogelijk is moeten we het niet per se met die snelheid oppakken. Maar zijn er zaken waar we dan rekening mee kunnen houden, waar luisteraars rekening mee kunnen houden? Door eerst over na te denken, maar misschien dat je nog andere tips hebt dan alleen nadenken, om te voorkomen dat we dezelfde kant op gaan met social media. Dat we over drie jaar zeggen "ja we zitten nog meer op het schermpje" of "we zitten op alle nadelige effecten". Hoe kijk je daar tegenaan? Terecht de opmerking, dat we even over een businessperspectief praten in plaats van van consumenten. Ik geloof fundamenteel natuurlijk dat AI, ik ben fundamenteel tech-optimistisch. Ik geloof in de kracht van technologie, ik denk dat het heel veel waarde kan brengen voor organisaties. Ik denk niet dat je moet innoveren om het te innoveren. Dus puur om het feit dat je kan innoveren of dat je een nieuw speeltje hebt, betekent niet per definitie dat je daar dan heel veel resources in moet stoppen. Ik denk dat je jezelf moet afvragen als organisatie, oké wat is de meerwaarde van deze technologie voor de doelen van mijn organisatie die ik wil bereiken. Je kan het alignment noemen, is die technologie wel aligned met mijn business goals? Om het even in het Engels te zeggen. Hoe je dat natuurlijk kan formuleren is door middel van een strategie. Dat is wat een data-strategie of een AI-strategie doet. Die gaat onderzoeken en beschrijven van oké hoe is deze technologie nou aligned met mijn doelen, hoe kan ik mijn doelen beter bereiken, hoe kan ik een data-gedreven organisatie worden zodat ik nog betere dienstverlening kan bieden aan mijn klanten en nog meer waarde kan realiseren. Dat doe je dus niet om het innoveren om het innoveren. Dus je zal je denk ik eerst moeten afvragen van inderdaad wat is mijn AI-strategie. Dus oké we hebben allemaal nieuwe technologieën, we hebben nieuw speelgoed, hoe kan ik die inzetten op zo'n manier dat het waardevol is voor mijn medewerkers, maar ook voor mijn klanten, hoe kan ik meer waarde creëren. Een taalmodel zou daarin kunnen helpen. Dat zou bijvoorbeeld jouw medewerkers kunnen ontlasten, die kunnen sneller misschien kennis vergaren, databronnen combineren, kan ook in de dienstverlening naar jouw klanten beter werken, sneller, betere antwoorden verschaffen, dus even in de zin van taalmodellen. Dat is allemaal goed mogelijk, maar hou dan ook wel rekening met het feit dat inderdaad als jij bijvoorbeeld GenAI gaat implementeren, zal je rekening moeten houden met bepaalde safeguards, bepaalde vangrailen, omdat die technologie ook weer gepaard gaat met nieuwe risico's. Dus bijvoorbeeld de onbetrouwbaarheid van antwoorden. Misschien ik kan wel één goed voorbeeld geven. Ik zie heel veel organisaties op dit moment zo'n GenAI use case willen implementeren, dus een soort digitale assistent, waarin ze interne databronnen gaan combineren om dan slimmer en sneller antwoorden te kunnen verschaffen aan medewerkers of aan klanten. Maar die organisaties worden nu geconfronteerd met het feit dat hun data lake eigenlijk een data swamp is. Dus wat ik daarmee bedoel, ze hebben hun data management niet op orde. Dus ze hebben niet accuraat inzicht of overzicht van hun data. Labels zijn bijvoorbeeld niet voorhanden met betrekking tot vertrouwelijkheidsniveau. Dus ze hebben niet goed scherp, oké deze data is vertrouwelijk, deze data is niet vertrouwelijk. Dit zijn bijvoorbeeld persoonsgegevens, dit niet. Nou als je dat allemaal aan zo'n taalmodel gaat voeren, laat ik het zo zeggen, alles wat je erin stopt kan je terugverwachten. Dus als jij persoonsgegevens bijvoorbeeld over medewerkers aan een taalmodel voert, kan je niet uitsluiten dat dat met de juiste prompt, dus die juiste query, weer achterhaald kan worden als output data. Dus heel veel organisaties die zijn nu een soort van reddingsoperaties, hersteloperaties, voorjaarsschoonmaak aan het uitvoeren om hun interne data management weer op orde te krijgen. Iets wat natuurlijk eigenlijk al fijn was geweest als dat eerder op orde was. Ik roep het al jaren. Ik blijf het nog jaren roepen en met veel plezier inderdaad, want ik zie de meerwaarde en de belangen van in. En zeker met de versnelling die we zien door het aan GenAI te gaan voeren, neemt het belang alleen maar toe over datakwaliteit, nou toch maar even, de governance, dus de processen en afstemming daarop is van essentieel belang. En ik denk dat het essentieel gaat worden dat we daar tijd aan gaan doen en dat het een strategische optie moet zijn om dit op de juiste manier in orde te gaan brengen. Dus ik sluit me daar volledig bij aan. En ik ben ook data scientist, dus ik laat het nooit helemaal los. Ik ga wat ik ben, "recovering" data scientist. Het is natuurlijk niet zo sexy. Kijk, dus ik ben ook data scientist en je vindt het leuk om iets met data te doen en wat je wilt doen, je wilt natuurlijk modellen bouwen die dingen voorspellen. Dat is leuk. Dat is het leukste. Maar het is dus helemaal niet zo sexy om dan weer te zeggen, ja maar je moet wel goede data hebben en die data management moet goed op orde zijn en die data lineage, je moet weten waar het vandaan komt, wie het verzameld heeft, wanneer, demografische kenmerken, ook wel handig om te weten. Stel je hebt data van Amerikanen, maar je gaat een product bouwen voor Europeanen, dan hoeft het niet per definitie hetzelfde te zijn. Ja inderdaad goed data management, labeling, vertrouwelijkheidsniveau, data security, kwaliteit. Nogmaals, niet de meest sexy onderwerpen, maar echt cruciale randvoorwaarden om die gen AI use cases te kunnen enablen. Ja wat mij betreft moet er een stempel komen op AI ready data en als dat niet AI ready is, dan moet je daar eerst nog werk aan doen voordat je dat daarvoor gaat gebruiken. Maar ik zie Joop. Ja ik ga advocaat van de duivel spelen, want het is natuurlijk geweldig om data te verzamelen, die heb je. En wat je gaat krijgen is namelijk precies wat Mark zegt, je kan die data kan je geven aan zo'n taalmodel en die taalmodel, dat taalmodel maakt daar chocola van. Dus eigenlijk is het voor mij veel handiger om veel minder tijd te besteden aan al dat structureren van die data en waar het vandaan komt. Ik bedoel die taalmodellen die weten toch ook niet waar hun data vandaan komt. Dus ik als ondernemer, ik heb al die data, ik gooi het erin. Het is nog veel makkelijker om zo'n ongestructureerde data om die er allemaal in te gooien. Ja oké, dus jij zegt eigenlijk, gen AI is misschien de manier om van ongestructureerde data gestructureerde data te maken. Ik denk persoonlijk als jij in een organisatie bent en je hebt alleen maar ongestructureerde data, dus met andere woorden je hebt verschillende data bronnen, maar je hebt niet echt zicht waar ze vandaan komen of de datakwaliteit of je mist labels. Dan denk ik persoonlijk, voordat je dus AI use cases gaat verkennen, dat je veel beter af bent met eerst wat simpelere vorm van AI. Bijvoorbeeld verkennende analyse, beschrijvende analyse, een supervised learning. Dan heb je dus geen labels, dus je weet eigenlijk niet wat de uitkomst bijvoorbeeld was van een transactie of een proces. Maar dat ga je dus eerst eens in kaart brengen. Als je een structured data hebt, ja dan grote kans dat je niet eens weet wat er aan de hand is of dat je verkeerde aannames maakt over processen of hoe mensen werken. Voordat je aan een AI use case, een gen AI use case waagt. Ik zeg altijd klein beginnen. Als je ongestructureerde data hebt of je hebt nog niet zo heel veel data, natuurlijk is het aantrekkelijk om meteen voorschrijvende of voorspellende analyses te gaan doen. Misschien moet je eerst een beschrijvende analyse doen. Oh ja, dat is een goede… Meten, weten, verbeteren. Maar als je iets gaat meten, moet je weten hoe je het gaat meten, wat je meet. En als je dus ongestructureerde data erin gaat gooien, nou dan is het gewoon, vraag maar raak voor een knaak. En ja, wat eruit komt, komt eruit. Maar je kan het ook niet valideren en controleren. En ik ben nog van het tijdperk eerst zelf doen. Dan weet je wat er gebeurt en dan kan je kijken of automatisering de weg naar de oplossing is. Want anders zitten we de technologie altijd tegenaan te gooien zonder dat we zelf begrijpen of enigszins de richting weten waar we heen willen. Ja, en uiteindelijk ben ik het met jullie eens. Maar ik denk dat er echt wel scenario's gaan komen waar gekozen wordt voor de weg van de minste weerstand. En als je begint over al deze vormen van wat er met je data moet gebeuren, dat het denk ik regelmatig zal gaan optreden. Dat mensen denken van ja, weet je, er komt best wel iets logisch uit. Laten we daar gewoon eens even mee beginnen. Ik ben het eens en ik zeg niet dat je niet mee moet experimenteren, maar wel weer met wat wil ik bereiken, wat is mijn doel en is dit de weg ernaartoe toereikend voor wat ik wil bereiken. En daar zal op een gegeven moment zijn inderdaad, gooi er maar in, ga maar kijken wat eruit komt. Maar als de impact of het risico groot genoeg is, dan wil je daar toch een kwaliteitsslag op gaan doen. En ik ben het ook met je eens, maar daar zie ik nog wel heel veel challenges, is dat AI ook gaat helpen om die datakwaliteit, die labeling en dergelijke op orde te gaan krijgen. Niet allemaal GenAI, misschien sommige delen met GenAI. Dus het gaat zeker ook weer een hulpmiddel zijn, maar dan zit het in een stukje automatisering van de data engineering en dat soort zaken. Ja, bijvoorbeeld het creëren van metadata. Daar is GenAI dan weer heel goed voor. Dus stel ik heb geen metadata of ik heb geen labels, dan zou dat met GenAI weer bij kunnen helpen. Jij maakte het inderdaad heel wetenschappelijk, dus ik heb een hypothese en die ga ik dan valideren, weet je wel. Dus volgens mij is dat the way to go, wat je zou moeten willen doen. Maar ook vanuit data science perspectief wil je vaak kijken, oké, ik heb een probleem, hoe ga ik dat oplossen? Zou een mens het kunnen? Wat is dan de baseline performance, hoe goed doet een mens het? Wat zijn de kosten die eraan verbonden zijn? Oh, kan ik het misschien automatiseren met traditionele IT? Kan ik het programmeren? Als dat misschien niet helemaal lekker werkt of te duur is, dan zou je misschien eens naar machine learning kunnen kijken. Dus kan ik met statistiek, statistische methodes, oplossen dit probleem? En als dat niet werkt, dan kan ik altijd nog neurale netwerken er tegen aangooien, die vaak ook geschikt zijn voor problemen die voor ons te moeilijk zijn. Dat is ook het idee van neurale netwerken. Problemen zijn of te complex voor ons of unfeasible. Het kost te veel tijd voor ons zelf om op te lossen. Dus dan ga ik die neurale netwerken, wat Gen-AI is natuurlijk, er tegen aangooien. Maar vanuit die piramide, die gelaagdheid, zou ik altijd een probleem benaderen. En ik zou niet bij het kanon beginnen. Nee, dat lijkt me een hele goede… Wat we natuurlijk ook zien is dat Gen-AI wordt natuurlijk gebruikt voor het automatiseren van repetitieve taken. Vaak zijn dat ook niet de meest waardevolle taken. Die wil je dan geautomatiseerd hebben. Hoe zie jij dat in het licht van een responsible AI? Want dan neem je taken bij mensen weg. Wat houden we dan over? Je had het over die jobmarket. Blijven die mensen wel hun werk doen? Verandert er wat? Gaan we andere banen daar tegenover krijgen? Wat is jouw visie daarop? Op de handmodellen na natuurlijk. Ik zou me niet zo heel snel druk maken over dat jouw baan vervangen wordt. Dus ik geloof dat het eerst een soort hybride, dus AI-assisted situatie zal er ontstaan, waarin jij gebruik maakt van die modellen als hulpmiddelen. Waardoor jij simpelweg sneller, efficiënter, meer datagedreven output kan produceren. Of dat nou een terugkoppeling is aan een medewerker, of een slide, of een e-mail. Ik geloof dat als jij handig bent met die modellen, kan je veel effectiever, veel productiever worden. Dat geldt ook voor coderen overigens. Ik geloof niet dat je helemaal vervanger zal worden als jij een beroep doet wat ook intellectueel denkvermogen beoefent. Programmeren vergt ook, je moet wel weten wat er aan de hand is. Ik kan code genereren, dat heb ik ook wel eens gedaan in het verleden door die taalmodellen. Klopt vaak wel, maar niet 100%. Dus je moet zelf alsnog denken van, oké, wat betekent dit als output? Ook met e-mails. Ik denk niet dat jullie blind e-mails zullen gaan versturen op basis van taalmodellen. Verlopig niet. Maar nou had ik toevallig wel, we hebben kaartspel, zullen we zo direct op uitkomen. En dan ga ik ook visuals maken voor deze podcast. Dan kreeg ik bijvoorbeeld een pdf en daar staan dan 56 afbeeldingen in. En die had ik gewoon individueel nodig. Heb ik aan Chad JPT gevraagd van schrijf even een partnerscriptje om dat eruit te halen. Dat was echt draaien, runnen, lopen. Was wel dat ik lage resolutie fotootjes eruit kreeg. Dus ik moest nog even vragen, oh je zet ze even in een hogere resolutie. Kreeg ik er een argumentje bij. En dan was lopen klaar. En dat zijn een soort van scriptjes, die had ik eenmalig nodig. Gooi ik weg, gaat niet in productie, heb ik geen testen bij nodig. Maar daar is het echt waanzinnig voor. Ik had nooit geweten waar ik had moeten beginnen. Klopt, dat heb ik ook wel eens voor gebruikt. Of code te confronteren van de ene taal naar de andere. Ik weet hoe ik het in Python moet doen, maar ik weet niet hoe ik het in een andere taal moet doen. Dat is nog makkelijker, want dan heb je al input natuurlijk. Ik denk inderdaad, het verlaagt de threshold om bepaalde dingen zelf te kunnen doen. En dat zie je ook in het bedrijfsleven. Dus moet jij je zorgen gaan maken, bijvoorbeeld over concurrenten die opeens ook dingen kunnen die jij kan. Enerzijds wel, in de zin van het kan de threshold verlagen. Het kan makkelijker worden voor een klein aantal mensen om hetzelfde te doen wat jij kan. Maar jij wordt ook nog beter in wat je doet met behulp van AI. Dus puur het feit dat je nu bijvoorbeeld zelf marketinganalyses kan doen met AI, betekent niet dat je ook je eigen marketing moet gaan doen. Want al die marketingbureaus die AI gebruiken, die worden nog beter in markten. Precies, alles schuift op. Ja, precies. Dus blijf bij je lees, zou ik ook zeggen. Dus nogmaals, focus je op de core doelen van je organisatie. Dus wat ben jij voor organisatie? Wat wil jij bereiken? Wat is de waarde, de value die jij levert aan jouw klanten? Of wat is een ander doel dat je wil bereiken? Als je geen klanten hebt, kan ook. Of geen winstoogmerken hebt. En hoe ga je dat nou met AI beter maken? Hoe ga je dat data gedreven maken? Hoe ga je ervoor zorgen dat je nog beter, sneller, efficiënter die waarde kan bieden? En daar hoort natuurlijk altijd ook bij een analyse van wat kan ik zelf en wat moet ik misschien uit handen geven. Ja, dat lijkt me een mooie. Wat we in de praktijk ook ongeveer vaak tegenkomen, is dat het eerste business case wordt gemaakt. We gaan een aantal FTE verminderen en vervolgens denken we dat we de benefit hebben binnen hebben. Maar AI is niet een project, data is niet een project. Daarna is er natuurlijk nog monitoring, zaken in de gaten houden. Hoe kunnen bedrijven geholpen worden bij die eerste stap van de business case, maar even doordenken wat er nog achter nodig is. Want ik denk dat dat heel vaak niet helemaal helder is voor de mensen die hier mee bezig zijn. Nee, klopt. Goed punt. Ik denk dat er vaak vanuit een soort optimisme ontstaan die use cases hebben. AI, we kunnen er iets mee doen, we kunnen dingen verbeteren, we kunnen FTE's besparen. Inderdaad, wat men vaak vergeet is dat het gewoon een software project is vaak. Dus een AI systeem is onderdeel van een software oplossing en er komen ook allerlei kosten bij. Ook kosten die gepaard gaan bijvoorbeeld met monitoring of beheersing van die technologie. Wij noemen dat de costs of control. Dus wat zijn nou bijvoorbeeld de kosten die gepaard gaan met het adequaat monitoren van de output, misschien het hertrainen van het model, evaluatie. Dat heeft dan weer qua kosten een negatieve impact op de business case. Maar die zijn wel heel belangrijk. Als jij bijvoorbeeld negatief in het nieuws komt, reputatieschade ondervindt omdat jouw model uit de pas is gaan lopen, of discrimineert, ik noem maar wat, omdat je daar geen rekening mee gehouden hebt, je hebt niet de juiste safeguards, waarborgen, ingebouwd. Ja, dan kan bijvoorbeeld de reputatieschade zo groot zijn, dan vallen de voordelen weer bij in het niet. Daar hebben we natuurlijk in Nederland heel veel voorbeelden van gehad, waarin producten zijn stopgezet, software oplossingen zijn uitgezet eigenlijk, omdat ze negatief het nieuws hebben gehaald. Ik denk overigens wel, er zijn natuurlijk wel een aantal safeguards die je kan inbouwen. Je zou bijvoorbeeld, we hebben het al over de databronnen gehad, dus de data die je in die modellen stopt, die zou je kunnen cureren. Dus je zou bijvoorbeeld kunnen zorgen dat het alleen betrouwbare bronnen zijn, je zou taalmodellen kunnen instrueren, je mag alleen maar antwoord geven op basis van die bronnen, of wat ik er zelf in stop, niet op basis van wat jij geleerd hebt van het internet. Dan zou je misschien het open AI probleem een beetje kunnen omzeilen. Je zou ook de prompt zelf nog kunnen cureren, dat kan ook. De outputkwaliteit is vaak afhankelijk van de kwaliteit van jouw inputprompt. Dus je ziet vaak mensen met een beetje vergelijkbare vragen, maar de een krijgt een heel goed antwoord en de ander minder. Dus wat je ook zou kunnen doen is vergelijkbare prompts opslaan, verzamelen, verbeteren. Dus als jij een bepaalde vraag stelt, dat daar eigenlijk een soort van slag overheen wordt gemaakt van "oh waarschijnlijk bedoel je dit, dus we gaan jouw prompt verrijken", waardoor jij een beter antwoord krijgt. En nogmaals dat een kans kleiner wordt op dat jij foutieve informatie bijvoorbeeld toegespeeld krijgt. En dat is denk ik wel belangrijk, want het fundamentele risico is natuurlijk, als het fout gaat met die modellen, gaat het vaak op grote schaal fout. Want heel de business case is natuurlijk automatisering. Je wil iedereen toegang geven tot zo'n model, maar in het verleden stel een medewerker krijgt een verkeerd antwoord, of is verkeerd geïnformeerd, kan gebeuren, is vaak niet eens aansprakelijk voor zoiets. Maar stel dat iedereen over jouw hele organisatie massaal bijvoorbeeld hetzelfde verkeerde antwoord voorgeschoteld krijgt, zei het code, zei terugkoppeling aan iemand die aan de telefoon hangt, ja dan heb je echt een probleem. Absoluut. Er zijn best wel heel veel vraagstukken rondom generatieve AI. Dus we hebben een kaartspel ontwikkeld, de AI Game Changer. En het leuke is, die zit vol met stellingen over verschillende categorieën. En daar kan je dan onderling met elkaar, kan je daarover discussiëren. En de winst is eigenlijk het praten over de stellingen, dat je van elkaar weet hoe je erover denkt. En hopelijk komen er dan acties uit. Dus wij willen jou eigenlijk ook zo'n stelling gaan voorleggen. Kom maar op. Ik heb de kaart geschud, zag je. Dus het is in die zin willekeurig. En de categorie voor jou Mark is technologie en innovatie met de stelling, bedrijven die generatieve AI integreren in een bedrijfsuitvoering, zullen een aanzienlijk concurrentievoordeel hebben. Dat is een goede categorie. Ja toch? Eens of oneens? We hebben eigenlijk al een klein beetje besproken. Dus laat ik dan maar eens zeggen. Met de juiste waarborgen natuurlijk. Fundamenteel ben ik optimistisch over technologie. Dus ik geloof als er een goede use case is, om genAI te implementeren, en ik kan er best wel wat voor zinnen, dan denk ik dat je daar inderdaad een competitief voordeel uit gaat halen als organisatie. Mis je natuurlijk de juiste waarborgen in acht neemt. En dat op een responsible manier doet. Ja. Mooi. Nou ja, we hebben denk ik ook een, voor de luisteraars is het wel leuk als je hier meer over wil weten. We hebben Erik van Hal gehad. En die heeft een marketingbureau. En heel vroeg is hij begonnen, dat hij zag van ik zie dit als kans. Dus die heeft eigenlijk zijn hele business omgegooid, zijn business model omgegooid, om inderdaad daar concurrentievoordeel uit te halen. Maar als je alleen maar denkt van we zetten dit in, want dan hebben we een stempeltje op de doos, dan zou ik er niet aan beginnen toch? Nee, kijk, ik denk ook dat het goed is om te realiseren dat de meeste organisaties zijn al IT-organisaties. Soms moet ik ook nog wel eens een organisatie overtuigen van nee, jullie zijn echt een IT-organisatie. Want jullie medewerkers doen niet zomaar random iets, als het goed is. Dat mag ik hopen. Jullie werken al met Excel, jullie maken eigenlijk al impliciet data-gedreven besluiten. Je informeert jezelf al, je hebt meerdere databonnen, Excel, nou goed, prima. Excel is not a database, maar oké. Dus eigenlijk ben je al een IT-organisatie. Als de IT neergaat, ligt vaak heel je organisatie al op zijn gat. Of je bent misschien de bakker op de hoek, oké. En als je een IT-organisatie bent, je zal vanzelf een AI-organisatie worden. Eigenlijk om twee redenen. Eén, jouw concurrenten gaan het ook worden. Dus puur om het feit dat je niet achter kan lopen op je concurrenten, zal je er iets mee moeten doen. En twee, bijvoorbeeld taalmodellen, gen-AI-oplossingen, die vinden steeds meer z'n weg, ook in traditionele software-applicaties. Dus stel, je bent afnemer van Microsoft-producten. Het feit dat Microsoft, je gaat integreren in haar producten, je zou dat AI-infused software kunnen noemen, dan ga je ook een AI-organisatie maken. Dus op den duur zal je er toch aan moeten geloven. Lijkt me een mooie antwoord op de stelling. Mark, je bent voor het derde jaar op rij in onze podcast. En wat ik eigenlijk benieuwd naar was, is heb jij een verandering gezien over de beleving van ethiek rondom dit onderwerp? De beleving van ethiek? Ja. Rondom AI bedoel je? Ja, ja, ja, zeker. Tuurlijk, het is ten eerste heel leuk om drie jaar op een rij te gast te zijn. Dat zie ik als een grote eer. Echt leuk. Ik luister jullie podcast trouwens ook heel vaak, om op de date te blijven. Oh, wat leuk. Dankjewel. Ik heb ook een vraag over backstage, over informatievoorziening. Hoe blijf je nou up-to-date? Jullie podcast is daar een heel nuttig instrument voor. Zo veel nieuws. En dat zeg ik omdat er zo veel nieuws is tegenwoordig. Ik vind het ook heel erg moeilijk om bij te blijven. Juist omdat er zoveel nieuws is. Voor mijn gevoel was het één, twee jaar geleden nog wat makkelijker. Dus ik kon mijn LinkedIn-feed openen of mijn nieuwsbronnen. Dan had ik wel een relatief overzicht van die week wat er gebeurd was. Ja, nu is het eigenlijk iedere dag booming. De beleving van ethiek, je merkt het over alle fronten. Dus de responsible AI-business, waar ik dan zelf in zit, is natuurlijk heel close verweven met ethiek. Is echt booming. Dus we hebben het hartstikke druk. Er zijn heel veel organisaties die ons vragen van "oké, kunnen jullie ons helpen?" Of "hoe doen we dit nou op verantwoorde wijze?" Als ik kijk naar het aantal vacatures ook, wat ik voorbij zie komen online. Aantal posities. Mensen die ik zou te responsible AI of digital ethics dataethiek wereld kunnen noemen. Die ik zie die die wereld ingaan of in willen gaan. Altijd een scriptant dat zich aanmeldt bij mij. Dat is explosief gestegen. Dus het is steeds meer in the picture. Je ziet ook, het is ook wel leuk om te vermelden, ik werk dus voor KPMG en wij publiceren ieder jaar de KPMG, wij noemen dat de algoritme vertrouwensmonitor. Dan gaan wij bij de gewone man eigenlijk op straat, dan gaan we naar de gewone Nederlander, peilen wij wat is nou jouw bekendheid met, we noemen dat even algoritmes, maar AI. En ook vertrouwen je AI ook. En wat je ziet over het afgelopen jaar is een trend dat men steeds bekender wordt met AI, dus men weet steeds meer wat het is. Maar het vertrouwen zie je dalen. Dus volgens mij afgelopen jaar zagen wij een daling over de breedte van 22 procent in vertrouwen. Dat is fors. Ja, dus men weet steeds meer wat het is en ook de impact op zijn of haar leven. Maar het vertrouwen van organisaties die AI inzetten daalt bij de burger. En dat is natuurlijk ingegeven door de lange traditie van schandalen die wij hebben in Nederland. Dus ik zag laatst dat Nederland volgens mij nummer 1 scoorde op een lijst van trustworthy of responsible AI op Europees niveau. Nee, wereldwijd was dat. Hebben jullie ook gezien. En enerzijds is dat goed, en ik denk dat, ik hoop dat ik daar zelf ook een steentje aan bij heb gedragen. Anderzijds kan je natuurlijk ook afvragen, maar gegeven de hoeveelheid schandalen, relatief gezien ook, voor zo'n klein land, ja, dat is dan weer niet zo goed. Dus het gaat natuurlijk hand in hand met elkaar. Ik wou net zeggen, ik denk dat het leren van wat er heeft plaatsgevonden dan essentieel is en het reflecteren erop. En misschien de openheid die we ook vaak hebben, denk ik, in Nederland. Dat het ook wel een middel is om weer meer te kunnen groeien. Ja, ik denk dat men er gewoon achter komt nu dat men toch heel veel in productie heeft draaien. Wat men misschien niet eens wist dat ze het in productie hadden draaien. AI-systemen waren die nou destijds toch niet helemaal, ik noem het even goed of verantwoord ontwikkeld zijn, misschien een beetje te snel, he. Datasets die toch niet helemaal balanced bleken te zijn. Niet alle groepen bijvoorbeeld even redelijk ondervertegenwoordigd waren, die dan gebruikt waren als input voor die modellen. Ook technieken die gebruikt zijn die misschien niet toereikend waren of niet de lange termijn kunnen doorstaan. Business case waar je kan afvragen, nou moet je dit eigenlijk wel willen doen? En ik zie dat mensen er steeds meer wakker worden over dat thema. De impact begrijpen op hun leven van algoritmes. En je ziet dus ook mensen die gemotiveerd worden om daar iets aan te doen. Ik had het zelf vijf jaar geleden ook. Ook geconfronteerd met, in mijn opinie, onethische business cases. En ik dacht van, ik wil andere organisaties helpen om goed data science te doen, goed AI te ontwikkelen. Je ziet steeds meer mensen over de as van ethiek, maar ook in de techniek, iets met dit thema willen doen. Zij het uitlegbaarheid, zij discriminatie willen voorkomen. Fantastisch om te zien. Het is niet langer meer een nis, denk ik. En wat jij ook zegt, mensen zijn er steeds meer bewust van dat er overal en nergens algoritmes zijn. Wat ik me wel afvraag, wij zien natuurlijk, de media leeft van schandalen. Dus je ziet altijd wat niet goed gaat, je ziet niet wat er wel goed gaat. En wat er niet goed gaat, is uiteindelijk een topje van de ijsberg van alle algoritmes die er lopen. Want ik heb in een andere uitzending ook wel eens gezegd van de meeste algoritmes deugen. Want er zijn natuurlijk heel veel algoritmes die helemaal niet over ons als mens gaan. Die gewoon hele eenvoudige voorspellingen doen of een apparaat kapot gaat, ja of nee. Bij Alliander bijvoorbeeld kijken ze naar of zijn kabels op het punt staan om beschadigd te raken. Kunnen we daar wat mee? Je spamfolder, zou ik niet een ondeugdelijk algoritme noemen. Het beste algoritme wat er is. Toch? Volgens mij 99% van alle e-mails komen er nooit aan. Precies, die zie je in ieder geval niet. Heerlijk is dat. Dat is nog te veel. Ja, toch? Dus we hebben ook wel te maken met, als je dan hebt over gebalanceerde data in dit geval, we hebben natuurlijk ook wel te maken met ongebalanceerd nieuws. Ja, daar wil ik wel wat over zeggen. Inderdaad, het merendeel van het nieuws wat ons bereikt is negatief nieuws. Negatieve dingen verkopen dan eenmaal. Dat komt door ons lizzard brains, zou je het kunnen noemen. Wij zijn natuurlijk de afstammelingen van, ik noem het maar even, neurotische apen. Laten we het zo zeggen, degenen die het meest bang waren voor de slangen in het gras, die hebben het overleefd en daar komen wij vandaan. Dus het is niet heel raar dat als je iets negatiefs ziet, al zij het aan de andere kant van de wereld, dat je dan getriggerd wordt om daarop te klikken. Dat je denkt, oh dat is interessant. Terwijl als je erover nadenkt, de impact op jouw leven van een ramp aan de andere kant van de wereld, het is natuurlijk verschrikkelijk dat dat gebeurt, maar de impact op jouw leven is vaak nieuw. Dus eigenlijk positief nieuws uit bijvoorbeeld een land als Duitsland, onze grootste trading partner als Nederland, is eigenlijk veel belangrijker, heeft waarschijnlijk een groter directe impact op jouw leven, de Duitse economie, dan als er een ramp is gebeurd in Azië. En nogmaals, dat is heel verschrikkelijk, maar de kans dat jij daar de dag daarna misschien hinder of iets van ondervindt, is eigenlijk niet heel. En dat heeft natuurlijk inderdaad te maken met informatievoorziening. Misschien ook wel even een vraag aan jullie. Als ik nu zeg, Obama, waar denken jullie dan aan? In jullie gedachte? Of in jullie mind, zeg maar? Voor mij is het eerst de healthcare wat naar boven komt. Ja? Ja, ik als, zeg maar, dat hij zo'n onwaarschijnlijk goede redenaar is. Zien jullie ook een plaatje voor je van Obama? Of een mentale foto? Ja. Oké, dat is dus heel bijzonder. Als je teruggaat in de tijd, toen we nog kranten hadden bijvoorbeeld, de meeste mensen wisten bijvoorbeeld niet hoe de president van Amerika eruit zag. Oh ja, natuurlijk. Wisten ze niet. Wat we tegenwoordig doen, is wij consumeren heel veel fotografisch nieuws. Dus wij consumeren afbeeldingen, filmpjes, eigenlijk relatief korte tekst, waar men in het verleden vaak juist grote hoeveelheden tekst consumeerde. Bijvoorbeeld een krant. Dus heel veel mensen wisten niet hoe de president eruit zag. Maar het feit dat wij nu meteen aan een plaatje denken, of misschien wel die Obama-meme, wat je ook in je hoofd krijgt, dat geeft al aan dat wij in een tijd leven waarin we heel veel fotografisch nieuws consumeren. Het is ook erg logisch dat dat leidt tot bepaalde media, zoals bijvoorbeeld smartphones, tablets, waarop we dat nieuws consumeren. Want het is natuurlijk veel makkelijker om dat nieuws dan te consumeren dan via een krant. Omdat we smartphones gebruiken, tablets, wordt het nieuws ook korter. Je kan niet meer miljoenen regels of karakters op een tablet, ja kan wel, maar dat leest niet zo lekker. Dus het nieuws wordt korter. Daardoor word je ook minder goed geïnformeerd. En natuurlijk algoritmes spelen er een rol in. Als algoritmes pushen het negatieve nieuws naar boven, waar het meest op wordt geklikt. Dus wat trending gaat. Maar ook het medium waarop je nieuws consumeert, dus in dit geval een smartphone, een tablet, een laptop, maakt dat je minder snel geïnformeerd wordt. Minder goed geïnformeerd wordt. En ik denk dat de media daar ook een heel belangrijke rol in spelen en ook een verantwoordelijkheid hebben. Een beetje een talkshow nowadays. Misschien krijgen mensen maar 2, 3, 5 minuten de tijd om een onderwerp uit te leggen of over daarover te rapporteren. Dat is natuurlijk veel te kort om met een genuanceerde, goed geïnformeerde mening te komen. Dus als jij al je nieuws haalt van talkshows of van Twitter, wat volgens mij ook maar een aantal karakters is, wordt het gewoon heel erg lastig om een goed geïnformeerde mening te vormen. Dus in dat opzicht denk ik dat media qua vorm, inhoud, maar ook algoritme, bijdragen aan toch een bepaalde mate van polarisatie. In de samenleving. Als je alleen maar je nieuws uit kort formaat, nieuwsmedia haalt, digitale media vaak, geen wonder dat jij slecht geïnformeerd bent. En jouw politieke tegenstander is ook slecht geïnformeerd. Dus geen wonder dat jij een ruzie krijgt op Twitter. En dat vind ik persoonlijk heel erg jammer. Ook als je het in de Tweede Kamer ziet. Ik wil niet op een politieker wend gaan, maar dat de Tweede Kamer gebruikt wordt om YouTube filmpjes op te nemen. Ja, bizar. Van 1, 2, 3 minuten voor kliks op het YouTube kanaal van politieke partijen. Zowel links als rechts doet dat. Dat vind ik een heel erg jammerlijke trend. Je verwacht juist dat het publieke debat plaatsvindt in de Tweede Kamer. En dat kan niet met een 1 minuut YouTube fragment. Lijkt me ook niet, nee. Ik hoor hier de vraag naar diepgang, jongens. Diepgaande gesprekken met elkaar zorgen dat je verder kijkt dan scratching the surface. Dus we gaan niet alleen maar de oppervlakte bekrassen zoals we het in het Nederlands dan maar moeten vertalen. Dat is een slechte vertaal ik me trouwens. Dus dat klinkt toch niet zo lekker. Ja, scratching the surface. Maar ga met elkaar inderdaad de diepgang in en kijk even verder dan het ene bericht inderdaad. En laat je goed informeren. En het is ook prima om geen mening te hebben. Dus tegenwoordig moet je overal een mening over hebben. Je bent voor of tegen dit. Het is ook prima om te zeggen, ja, ik weet het niet. Ik ben niet genoeg ingelezen. Ik zou het ook van de andere kant eens een keer willen bekijken. Tegenwoordig is er heel veel pressure om een bepaalde mening te hebben. Misschien moet ik eerst eens een keer een paper lezen. Zou ook kunnen om tot een betere mening te komen in plaats van mijn nieuwsvoorziening alleen maar van YouTube te halen. Precies. En geen mening is ook een mening. Even terug naar de ethiek en de AI. Je hebt dan de ontwikkeling nu gezien van voor gen AI. We zitten nu eigenlijk in die transformatie van, ja, dat mensen echt wel na gaan denken over hoe zetten we dit nou responsabel in, wat zijn de ethische vraagstukken, waar gaan we naartoe? Waar gaan we naartoe? Ja. En dat hoeft geen tien jaar, want daar geloof ik helemaal niet in. Maar volgend jaar zit je hier weer. Wat is er veranderd volgens jou? Oeh, ja, nou, als data scientist moet ik weten dat voorspellingen over de toekomst, dan moet je een beetje voorzichtig zijn. Je mag het met een 78,3% zekerheid, mag je het voorspellen. Is dat de threshold? Misschien moeten we even een betrouwbaarheidinterval bepalen. Ja goed, ik vind het een heel moeilijke vraag die je stelt. Ik snap ook wat je vraag is hoor. Moet ik even terug naar de historische data kijken, de afgelopen jaar. Ik denk dat AI een enorme stroomversnelling is gekomen in de zin van de capabilities. Ik denk dat niemand de capabilities van gen AI aan zag komen. Je ziet nu wel weer een soort van tegenbeweging, een soort van gezond verstand beweging ontstaan. Dus altijd als een nieuwe technologie wordt geïntroduceerd ga je door zo'n golfbeweging van de capabilities worden overschat. Alles kan, alles is mogelijk. En dan zie je daarna zo'n soort van cooling down period waarin mensen weer wat rationeler worden en ook in zich krijgen wat wel kan, wat niet kan, waar die use cases wel en niet voor geschikt zijn. Dus ik denk nu dat we naar zo'n soort van cooling down periode gaan, waarin organisaties hopelijk ook verstandige afwegingen maken met betrekking tot de return on investment. Waar kan ik AI wel voor gebruiken, waar kan ik het niet voor gebruiken, waar kan ik beter traditionele methodes voor gebruiken, waar gaan AI en een mens samen goed, wat kan ik wel volledig automatiseren. Ik hoop eigenlijk een soort van gezond verstand, rustig aan modus. Ik hoop ook dat heel die discussie over existential risk, existentieel risico van AI technologie weer een beetje afkoelt. We hadden het eerder al over, je moet een mening hebben, je bent voor of tegen. Je zag bijvoorbeeld in de ethiekwereld duidelijk twee kampen. Je bent of bezorgd om de existentiële risico's van AI, de Terminator, of je bent er absoluut niet van. Ook weer een soort van tweedeling gecreëerd in de media, helaas. Ik denk dat dat inmiddels ook weer een beetje afkoelt, hopelijk. Wat ik vooral hoop volgend jaar is minder polarisatie, maar meer overeenstemming over de mogelijkheden, maar ook over de short-comings of de niet-mogelijkheden van AI. Dat we allemaal met een gezonder volwassenere blik naar kunnen kijken. Ik denk dat organisaties ook beseffen, innovatie om innovatie is niet altijd een goed idee. Er zijn veel schandalen geweest in Nederland, laten we dat vooral voorkomen. En dat we allemaal wat volwassener, hopelijk, volgend jaar naar kunnen kijken. Dat lijkt me echt een hele mooie, hoopvolle afsluiter. Dankjewel. Dankjewel Marc dat je hier weer wilde zijn. Het is altijd een genoegen om je in de studio te hebben. Dus nogmaals dank. Dankjewel. I'll be back. Kijk, heel graag. Om in The Terminator thema te blijven. Hartstikke leuk dat je weer luisterde naar een aflevering van AIToday Live. Vergeet je niet te abonneren via je favoriete podcast app, dan mis je geen aflevering. Tot de volgende keer. [Muziek]