Een pleidooi voor het gebruik van gezond verstand met Marc Jacobs

Hoi, leuk dat je luistert naar een nieuwe aflevering van AIToday Live, de Nederlandse podcast over AI. Vooral eigenlijk heel breed wat we allemaal behandelen Niels. Ja, je kan het zo niet bedenken. Als er AI in zit, dan hebben we het erover. Ja, en we gaan het vandaag hebben namelijk over een pleidooi voor het gebruik van gezond verstand. En dat vond ik namelijk zo interessant, daar wilde ik meer over weten. Mijn naam Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, Area Lead, Data & AI bij Info Support. Ja, en we hebben te gast Marc Jacobs. Marc, jij bent een van de auteurs van het boek, de onttovering van AI. En ik noemde eigenlijk al de subtitel, daar wil ik zodra ik wat verder over weten. Maar zou je je eerst even willen voorstellen aan onze luisteraars? Ja, nou ten eerste, fijn dat ik hier kon zijn. Mijn naam is Mark Jacobs. Ik ben data wetenschapper, of modelleur en statistisch consultant. Ik heb ook mijn eigen bedrijfje, MSJ Advies. En ik ben nu denk ik twee jaar zelfstandig als data wetenschapper. Ik heb heel verschillende rollen gehad voor verschillende velden, gezondheidszorg, agrarische sector. En ik hou van puzzels oplossen. Dus ik dacht, dat wil ik zo breed als mogelijk doen. En zo nu en dan is er een puzzel waar ik ook over wil schrijven. En daar is dit boek dan het resultaat van. Ja mooi. En wat mij natuurlijk meteen opviel, is het pleidooi voor het gebruik van gezond verstand. Nou ik denk dat bijna niemand daar het mee oneens kan zijn. Maar waarom was het zo belangrijk om dat voor op het boek te hebben met de titel de onttovering van AI? Ja, nou ik heb, en dit boek is natuurlijk samen geschreven met Ronald Meester, hoogleraar in de waarschijnlijkheidsrekening. En wij hebben in 2022, hebben wij zeg maar zo begonnen met ons eerste boek. Dat was de inzet van modellen voor beleid. Dat ging hele rondom corona, stikstof, klimaat. Dus dat was mijn eerste boek. Ik denk Ronald's negende boek. En dat was echt een hele happening. Ik zei tegen Ronald, ik zeg, joh, ik zeg boeken schrijven is leuk, maar ik ben er even klaar mee. En we waren aan het einde van het manuscript in november 2022. En toen kwam ChatGPT. Ja, even een verandering. Ja, precies. En het was niet zozeer dat de komst van ChatGPT wat mij en Ronald deden besluiten om dit boek te schrijven. Het was de berichten die daarop volgden. Kan AI bewust zijn? Heeft AI bewust zijn? Singularity, het moment waarop AI ons overstijgt op zo'n manier dat wij nooit meer kunnen terugkoppelen en terugkeren naar ons huidige bestaan. Maar ook dingen als AI is slimmer dan een mens. ChatGPT heeft een IQ van 150. Praat nu met Jezus. Praat nu met je overledene. En elke dag, misschien kunnen jullie het ook nog horen, elke dag had je ook iets. En Ronald, ik zei tegen hem, hier moeten we iets mee. Dus we zijn direct weer gaan schrijven. Eigenlijk is het nog niet gestopt, hè? Nee, met elke iteratie. Je ziet nu met de nieuwe Gpt, was het IO1? o1. Ja, reasoning. En dat doen ze heel mooi. Die marketing is prachtig. Het is reasoning. En een van de manieren waarop ze die illusie van reasoning ook creëren, is door gewoon het model langer te laten doen over het schrijven van het antwoord. Ja, en het staat ook gewoon in de user interface. Er staat gewoon thinking, reasoning. Juist. Wat dat betreft dus hele goede, want je zegt marketing en user interface. Dat maakt echt wel het verschil. Maar waarom is dat een probleem volgens jou? Nou, ja, een probleem. Kijk, Ronald en ik betrappen ons er wel eens op. Het klinkt een beetje als of je een oude lul bent. Dat je bijna denkt van, joh, ga toch mee in die technologie. Technologie is geweldig. Sterker, dit is mijn werkveld. Waar ben ik mee bezig? Ik bedoel, dit is de tijd. Maar ik maak wel eens de vergelijking met bijvoorbeeld de elektrische fiets. Een elektrische fiets is een geweldige uitvinding. Een geweldige uitvinding voor als je niet goed op been bent, voor als je niet meer zo goed kunt fietsen. En dat stelt mensen weer in staat, ook heel veel oudere mensen, met alle gevolgen van die om weer te kunnen fietsen. Maar wat je ook ziet gebeuren, en dat is natuurlijk van alle tijden, is dat ook mensen die het eigenlijk niet nodig hebben, die elektrische fiets gebruiken. En wat wij eigenlijk zeggen is, er is gewoon heel veel te behalen in het doen van moeite. Zowel fysiek, maar ook mentaal. Ja, want je ziet nu dus ook jongeren om naar school te gaan met een elektrische fiets. Ja, tuurlijk. Dus wat je ziet is, en dat is iets waar is bijvoorbeeld… Kijk, wat wij eigenlijk wilden, was het benadrukken van het gezond verstand, maar vooral het doorbreken van de illusie. En ik moet altijd denken aan zo'n oud SBS6-programma, ik weet niet of je het nog kent, met zo'n illusionist. En die illusionist had de taak om te laten zien hoe zo'n illusie werkt. En als je eenmaal ziet hoe dat werkt, en die man werd ook echt met de dood bedreigd, als je eenmaal ziet hoe dat werkt, kun je dat nooit meer ontzien. En wat ik eigenlijk wilde laten zien is, oké, om AI zijn rechtmatige plek terug te geven, moet je het onttoveren. Dan moet je ook laten zien voor wat het echt kan. Want anders gaan we hele gekke dingen doen. Want daar is het krachtig en schaalbaar genoeg voor. En waar denk je dan aan, aan gekke dingen? Nou, een van de meest gekke dingen is, en dat zag je al een beetje in bijvoorbeeld de toeslagenaffaire, is automatische rechtspraak. Dus dat AI eigenlijk bepaalt wat wel en niet kan. Dat AI bepaalt wie wel of niet fraude plicht. Dat AI bepaalt wie wel of niet ergens naar binnen mag. En als wij die techniek, die heel schaalbaar is, en daar zit ook het gevaar aan, als we die heel veel vrijheid geven, dan op een gegeven moment kun je die vrijheid niet meer zo snel terugnemen. Juist vanwege die schaalbaarheid. Ja, je zegt iets van de rechtspraak. Dus een aantal maanden geleden was het in het nieuws dat een rechter daadwerkelijk vragen heeft gesteld aan ChatGPT als één van de bronnen die hij mee heeft gewogen in de uitspraak. Met volgens mij het idee van, dat is algemene informatie, dus daar krijg ik een deel objectiviteit uit. Ik wil het eigenlijk als een neutrale vraag aan je stellen, maar ik krijg het bijna mijn keel niet uit. Ik krijg het ook heel moeilijk bij jou. Ja. Nou, kijk, het gevaar als jij als rechter ChatGPT gebruikt. Kijk, dat een rechter niet alle deskundigheid in huis heeft, is normaal. Dus als een rechter iets moet gaan beslissen, dan vraagt hij wel eens de deskundige of hij kan helpen om informatie aan te leveren. Dus een rechter om te bepalen of iemand kundig of niet kundig is, of die informatie betrouwbaar is of niet. Bij ChatGPT zie je niet eens waar het vanaf komt. Ik denk dat dat ook het grootste nadeel is. Je kunt niet eens zien waar het vanaf komt. Dan heb je natuurlijk Copilot, dan zie je wel een aantal onderdelen waar het vanaf komt, maar nog steeds niet heel duidelijk, zeg maar. Nou, en vooral ook de objectiviteit die eraan wordt toegekend. Dat lijkt me wel een probleem. Ja, dat denk ik zeker. Wat ik het mooiste vind, ik denk aan de huidige techniek, de huidige status van AI, is dat het ons wil nadenken wat het betekent om mens te zijn. En dat vind ik wel heel mooi. En natuurlijk, je zei het al, je hebt natuurlijk die interface, die user interface. En ineens is AI wat voor ons ons brood is, wat normaal is. Dat programmeren, dat is voor iedereen eens toegankelijk. Net zoals dat voor iedereen een auto toegankelijk is. Je kunt iets gebruiken zonder per se te verweten hoe het werkt. Maar het problematische zit erin als je niet meer kunt duiden waar dingen vanaf komen. En dat is wat je nu heel vaak ziet, is dat het zo makkelijk wordt toegepast in alle vormen en maten, dat we niet meer stilstaan bij van "hé, wat staat er nu eigenlijk? En waar komt dat vandaan?" En dan even naar de ondertitel van het boek. Hoe komt dat dan weer terug naar het gezond verstand? Nou ja, het gezond verstand. Kijk, als je vraagt "wat is gezond verstand?" Ik denk dat het gezond verstand net zoveel emotie als ratio. Ja. Dus dat is ook het lastige van "wat is nou gezond verstand?" En ik hou zelf niet van definities. Als ik een definitie geef, dan lijkt het op bepaling te geven. Maar dat kan voor mij iets anders zijn dan voor jou. We hebben allemaal een beetje een onderbuikgevoel bij wat gezond verstand is. Intuïtie. Net zoals we ook allemaal een onderbuikgevoel hebben van wat het is om liefde te kennen. Of wat een spel is, zeg maar. En als je voor het eerst vader wordt, dan weet ik, ik weet niet wat het is om vader te zijn, maar ik kon het je daarvoor niet uitleggen, want ik wist het niet. En jij kon het me niet vertellen, want ik kan het mezelf niet eigen maken. Dat is een gevoel. En ik denk wat wij heel graag willen, is die illusie doorbreken zodat mensen weer denken van "oké AI is niet dit mens overstijgende stuk techniek, maar het is iets wat we kunnen gebruiken, slim kunnen gebruiken en een stukje gezond verstand heeft te maken met het moment waarop we zeggen "oké, we weten te weinig, hier gebruiken we het niet". En dat vind ik heel belangrijk, want op vandaag zie je heel veel mensen die roepen "ik ben expert in AI, ik ben expert in Gen AI, ik ben expert in dit en dat. Twee jaar geleden was ik nog dakdekker en nu ben ik expert in AI, ja zo gaat dat. En dan denk ik van ja, maar een expert is niet iemand die alles weet. Een expert is juist diegene die weet wanneer hij het niet meer weet. En dat is zo mooi en dat wil ik weer terug hebben. En hoe kan je dat slijpen? Ja dat is een hele goede vraag. Hoe kun je dat slijpen? Kijk ik denk dat het belangrijk is dat je voor jezelf het wel probeert. Ik denk dat het voor jezelf heel belangrijk is om kennis te krijgen van die modellen. En zoals jij bijvoorbeeld hebben gevoeld, laten we zeggen een arts krijgt een model te ondersteuning en een arts, die radioloog, die moet 300, 400 plaatjes per dag bekijken. Dat is heel veel werk. En een model dat zegt van "luister, ik doe die 400 scannen en ik geef kanspercentages". Oké, nou die arts weet wat een kanspercentage is. Jippie, dat is heel wat. Dus dat doen we en hij geeft terug de eerste Dus dat is onzekerheid. Dan kijk je daar fris naar en dan komt de rest. Zo'n radioloog die zo'n algoritme gebruikt, moet weten hoe dat algoritme tot zijn kanspercentage komt. Hoe is dat model getraind? Op welke data set? Hoe is dat model zeg maar tot stand gekomen? Welke algoritmes gebruiken we? Hoe is die kans tot stand gekomen? En dan moet nog het besef komen dat zodra zo'n algoritme kanspercentage geeft, jij als expert, jij als radioloog, dat die informatie niet meer kunt ontzien. Jij zult anders naar een afbeelding kijken waarvan algoritme zegt dat is 100% een tumor of dat is 0% een tumor, dan dat je kijkt naar 50/50. Precies. En dan komen we bij het allerbelangrijkste en dat is wie is er verantwoordelijk. En die verantwoordelijkheid, zeker nu met de wet, blijft bij de mens. En dat betekent dat je ook de kennis moet hebben. Dus van gebruik naar besef. Juist. Maar het is wel lastig natuurlijk als je het heel vaak goed heeft. Kijk, we zijn van nature. Mensen kiezen gewoon de weg van de minste weerstand. Daarom hebben we geitenpaadjes. En dat maakt het ook wel heel erg lastig. En zeker iets als LGBT bijvoorbeeld, als we het daar toch weer eventjes naartoe terughalen, die geeft natuurlijk op geen enkele wijze een vorm van, wat jij zegt, kans of onzekerheid. Die geeft gewoon in taal antwoord. Daarvan zou je kunnen zeggen, sommigen zeggen van hij praat heel zeker. Maar het is in ieder geval altijd op een op eenzelfde manier. Hij zal je nooit, ja volgens mij, ik denk dat, dat soort termen kom je nooit tegen. Het zou kunnen dat het dit is. Dus er zit nooit een gevoel van onzekerheid in. Dus hoe zou je daar dan mee moeten omgaan? Dat je denkt van ja, maar hier moet ik echt wel even heel goed opletten. Nou ja, kijk, ik denk, voor mij, toen we dit boek schreven, hebben we natuurlijk ook ChatGPT toegepast. Dat was makkelijk. ChatGPT schrijft op een bepaalde manier. Sommige mensen zeggen ook van, dat haalt de flow uit het boek of het hoofdstuk. Dat snap ik. Maar wat wij wilden is kijken van, oké, wat voor informatie komt daaruit? En het gemak wat wij hadden is dat wij wisten wat het goede antwoord zou zijn. Dus wij konden het toetsen. Als ik ChatGPT nu vraag om bepaalde dingen uit te leggen waar ik niks van weet, dan begint voor mij de zoektocht. En die allereerste zoektocht is simpel, waar komt dat vandaan? Dat zie je al niet. Kijk, dat zijn basisvaardigheden. Die leer je eigenlijk op de middelbare school al. Dan moest je vroeger iets schrijven. Dan moest je referenties erbij halen, zeg maar. En wat je nu ook ziet, en dat hebben we ook tot gezond verstand, is toen ChatGPT uitkwam, waren studenten helemaal lyrisch, want die dachten, ja, nog meer wat te doen. En docenten die waren echt in de stress. Om twee redenen. Eén was dat ze niet wisten hoe je ermee om moest gaan. En de tweede was dat de techniek die ze hadden, de anti-speak software, de anti-heb-ik-het-wel-zelf-gedaan software, die werkte daar niet op. Dus je zag die afhankelijkheid van de techniek al. Maar veel belangrijker is, is dat je had dat makkelijk kunnen omzeilen door gewoon aan elke student te vragen in één minuut, leg maar uit hoe je dit gedaan hebt. Hoe heb je gezocht, wat heb je gekeken, hoe heb je dat aangepakt? Ja, vertellen het eens in je eigen woorden. En eigenlijk is dat ook hetgeen wat getoetst moet worden. Heb ik besef van hoe kom ik tot het proces, hoe kom ik tot de beredenering, hoe ben ik de detective om te komen tot mijn antwoord? Ik zie wel eens mensen waar ik dan mee samenwerk, die zeggen van, oké, ik heb een stukje code geschreven, ik heb gewoon ChatGPT gevraagd. Ja. Dan denk ik van, ja, snap je die code dan wel? Ben je wel eigenaar van die code? Dan zie je ze denken, dan denk ik, ja, nee. Dus wat je dan doet, is je verantwoordelijkheid doorschuiven naar een stuk techniek. Ja, dat is eigenlijk de makkelijkste weg, zoals net Joop ook zei. Ja. Ik was nog eens gekeken, Joop, je triggert mij met je vraag over waarom het altijd zo overkomt als de waarheid. Ik zou het mooi vinden als de taalmodellen ook meer die onzekerheid mee kunnen nemen en eigenlijk die onzekerheid verwerken in de taaleffecten. Volgens mij hebben we het wel eens vaker over gehad, dat als er twijfel is en niet 100% zeker uit de teksten te halen is wat het antwoord is, dat de taal technisch eigenlijk ook twijfelend moet gaan antwoorden. Dus ik hoop dat we daar nog een keer naartoe gaan bewegen. Ik moet een beetje glimlachen, want als je kijkt naar hoe ChatGPT werkt, kijk, taalmodellen, die zijn al heel oud. Dus je had in de jaren 70 van de vorige eeuw, die jaren 80, had je ELIZA. Dat was natuurlijk ook een taalmodel, maar eigenlijk een soort van IF-Else model. En ELIZA kon zichzelf in die illusie redden door als er geen antwoord gegeven kon worden, gewoon te zeggen "wil je er iets meer over vertellen". Ja, maar ELISA was een taalmodel die zich voordeed als een psycholoog. Ja, als een psycholoog en psychotherapeut. En wat je nu hebt, als je kijkt naar taalmodellen, dan is de grote doorbraak het stukje attention, aandacht. Dus een algoritme wat eigenlijk zeg maar een zin opbreekt in elementen met verschillende gewichten eraan. Waarbij het niet zo hoeft te zijn dat een woord aan het begin minder effect heeft op het woord aan het einde. Het kan soms zijn dat heel veel effect heeft, dus dat is een stukje attention. Nou, om een antwoord te geven wordt eigenlijk een zin opgebouwd woord per woord. En om de illusie van een mens te creëren zit er een parameter in, de temperature parameter, en dat is randomness. Ja. Dat is chaos eigenlijk. Wij gedijen bij chaos. Alleen het model is zo getraind en ook handmatig aangelengd, want dat vergeten mensen ook nog wel eens, handmatig aangelengd, om gewoon liever een antwoord te geven dan een fout antwoord te geven. Want anders vervalt de illusie. En dan krijg je dus wat jij zegt, die onzekerheid zit er niet in. En sterker nog, het gaat zover dat als je dan zegt van oké, wat is 1+1? Dan zeg je 2, dan zeg ik nee, is 3. Dan zegt hij ja, sorry, het is 3. Ja. En dat zou wel beter worden. Dat is een kwestie van tijd. Want het besef moet er wel zijn. Het is een machine, het is geen mens. En waar zit het, want wat je nu ziet, iedereen focussen helemaal op die generatieve EH. Je zegt ik ben data wetenschapper, je zit er ook langer in. Wij zitten er ook al meer dan een decennia in dit vakgebied. Waar zit nou de scheidslijn dat je zegt van ja, maar eigenlijk moet je juist hier geen generatieve EH gebruiken. Mensen hebben nu ineens een hamer en zien overal een spijker. Waar zit die scheidslijn die je zegt van ja, maar jongens, we hebben echt hele andere technieken die veel beter zijn voor dit soort oplossingen. Voor dit soort problemen moet ik eigenlijk zeggen. Ja, ik denk kijk, generatieve AI. Kijk, ik vind het mooie van generatieve AI is het kunnen switchen tussen verschillende mediums. Als ik een video opneem zeg maar, dan kan ik uit die video, heb ik natuurlijk ook audio. Van die audio kan ik een artikel maken, van die artikel kan ik een podcast maken en van die podcast kan ik in principe een video maken zeg maar. Dus ik kan heel makkelijk switchen. Ik kan vanuit woorden kan ik een beeld maken, vanuit beeld kan ik weer woorden maken zeg maar. Dus ik denk dat is handig en dat zie je ook. Maar als je ziet in de projecten die ik draai en dat heeft dan te maken met voorspellen wanneer een vriescel invriest, hoe een tomaat groeit of bepaald iemand in de zorg fraude heeft gepleegd zeg maar. Ja, van dat soort dingen gebruik ik geen ChatGPT. Dat is gewoon keihard modelleren. Dat is gewoon je features maken. Dat is gewoon vooral heel veel gesprekken hebben met de experts. Heel veel kijken hoe integreer ik nou dit technisch proces in een menselijk proces zeg maar. Dus ik dan vraag niet ChatGPT van hé hoe kan ik dat het beste doen? Nee, dan ga ik zitten en dan ga ik voelen. Dat is dat ik hier zit zeg maar. Dan ga ik voelen, ik kijk jullie aan, dan ga ik voelen hoe gaat het gesprek, wat denk ik wat jullie willen, kijk naar jullie gezichten. Dat is wat ik doe en dat is ook wat veel mensen vergeten. Je bent wel een modelleur, maar mijn werk is net zoveel sociaal en menselijk dan dat is het programmeren. Precies, van wat is belangrijk, waar mogen de fouten wel een beetje gemaakt worden, waar niet. Dat zijn allemaal hele belangrijke vraagstukken. Ja en is dat dan een harde scheidslijn? Dat weet ik niet. Het is wel, dat zeg je wel heel mooi, ik moet een beetje gniffelen. Ik zie nu heel veel generatieve AI cursus naar boven komen. Ronald en ik wilden cursus geven voor dit boek en het lukte maar gewoon niet met de aanmelding. Het rode boek was echt heel makkelijk, lukte maar gewoon niet met die aanmelding. Ik zeg Ronald, hoe kan dat nou? We keken dus wat er allemaal was en het was echt, verander je bedrijf met ChatGPT, ChatGPT als tweede brein, ChatGPT als dit. Het zijn eigenlijk de Excel en Office cursussen van de jaren 90 van de vorige eeuw. Maar ik snap dat wel. Zeker, want het is natuurlijk wel een techniek die je echt moet aanleren. Het is echt wat anders dan, kijk de mensen zijn wel gewend om Excel te gebruiken, om Google te gebruiken en als jij als jij deze technologie gebruikt als zijn in een Google dan kom je er niet uit. Het zijn hele handige trainingen denk ik inderdaad. Wat lastig is, is dat het nu overal voor gebruikt wordt. Ja, dus dat zie je. When you have a hammer everything looks like a nail. Dat is klassiek. Ja. En die hype stopt nog niet. Nee, dat denk ik ook niet. Het gaat wel steeds sneller. Dus ik dacht van die Gartner hype cycle, dat is snel doorheen. Nee, dat gaat rondjes. Hij heeft zelfs nu zijn eigen cycle gekregen, zeg maar. Zijn eigen grafiekje. Ja, Chen AI heeft zijn eigen grafiekje. Grappig. Ja, zo snel. We hebben ook vragen van luisteraars en ik denk dat deze er best wel heel mooi op aansluit, als ik je die mag laten horen. De vraag van de leek is deze week. Ja, hallo. Mijn naam is Rafaël Demeray van Zendesk. Wat ik vandaag de dag zie is dat we in een fase zijn waar enorm tekort is van resources. Vooral binnen IT, maar ook binnen de business. We leven nu ook in een economische fase, waar veel organisaties kosten moeten besparen. En dat heeft te maken met dat de loonkosten heel erg zijn gestegen. Energieprijzen voor industrieën zijn gestegen. En mijn vraag is dus, hoe ga je daar in deze nieuwe omstandigheid, hoe ga je daarin navigeren en ervoor te zorgen dat je business weerbaar blijft? Wel een pittige vraag, hè? Ja. Ik denk dat iedereen daar naar op zoek is. Je ziet ook wel als je kijkt naar de management top 100 boeken, dan gaat het altijd daarover. Wie vindt de beste klant? Hoe blijf je weerbaar? Etcetera. De eerste vraag die ik altijd heb, en wat ik ook doe met mijn klant, is van is techniek wel de juiste toevoeging? Ja. Dus elke bedrijf bestaat uit menselijke processen. Er zitten ook technische processen in. Dan gaan we kijken, oké, waar zit nou het gat? Wat heb je nodig? Je werd al genoemd van oké, ik kan niet genoeg mensen krijgen, de kosten, ik wil minder mensen, ik wil processen aanvullen, zeg maar. Dan ga je eigenlijk kijken van, oké, wat wil je dan? Wil je minder kosten maken? Hoe zou je minder kosten kunnen maken? Hoe zou je dingen kunnen vervangen? Waar ben je veel tijd aan kwijt? Gewoon puur de processen waarmee je bezig bent. Maar kan je gewoon mee stoppen? Ja, kun je mee stoppen? Ja, tuurlijk. Dus bijvoorbeeld één van de dingen die ik gedaan heb, zeg maar, is voor een service center, waar echt mensen aan de telefoon zitten, is een voorspellingsmodel maken. Dat zegt, oké, per uur komen er zoveel telefoontjes binnen, zoveel chatberichten en zoveel e-mails. En daar kun je dan eigenlijk je bezetting op plannen. En dat was handig. Dat leverde één of twee fte, zeg maar, op die je dus eigenlijk niet nodig had. En dan was niet dat mensen ontslagen waren, nee, dan kon je shiften. Dus dat was een hele heldere vraag. Dus dat is altijd, wat is de vraag? Wat zijn je menselijke processen en waar past waarschijnlijk de techniek in? En als we dat helder hebben, dan ga je de techniek uitwerken. Ja, maar je begint niet bij de techniek. Nee, nee, nee. Ik heb dat zo vaak fout zien gaan. We zeiden, en dat kennen jullie ook, we moeten iets met data zetten. We moeten iets met big data. We moeten iets met AI. We moeten iets met Gen AI. En dan, ik heb teams opgezet, van 25 man sterk. Ik zei, oké, wat gaan we nu doen? Ja, we hebben hier wel een data. Oké, dat is een heel wat. En we hebben een model gemaakt. Oké, top, we leveren het model op. Ja, dit en dat. Waar gaan we het neerzetten? Ja, dat weet ik niet. Het kan nergens in productie. En uiteindelijk bleek het model ook niet zo veel te doen. Dus het is echt, ik denk niet dat deze techniek de fundamentele vragen van het doen van zaken verandert. En dat is kijken naar je processen. En tuurlijk, ik snap wel dat, je ziet het nu vooral in de zorg, bijvoorbeeld ontslagbrieven sneller schrijven. Je ziet het wel met transcripten maken, notulen maken. Dat snap ik. Super. Ja, precies. Ja, tuurlijk. Dat is ondersteuning. Ik gebruik ook een rekenapparaat. Ja, tuurlijk. Ja, tuurlijk. En ik snap die elektrische fiets ook wel. Maar Gen AI gaat bijvoorbeeld niet de zorg veranderen, niet de fundamentele dingen van de zorg veranderen. Dat zijn de mensen van de zorg zelf die dat moeten aanvullen. De echt fundamentele dingen als blijdschap en gelukkig en werkdruk, et cetera. Dus het kan helpen, maar het moet beginnen vanuit de vraag. En de vraag is niet de techniek. Nee. En hoe denk je er dan? Nou, eigenlijk weet ik het niet. Ik ga nu een vraag stellen waar ik het antwoord op weet, omdat je dat in je boek hebt. Maar ik ga hem toch stellen. Mag ik de lijstvraag zetten? Ja, precies. Er wordt gezegd van, met deze technologie, die gaat net als de automatisering, die gaat ons helpen zodat wij meer vrije tijd krijgen. We gaan minder werken, want dat wordt natuurlijk direct allemaal door AI gedaan. Dus we houden meer tijd over. Sommigen zullen bang zijn dat dat leidt tot ontslagen. Hoe kijk jij daarnaar? Ja, dit is… Kijk, we hebben natuurlijk in het hoofdstuk vijf, dat is zeg maar het beleg van, als je dit boek als een sandwich ziet, dan is dat het beleg. Dat is gebaseerd op het boek van Friedrich Jünger. Friedrich Jünger is een Duitse techniekfilosoof van de vorige eeuwen. En die heeft een boek geschreven over techniek en de invloed van techniek ten tijde van de mechanisering. Ja, dat is 100 jaar geleden schrijf jij. Ja, en hij zegt, en dat vond ik heel mooi, en dat kunnen we denk ik allemaal wel relativeren, hij zegt van, oké luister, vroeger deed je een veld bewerken met een paard en een ploeg. En over een bepaald stuk veld deed je acht uur. En toen kwam er een stuk mechanisering. En toen deed je er nog maar twee uur over. Dus van acht naar twee uur. Wat ga je met die andere zes uur doen? Ga je dan over een rietje zitten kauwen? Ga je dan naar je vrouw toe met je kinderen? Nee. Dan ga je dus zoveel keer meer doen. Dan gaat die andere zes uur, je gaat gewoon vier keer zoveel werk verrichten. En dat heeft ook mee te maken dat techniek is niet voor iedereen gelijk. En zeker niet toen. En dat zie je nu ook als je kijkt naar de grote technische bedrijven, de big five, dat dat zijn degenen die de techniek hebben. En wij zijn degenen die er gebruik van maken. Maar zij maken meer gebruik van ons dan dat wij van hun maken om de techniek voor de techniek. Dus de vraag van ja, maakt deze techniek ons zo vrij? Maakt deze techniek, geeft die ons zoveel? Dan denk ik van ja, ga maar eens bij jezelf raden. Is dat wel zo? En als ik weer een dag in de trein rond zwerf of doorbreng, dat gebeurt nu vaak en ik zie iedereen op zijn telefoon kijken, dan weet ik het antwoord wel. Nou ja, ik ben ook benieuwd, zeg maar, welke baas, welke manager zegt van, oh ja, maar wat jij normaal gesproken in acht uur deed, kan je dus nu in twee uur. Dus nou, tot morgen. Ja, nou wat er dus gebeurt, wat er dus gebeurt is dat, stel je voor je kunt iets wat je in acht uur deed, dat kun je er nu in twee. Nou ja, ik denk dat van die zes die je over hebt, heb je waarschijnlijk al drie nodig om de techniek in stand te houden. Dat is ook een goede ja. Kan je daar een voorbeeld van geven? Ja, kijk, het is, als ik een model zeg maar, in productie zet, dus als ik probeer iets te automatiseren, dan kost dat heel veel werk. Hoe meer ik moet automatiseren, hoe meer werk dat kost. Maar je kunt nooit iets 100% volledig automatiseren. Er gebeurt altijd wel iets, waardoor er een afwijking is die je niet had voorzien. Dus je moet dat soort dingen moet je in stand gaan houden. Je moet zorgen dat de infrastructuur er is. Je moet zorgen dat altijd internet is, altijd stroom, water. Je moet zorgen dat die processen altijd beschikbaar zijn, dat het allemaal loopt. Dan heb je weer mensen voor nodig. Dat is ook, en dat zie je ook, mogelijk een helpdesk. Ja, dat zie je gewoon. Die IT-afdeling zit ook bijna altijd onder CFO, dat de grootste kost op ons is. En als je natuurlijk een heel heel tragisch voorbeeld wil hebben, dan heb je bijvoorbeeld dingen als de overheid, waarin als je nog een oude programmeertaal beheerst, ben je echt koning daar. Wat vind je daarvan? We hebben nu gehad, en op het moment dat deze live komt, zijn we een paar weken verder, maar de overheid heeft aangekondigd, we gaan AI inzetten om het probleem met de verkeerde WIA-berekeningen op te lossen. Ik zie je heel diep zuchten nu met de ogen dicht. Ja, ik heb dat dus niet gehoord, maar ik hoor dus nu dan van jou. Dan zal ik iets meer context geven. De WIA gaat over uitkering, dat als je arbeidsongeschikt bent, en het blijkt in de afgelopen jaren dat daar heel veel berekeningen fout zijn gegaan, maar ze kunnen die berekeningen ook niet meer terughalen. Sommigen zijn letterlijk op briefjes uitgewerkt, en sommige mensen hebben te veel gekregen, sommige mensen hebben te weinig gekregen, en in eerste instantie werd gezegd van, we zetten er gewoon een streep onder, en als je teveel hebt gekregen, dan hoef je dat niet terug te betalen. Daarvan heeft, geloof ik, nu het kabinet gezegd, nou, dat gaan we niet doen. En de oplossing, dat lijkt een beetje nu zeg maar voor alles, de oplossing is AI. We gaan AI inzetten om erachter te komen wie uiteindelijk te weinig gekregen heeft of te veel uitbetaald heeft gekregen. Hoe doe je dat? Ik wou zeggen, #hoe dan? Als je dat niet hebt, hoe ga je er dan achter komen? Ja, ik ben echt hard op aan het denken, zeg maar, hoe zou je dat dan aanvliegen? Als je dan, waar moet ik dan, want ik bedoel, misschien de uitbetalingen die je dan hebt. Hoe weet je of iemand te veel of te weinig heeft gekregen? Ja, geen idee. Oké. Dat is ellende. Ja toch? Ja. Nee, maar dit is ook, en dit is wel mooi, want we zijn, ik ben met Ronald, ben ik nu, en ik belde hem net nog voordat ik naar binnen liep. We zijn bezig met een richtlijn van de provincie Zuid-Holland, echt over de inzet van modellen voor beleid, dus ook voor juristen, ambtenaren en modelleurs, waarin we dus een aantal, waarin we dus eigenlijk het hele inzetten van modellen toetsbaar willen maken op basis van het bestuursrecht. Kijk, dus wat je nu ziet, en bijvoorbeeld nu, als je dit zo vertelt, er wordt straks een beslissing gemaakt. Voor iedere persoon wordt een beslissing gemaakt, te veel, te weinig of precies goed. En dan wordt dan, laten we zeggen, een model wordt aan gehandhaafd. Oké, dus er wordt een besluit genomen. Ja. En dan heb je, dat is een primair besluit. Dus je krijgt op een gegeven moment een brief binnen, mijn vader zei bijvoorbeeld, wie jij? En die zegt van, oké, ik moet 2000 euro terugbetalen. Ja. Oké, dan heb je een primair besluit. Dan kun je bezwaar indienen. En dan komt er een besluit op bezwaar. Wat betekent dat? De overheid moet motiveren hoe dat besluit tot stand is gekomen. Dat betekent dat dus eigenlijk dat moet worden uitgelegd. Onderbouwing. Onderbouwing, precies. Motiveringsbeginsel, vertrouwensbeginsel, fairplaybeginsel. Hoe is dit tot stand gekomen? Ga dat maar eens uitleggen. Dit is gewoon, met alle respect, dit is gewoon een toeslagenriedeltje nog een keer. Dus dit is gewoon ellende. Dit is administratieve ellende. Misschien kun je dat dan weer met Jen op TV AI opgelost. Ja, dat je er een andere taal weer aan koppelt. Ja, nee, het is echt. Maar weet je wat het mooie is? En dit is zo, je krijgt direct energie. Kijk, wij leven nu in een tijd waarin we het gevoel hebben van, we hebben techniek, we hebben data, we hebben computerkracht. Dus laten we het dan proberen. Bij ons leeft zo dat idee dat omdat we iets hebben, laten we dat gewoon doen. Dan krijg je dat hele hamer en een nagel zeg maar. We hebben techniek, we hebben de data. Ja, hoe dan? Laten we het gewoon gaan doen. En het probleem met de overheid is dan dat vaak de samenleving is het experiment. Ja, en dat is echt heel kwalijk. Impact veel te groot. Ja. Kijk, als wij een model maken, dan doen we dat proof of concept. We zetten dat niet direct in productie. Zij zetten het direct in productie en schalen het helemaal uit. Ja, en weet je, ik heb niet in mijn hoofd zeg maar hoeveel WIA uitkeringsgerechtigden er zijn, maar dat is gigantisch. Ja, je hebt het hier wel echt. En dan heb je nog, je zegt al van mijn vrouw, dus je hebt mensen eromheen, gezinnen eromheen. Dus je raakt eigenlijk, je raakt gewoon een heel groot gedeelte van de maatschappij. Ja, mijn vader, ja, nee, mijn vader is daar dus, die kwam dus ook te zeggen, "Marcus, kijk, ik weet nu dus dat ze het via AI gaan doen. Nou, als ik weet dat het niet klopt, zeg maar, en ik ga het dus opvragen." Als er iemand op sluiting denkt, "Nee, dan ga ik het gewoon opvragen." Maar wat we eigenlijk met die richtlijnen willen doen, is we willen dat voor zijn. We willen gewoon heel graag, het liefste dat er gewoon op paragraaf wordt opgenomen bestuursrecht, waarop we kunnen zeggen van, "Oké, dit mag niet meer gebeuren." En de manier waarop je zorgt dat dit soort dingen niet meer gebeuren, is door daar transparant over te zijn. - En zorgen dat er een proces is in het beleid. Dat het proces helder is en dat als je het proces helder hebt, dan weet je waar ik technologie in zet of niet. Maar als het proces niet helder is, maar gewoon een magisch ticketje opgeplakt, dan heb je eigenlijk geen proces. - Juist. - En volgens mij komt het vaak daarop neer, ga kijken naar het proces. - Ja, ja, helemaal eens. - Nou, en je maakt voor ons een mooi bruggetje naar beleid, want ik denk dat beleid heel belangrijk is. Voor ieder bedrijf die AI toepast, ook al zou het zijn dat het beleid is dat je zegt, "We doen het niet." Dat is ook beleid, hè? We hebben een kaartspel ontwikkeld met een heel aantal stellingen daarin, dat als je een beetje antwoord hebt met elkaar, dus eigenlijk hoe je het speelt, is dat je met z'n vieren rond een stelling eigenlijk met elkaar praat van, "Hoe kijken we hiernaar?" Dus zonder goede of foute antwoord. En als je een beetje deze vragen kan beantwoorden, ben je al een hele eind op weg met je beleid en strategie, in ieder geval als input. Dus die willen we graag ook aan jouw eentje voorleggen. - Jazeker. - Zeker. - Je ziet hem hier zo schudden. - Nou, je hebt het gezien. Ik heb het geschud. En je hebt hem zelf mogen pakken. Dus de stelling die we hebben voor jou is in de categorie wetgeving en beleid. Nou, alsof het zo moet zijn. - Alsof het zo moet zijn. - En de stelling is, "Wij hebben een verbod op generatieve AI ingevoerd." Dus even misschien even in de context van de situatie die je gehad hebt, of voor je eigen organisatie. "Wij hebben een verbod op generatieve AI ingevoerd." - Oké, en nu wil je van mij wat ik daarvan vind, zeg maar. Kijk, we hebben er in dat boek natuurlijk een heel hoofdstuk aan besteed. Ik hou niet van verbieden. Dus je hebt nu de Europese AI Act, die dus modellen indeelt in classificaties. Sommige willen we gewoon niet hebben, anderen zeggen van alles gewoon peanuts. Als je kleine regeltjes leest, dan is eigenlijk alles mogelijk onder het mom van bijvoorbeeld nationale veiligheid. Dus echt verbieden. Ik hou niet van verbieden. Ik geloof veel meer in het nemen van verantwoordelijkheid en het geven van onderwijs. Dus als je zegt van "Oké, je ziet dat nu wel vaker, generatieve AI, er staan dingen in die niet kloppen, dingen zijn racistisch, fascistisch, noem maar op." Kijk, AI is nooit, dat heb ik ook al gesproken, nooit fascistisch of racistisch. Dat heeft te maken met de data die onderliggend zijn, de processen. Het is echt een blackmailer, zeg maar. - We hebben dat erin gestopt als mensen. - Ja, AI heeft geen normen of waarden, het zijn rekenregels. Dus dat moet je gewoon begrijpen. Het zijn de mensen die het gebruiken. Dus om iets te verbieden, daar hou ik zelf niet van. Ik denk dat je je eigen verantwoordelijkheid moet nemen. Kijk, wij schrijven natuurlijk ook wel, in Amerika is er elke dag een school shooting. Dat horen wij al niet meer, alleen als het heel erg is. Ik geloof ook heilig in dat dat veel minder zou zijn als er dus geen geweren zouden zijn. Dus als dat niet beschikbaar is. Dus met een verbod kun je wel een hele hoop dingen doen. Alleen, een geweer heeft ook een keerzijde in de zin dat het je kan beschermen. Gen AI kan wel degelijk goede dingen doen. Het heeft wel degelijk toegepaste waarden. Dus om dingen te verbieden, ik denk dat bij mezelf, als je dingen verbiedt, dan aan de ene kant geeft het je ook aandacht. Dat zie je bij kleine kinderen al, zeg maar. Dat gaat heel hard, dingen mogen niet. Maar je leert ook niks. Want de vraag is juist van, oké, waarom wil je iets wel of niet gebruiken, onbepaald? Dat is eigenlijk wat we ook deden met die stelling voor gezond verstand. En we snappen dat het al een lange weg is, maar ik zelf zou niet voor een verbod gaan. Mooi. Ik heb nog wel een vraag voor je. Je hebt het over gezond verstand. En er zijn natuurlijk heel veel ontwikkelingen die ook heel snel gaan. Je hebt er al een paar genoemd. We hebben ook een sessie gehad van een paar afleveringen terug. Hebben we de Mythbusters hebben we gedaan van AI. Dus heb je die nog niet geluisterd, zoek die aflevering even op. Dat is echt een aanrader, waarin we een aantal myth van AI bussen. Maar ik ben benieuwd, met voorbereiding voor het boek, welke myth ben jij tegengekomen die je echt verrast heeft? En zou je willen debunken of in ieder geval toelichten dat het niet zo is? Ik denk dat wat mij echt verbaast heeft, is die wel rondom bewustzijn. Daar besteden we natuurlijk ook best wel een flink deel aan in het boek. Kan je daar iets over uitleiden? Kijk, wij leven in een tijd. We leven ook in een cultuur waarin de ratio, het denken, heel centraal is. Dus ik denk, dus ik ben. Descartes zei het al. Met het wegnemen van religie, en ik ben zeker niet religieus, maar het wegnemen van religie als de dominante, verklarende kracht, en het helemaal gaan naar de verlichting, de wetenschap, hebben we gezegd, oké, alles moet verklaarbaar zijn. En met daarmee zei ik ook, oké, als alles verklaarbaar moet zijn, moet ook alles kunnen opbreken. En we hebben succes natuurlijk in de fysica. De wiskunde komt grotendeels uit de fysica, zeg maar. De fysica is zo fijn, omdat het heel veel regelmaat heeft. Daarom zeggen we, het zijn wetten van de fysica, maar het is geen wet. Het is gewoon een enorme regelmaat. En op basis daarvan heb ik heel veel wiskunde neergezet. Dus wat wij zeggen is, oké, we zijn onderdelen van de fysica. Een neuraal netwerk. Atomen, neuronen, noem maar op. Waardoor de illusie leeft, dat als wij maar lang genoeg zoeken en onszelf maar hard genoeg opdelen, in de meest minuscule deeltjes, we in principe gewoon onszelf kunnen nabootsen. En wat betekent dat? Bewustzijn daarvan ook automatische gevolgen. Dat stukje singulariteit, zeg maar. En in dat boek nemen we een heel mooi voorbeeld. En Ronald is er heel fier op. Hij is er echt heel fier op. Hij is echt van luisteren, Marc. Hij zegt, oneindigheid. Oneindigheid is iets wat eigenlijk bijna niet bestaat. Dus als je een munt opgooit, dus je zegt, oké, kop of munt, dan is het eigenlijk 50/50 zou het moeten zijn. En je weet dat als je dat honderd keer doet, dan krijg je niet per se 50/50. Als je honderd keer honderd keer doet, krijg je ook niet per se 50/50. Het gaat steeds dichterbij, steeds dichterbij. Maar wij weten, als je in ons hoofd ons oneindig kunt voorstellen, dat dat uiteindelijk zo zal zijn. Vroeger deed je wel eens zo'n spelletje met iemand. Dan zeg je, ik ben sterker dan jou. En ik ben sterker dan jou naar plus 1. Ik ben sterker dan jou naar plus 2. Ik ben sterker dan jou altijd. En dan wist je in je hoofd, ik heb verloren, terwijl er niks gebeurd was. Dat stukje oneindigheid, als onze gedachte fysiek zou zijn, dat zou betekenen dat er ook een oneindig aantal fysieke deeltjes zou moeten zijn om die oneindigheid vorm te geven. En dat is niet. - Nee. Dat kan niet. Wij zijn meer dan 0 en 1. Zelfs met een quantum computer zul je dat niet kunnen oplossen. Maar we geven ook toe dat de discussie over bewustzijn net zo zeer filosofisch is als dat het echt wetenschappelijk is. Maar wat mij heel erg verbaasd heeft zijn de antropomorf… - Het vermenselijken. Ja, het vermenselijken geweld. Hoe makkelijk dat gaat. Er is gewoon echt business in… Neem een audiobestand van je overleden moeder. en een foto. En ik maak je een afbeelding. En geloof me dat dat een reactie geeft. - Tuurlijk. Emotie. Dat is een hele industrie. Een hele liefdes-seksindustrie. Waarin Gen AI absoluut weer miljarden aan het verdienen is. Voor die mensen die dat wat inzien. Die dat nodig hebben. Die zich daarin verbinden. Wij zijn zo goed in het toekennen van menselijke waarden aan dingen die niet menselijk zijn. - Eigenlijk zijn we te slechte detectives. Ja. - We moeten veel nieuwsgieriger zijn met z'n allen. Van waarom zit dit? Waarom zit het in elkaar? Waarom? Ja, maar we laten ons ook graag betoveren. Ik weet niet of je vroeger nog zo'n… Ik weet niet of je dat kent. Tamagotchi bijvoorbeeld. Zo'n klein dingetje waar je dan verzorgt. Oh, als die dood ging. Oh, wat een verdriet. Mama, kun je dat eens weer verzorgen? Ik ben om drie uur thuis. Hij moet eten tussen negen en twaalf. Dan wil ik hier geaaid worden. Nu heb je robots. Die brengen drie dienbladen. En die willen graag over hun hoofd geaaid worden. Dat geeft een reactie bij jou. Dat geeft een neurologische reactie. En onze vaardigheid om in oneindigheid te kunnen denken, voedt ook die illusie. Daar moet je even over nadenken. Want in eerste instantie zeg je het feit dat we oneindigheid kunnen voorstellen. Dat betekent dat wij iets met onze bewustzijn kunnen... Dat betekent dat onze gedachte niet puur materie kan zijn. En hoe voelt dat dan, die illusie waar je het net over had? Omdat wij, en dat is ook wel het hele ding, singularity is niet bewezen. Er is een echt boek over, een Ré Courts, dat is niet bewezen. Zelfs een organisator die singularity heet. Ja, precies. En dat voelt ook. Techniek gaat de wereld verbeteren, redden of het gaat de wereld vernietigen. Ja. Dus die gedachte van oneindigheid voedt ook die illusie van AI dat we zeggen van... "Wacht eens even, AI kan binnenkort dit en dat." En als je die rekenkracht maar vergroot en als je die data maar vergroot... En als je die algoritmes vergroot en oneindige, dan komt het daar. Ik geloof erin dat we ons nu al gedragen naar iets wat dan niet is. Waarvan wij denken dat het gaat er aankomen. Dat is onze vaardigheid om creatief te zijn. Om dingen te maken en te denken en te dromen. Ja, fantaseren. Fantaseren staat ook soms een stukje gezond verstand weg. Dat zijn van die heuristieken. Dat is gewoon dat we ook best wel lui zijn. Dat we denken van "Laten we dat zo eens bedenken." En wij zijn natuurlijk ook goed in patronen verzinnen als het ware. Want iedereen verwacht... Jij had het al over november 2022. Kwam GPT uit. Er was eigenlijk versie 3. Mensen wisten niet eens dat er versie 1 en 2 bestond. Versie 3. Jaar later versie 4. Waar iedereen gaat er vanuit. We zitten in 2024. We krijgen versie 5. Alleen al dat soort aannames worden gewoon gemaakt. Dat moet nu gebeuren. Niet alleen dat, maar GPT 5 gaat weer direct exponentieel beter zijn dan 4. Want 4 was zoveel beter dan 3. Dus wij trekken ook alles met het grootste gemak door. Maar is dat niet ook een beetje wensdenken? Ja, natuurlijk. Dat is heel veel wensdenken. Ja, tuurlijk. Kijk, je hoort nu heel vaak dat AI niet mensen gaat vervangen. Maar het gaat bijvoorbeeld mensen die niet AI gebruiken vervangen. En ik vind dat wel een hele grappige stelling. Want stel je voor, ik ben een programmeur. Stel je voor, je hebt nu een andere programmeur en die bouwt code met chat-GPT. Die zou sneller zijn dan ik ben. Dat denk ik zeker. Gezien dat ik gewoon moet programmeren, zal het gewoon sneller knip-plak-klaar. En als het werkt, dan helemaal fijn. Over een aantal jaar, wanneer de AI steeds beter en steeds beter en steeds beter wordt en je bent er aan gewend om het te gebruiken, zul je op een gegeven moment een stukje afhankelijkheid inbouwen, die we ons nu geen weten van hebben, die wel komt. Waardoor er een moment komt, waarop je zegt waar is ook alweer die persoon geweest die je zeg maar daadwerkelijk kan programmeren. En dat is iets, wij laten ons gewoon graag betoveren. Maar het is bij AI, Ronald, ik zeg ervan, oké, als je dat boek in één zin zou willen samenvatten, dan is het van, het gaat niet om wat AI van ons gaat overnemen, het gaat om wat wij bereid zijn om op te geven. En ik denk dat ons wensdenken en onze vaardigheid om vooruit te denken, ons niet altijd in staat stelt om te denken wat nu verstandig is. Als we kijken naar AI en de ervaring die je hebt, wat is nu verstandig? Ik denk dat het voor bedrijven en voor mensen gewoon heel verstandig is om daar wel weet van te hebben. Het is gewoon goed om daar weet van te hebben. Ik denk ook dat het heel verstandig is om te voelen en het besef te hebben dat jouw bedrijf, maar ook wie jij bent, heeft altijd te maken met mensen. We leven in een wereld vol mensen, we leven niet in een wereld vol techniek, ik weet het steeds meer, maar we leven in een wereld vol mensen. En dat gaat gewoon voorop. Dus je kunt die techniek voor jezelf uitzoeken, oké, heeft dat een vaardigheid? Is dat van toegepaste waarden? En vindt er een plek in op zo'n manier dat het symbiotisch gaat werken? Ik kan me heel goed voorstellen dat je straks robots hebt die bijvoorbeeld dienbladen gaan afhalen, die in een sushi restaurant gewoon het eten brengen. Is daar veel meer verloren? Weet ik niet. Je verliest een stukje sociale interactie, maar hoeveel sociale interactie heb je van iemand die dat gewoon... Kranten bezorgen, dat soort dingen. Maar zelfs tegenwoordig in restaurants dat ze een bord op je tafel gooien. Ja, precies. Dat snap ik wel. Ik zie ook dingen toepasbaar in de zorg bijvoorbeeld. Dat zie ik ook wel. Kijk, onderwijs daarentegen. Ik zie niet toegevoegde waarden dat ik les krijg van een robot. Iedereen kent nog wel een docent die hem of haar geraakt heeft. De passie. Ja, tuurlijk. Fantastisch. Dat is die interactie. We moeten dat niet vergeten. We moeten dat koesteren. Ja, maar ik voel gewoon dat is de energie. Iets kunnen overbrengen van mens tot mens. Juist. Het is wel grappig, want niet alleen de docent die jou geïnspireerd heeft, maar ook degene die je enorm geïrriteerd heeft. Ook daar leer je van. Dus als dat wegvalt. Uiterst. Ja. Dat je op zoek bent... Ik was misschien iets klierderig. Dat zeg ik het heel netjes, denk ik, in de klas. Ik ook wel. Dat je daarmee ook leert waar grenzen liggen. Ook dat soort dingen scherpt je sociale vaardigheden aan. Ja. Ik denk dat daar... Dus ik denk van, AI als personal assistant, snap ik. Maar het zou mij tevaren dat je zegt van, oké, we hebben nu een nieuwe board member. Dat is, ja... Noem maar eens wat, weet je wel. Dat zie je ook gebeuren als gimmick. Maar ik denk dat daar wel volop mee geëxperimenteerd wordt. Ja. Dat zou wel heel apart zijn inderdaad, in je board. Om af te sluiten, want pleidooi voor gezond verstand. Wat zou onze luisteraars nou... En die zetten hem zo direct uit. Wat zou je ze mee willen geven om dat gezond verstand nog extra in te zetten na dit gesprek? Ik denk wat ik ze zou willen meegeven rondom AI. Dat gezond verstand rondom AI is van, oké. Verdiep je nou eens hoe AI echt werkt. Verdiep je nou eens hoe zo'n rekenregel werkt. Verdiep je nou eens hoe zo'n model werkt. Dat hoeft niet per se op basis van hele extreme wiskundige stellingen. Maar dat ik denk van, oké. Verdiep je nou eens hoe komt zo'n antwoord überhaupt tot stand. Ja. Want dat doen wij mensen ook. Ik weet nu dus dat ze het via AI gaan doen. Als ik weet dat het niet klopt, zeg maar. Ik ga het dus opvragen. Als ik iemand op sluiting krijg, dan ga ik het gewoon opvragen. Maar wat we eigenlijk met die richtlijnen willen doen, is dat we dat voor willen zijn. We willen gewoon heel graag, het liefste dat er op paragraaf wordt opgenomen, bestuursrecht. Waar we kunnen zeggen van oké, dit mag niet meer gebeuren. En de manier waarop je zorgt dat dit soort dingen niet meer gebeuren, is door daar transparant over te zijn. En zorgen dat er een proces is in het beleid. Dat het proces helder is. En dat als je het proces helder hebt, dan weet je waar ik technologie in zet of niet. Maar als het proces niet helder is, maar gewoon een magisch stickertje opgeplakt wordt, dan heb je eigenlijk geen proces. En volgens mij komt het vaak daarop neer. Ga kijken naar het proces. Ja, helemaal eens. En je maakt voor ons een mooi bruggetje naar beleid. Want ik denk dat beleid heel belangrijk is. Voor ieder bedrijf die AI toepast. Ook al zou het zijn dat het beleid is dat je zegt, we doen het niet. Dat is ook beleid hè. We hebben een kaartspel ontwikkeld met een heel aantal stellingen daarin. Dat als je een beetje antwoord hebt met elkaar. Dus eigenlijk hoe je het speelt, is dat je met z'n vieren rond een stelling eigenlijk met elkaar praat. Hoe kijken we hier naar? Dus zonder goede of foute antwoord. En als je een beetje deze vragen kan beantwoorden, ben je al een heel eind op weg met je beleid en strategie. In ieder geval als input. Dus die willen we graag ook aan jou eentje voorleggen. Zeker. [muziek] Nou je hebt het gezien, ik heb het geschud. En je hebt hem zelf mogen pakken. De stelling die we hebben voor jou is in de categorie wetgeving en beleid. Nou, alsof het zo moet zijn. Alsof het zo moet zijn. En de stelling is, wij hebben een verbod op generatieve AI ingevoerd. Dus even misschien in de context van een situatie die je gehad hebt. Of voor je eigen organisatie. Wij hebben een verbod op generatieve AI ingevoerd. Oké, en nu wil je van mij wat ik daarvan vind zeg maar. Maar ja, kijk we hebben er natuurlijk een heel hoofdstuk aan besteed. Ik hou niet van verbieden. Dus je hebt nu de Europese AI Act. Die dus modellen indeelt in classificaties. Sommige willen we gewoon niet hebben. Anderen zeggen van dat is gewoon peanuts. Als je kleine regeltjes leest, dan is eigenlijk alles mogelijk onder het mom van bijvoorbeeld nationale veiligheid. Dus echt verbieden. Ik hou niet van verbieden. Ik geloof veel meer in het nemen van verantwoordelijkheid en het geven van onderwijs. Dus als je zegt van oké, je ziet dat nu wel vaker, generatieve AI. Er staan dingen in die niet kloppen. Dingen zijn racistisch, fascistisch, noem maar op. AI is nooit, dat heb ik ook al gesproken, nooit fascistisch of racistisch. Dat heeft te maken met de data die onderliggend zijn. De processen, het is echt een blackmailer zeg maar. We hebben dat erin gestopt als mensen. AI heeft geen normen afhaal, dat zijn rekenregels. Dat moet je gewoon begrijpen. Het zijn de mensen die het gebruiken. Dus om iets te verbieden vind ik eigenlijk, daar hou ik zelf niet van. Omdat ik denk je moet je eigen verantwoordelijkheid nemen. Wij schrijven natuurlijk ook wel, in Amerika is er elke dag een school shooting. Dat horen wij niet meer, alleen als het heel erg is. Ik geloof ook heilig in dat dat veel minder zou zijn als er geen geweren zouden zijn. Dus als dat niet beschikbaar is. Dus met een verbod kun je wel een hele hoop dingen doen. Alleen een geweer heeft ook een kernzijde in de zin dat het je kan beschermen. Gen AI kan wel degelijk goede dingen doen. Het heeft wel degelijk toegepaste waarden. Dus om dingen te verbieden, ik denk dat bij mezelf, als je dingen verbiedt dan... Aan de ene kant geef je het ook aandacht. Dat zie je bij kleine kinderen al. Dat gaat heel hard, dingen mogen niet. Maar je leert ook niks. De vraag is juist, waarom wil je iets wel of niet gebruiken? Dat is eigenlijk wat we deden met die stelling voor gezond verstand. We snappen dat dat een lange weg is. Maar ik zelf zou niet voor een verbod gaan. Ik denk dat dat een heel groot probleem is. En dat is waarom we ook een hele grote stelling hebben. En dat is waarom we ook een hele grote stelling hebben. En dat is waarom we ook een hele grote stelling hebben. En dat is waarom we ook een hele grote stelling hebben. En in dat boek nemen we een heel mooi voorbeeld. En Ronald is er heel fier op. Hij is er echt heel fier op. Hij is echt van: "Luister Marc". Oneindigheid. Oneindigheid is iets wat eigenlijk bijna niet bestaat. Oneindigheid. Als je een munt opgooit, dan is het eigenlijk 50/50 zou het moeten zijn. En je weet dat als je dat honderd keer doet, dan krijg je niet per se 50/50. Als je honderd keer honderd keer doet, dan krijg je ook niet per se 50/50. Het gaat steeds dichterbij, steeds dichterbij. Ik heb met mijn eigen handen een hele goede idee. Ik heb me met mijn eigen handen een hele goede idee. Ik heb me met mijn eigen handen een heel goede idee. Daar moet je even over nadenken. Want in de eerste instantie zeg je dat we oneindigheid kunnen voorstellen. Dat betekent dat wij iets met onze bewustzijn kunnen... Dat betekent dat onze gedachte niet puur materie kan zijn. En hoe voelt dat dan, die illusie waar je het net over had? Nou, omdat wij, en dat is ook wel het hele... Singularity is niet bewezen. Dat is een echt boek over Ray Kurzweil. Dat is niet bewezen. Dat is een organisator die Singularity heet. Ja, precies. En dat voelt ook. De reactie op techniek is ook vaak van... Techniek gaat de wereld verbeteren, redden, of het gaat de wereld vernietigen. Ja. Dus die gedachte van oneindigheid voelt ook... De illusie van AI dat we zeggen van... Hé, wacht eens even. AI kan binnenkort dit en dat. En als je die rekenkracht maar vergroot en als je die data maar vergroot... En als je die algoritmes vergroot en onteindigen, dan komt het daar. En ik geloof erin dat wij ons nu al gedragen naar iets wat dan niet is... Waarvan wij denken dat gaat er aankomen. Dat is onbewezen. En dat is onze vaardigheid om creatief te zijn. Om dingen te maken en te denken en te dromen. Ja, fantaseren. Fantaseren staat ook soms een stukje gezond verstand weg. Dat zijn van die heuristieken. Dat is gewoon dat we ook best wel lui zijn. Dat we denken van, laten we dat zo eens bedenken. En wij zijn natuurlijk ook goed in patronen verzinnen. Want iedereen verwacht... We hadden het al over november 2022. Toen kwam de GPT uit. Er was eigenlijk versie 3. Mensen wisten niet eens dat er versie 1 en 2 bestond. Versie 3, jaar later versie 4. Dus iedereen gaat er vanuit. We zitten in 2024. We krijgen versie 5. Alleen al dat soort aannames worden gemaakt. Dat moet nu gebeuren. En niet alleen dat, maar GPT 5 gaat zo direct. Exponentieel beter zijn dan 4. Want 4 was zoveel beter dan 3. Dus wij trekken ook alles met het grootste gemak door. Maar is dat niet ook een beetje wensdenken? Ja, natuurlijk. Je hoort nu heel vaak dat AI niet mensen gaat vervangen. Maar het gaat bijvoorbeeld mensen die niet AI gebruiken vervangen. En ik vond dat een hele grappige stelling. Want stel je voor, ik ben een programmeur. Stel je voor, je hebt nu een andere programmeur. En die bouwt code met chat-GPT. Die zou sneller zijn dan ik ben. Dat denk ik zeker, gezien ik moet programmeren. Ze had een snelle kniplak klaar. En het werkt helemaal fijn. Maar het is een aantal jaar dat wanneer de AI steeds beter en beter wil. En je bent er aan gewend om het te gebruiken. Zul je op een gegeven moment een stukje afhankelijkheid inbouwen. Die we ons nu geen weet van hebben, die wel komt. Waardoor er een moment komt, kun je gif op innemen. Waarop ze zeggen, waar is ook alweer die persoon geweest die daadwerkelijk kan programmeren. En dat is iets, wij laten ons gewoon graag betoveren. Maar het is bij AI, Ronald en ik zeggen van oké. Als je dat boek in één zin zou willen samenvatten. Dan is het van, het gaat niet om wat AI van ons gaat overnemen. Het gaat om wat wij bereid zijn om op te geven. En ik denk dat ons wensdenken en onze vaardigheid om vooruit te denken. Ons niet altijd in staat stelt om te denken wat nu verstandig is. Als we kijken naar AI en de ervaring die je hebt. Wat is nu verstandig? Ik denk dat het voor bedrijven en mensen heel verstandig is om daar wel weet van te hebben. Het is gewoon goed om daar weet van te hebben. Ik denk ook dat het heel verstandig is om te voelen en het besef te hebben. Dat jouw bedrijf, maar ook wie jij bent, heeft altijd te maken met mensen. We leven in een wereld vol mensen. We leven niet in een wereld vol techniek. Ik weet het steeds meer techniek, maar we leven in een wereld vol mensen. En dat gaat gewoon voorop. Je kunt die techniek voor jezelf uitzoeken. Heeft dat een vaardigheid? Is dat van toegepaste waarde? En vindt er een plek in op zo'n manier dat het symbiotisch gaat werken. Ik kan me heel goed voorstellen dat je straks robots hebt die bijvoorbeeld dienbladen gaan afhalen. Die in een sushi restaurant gewoon het eten brengen. Is daar veel meer verloren? Weet ik niet. Je verliest een stukje sociale interactie. Maar hoeveel sociale interactie heb je voor iemand die dat gewoon... Kranten bezorgen, dat soort dingen. Zelfs tegenwoordig in restaurants dat ze een bord op je tafel gooien. Ja, precies. Dat snap ik wel. Ik zie ook dingen toepasbaar in de zorg bijvoorbeeld. Onderwijs daarentegen. Ik zie niet toegevoegde waarde dat ik les krijg van een robot. Iedereen kent nog wel een docent die hem of haar geraakt heeft. De passie. Ja, tuurlijk. Dat is die interactie. We moeten dat niet vergeten. We moeten dat koesteren. Ik voel dat het de energie is om iets te kunnen overbrengen van mens tot mens. Dat is wel grappig. Niet alleen de docent die jou geïnspireerd heeft... maar ook degene die je enorm geïrriteerd heeft. Ook daar leer je van. Dus als dat wegvalt. Dat je op zoek bent... Ik was misschien iets klierderig. Dat zeg ik het heel netjes in de klas. Ik ook wel. Dat je daarmee ook leert waar grenzen liggen. Ook dat soort dingen scherpt je sociale vaardigheden aan. Ik denk dat AI als personal assistant... Snap ik. Maar het zou mij tevaren dat je zegt... "Oké, we hebben nu een nieuwe board member." Dat is... Ja, noem maar eens wat. Dat zie je ook gebeuren als gimmick. Maar ik denk dat daar wel volop mee geëxperimenteerd wordt. Ja, dat zou wel heel apart zijn in je board. Om af te sluiten. Want pleidooi voor gezond verstand. Wat zou onze luisteraars nou... En die zetten hem zo direct uit. Wat zou je ze mee willen geven... om dat gezond verstand nog extra in te zetten na dit gesprek? Ik denk wat ik ze zou willen meegeven... rondom AI. Dat gezond verstand rondom AI. Is van... Verdiep je nou eens hoe AI echt werkt. Verdiep je nou eens hoe zo'n rekenregel werkt. Verdiep je nou eens hoe zo'n model werkt. Dat hoeft niet per se op basis van... hele extreme wiskundige stellingen. Maar dat ik denk van... Verdiep je nou eens hoe zo'n antwoord überhaupt tot stand komt. Want dat doen wij mensen ook. Ik zit nu met jullie twee en je voelt iets. En als je iemand hebt die je nog niet kent... Ik ken jullie net pas zeg maar. Dan ga je kijken hoe voelt zo'n persoon. We hebben een gesprek gehad hiervoor. Dan krijg je een idee bij zo'n iemand. Dat geeft een heel ander gesprek. Dat heeft te maken met dat we in een wereld leven waarin we ook... Je wil ook iemand kunnen vertrouwen. Er zit heel veel gevoel bij. En ik denk AI heeft dat niet. AI is gewoon koud. En ik denk van als jij AI wil toelaten in je bedrijf... maar ook voor jezelf. Je wil dat ondersteunen. Dan moet je weet hebben van wat het precies is dat je inzet. En ik denk dat het al helpt als je begrijpt dat het eigenlijk allemaal uitrekenen is. Daarmee onttover je denk ik al een hele hoop. Het zijn echt allemaal formules die uitgewerkt zijn. Die berekeningen uitvoeren. En die dan uiteindelijk dat wordt omgezet. In ChatGPT. In dit geval dan in woorden. In andere in voorspellingen. Maar het is allemaal wiskundig. Daar ben je zelf verschuldigd. Ik bedoel, ik weet ook niet hoe een auto precies werkt. Maar ik denk dat het ook wel een soort van technologie is. Dat je het ook kunt veranderen. En dat je ook kan veranderen. Je hebt een bron in je hoofd. Waarvan je zegt, als je daar begint... Uiteraard je boek hè? De onttovering van AI. We zullen het nog een keer noemen. Hij komt ook in die show notes uiteraard. Maar zou er nog een andere bron zijn... waarvan je zegt, hier krijg je echt inzicht in hoe er gerekend wordt? Ja, ik snap dat ik je hiermee overval. Nee, want ik ben aan het denken... aan de ene kant heb je de hele basisboeken... van algebra en calculus. Ja, maar daar haakt iedereen af. Ik denk dat wat ik zelf... Je hebt natuurlijk ook de boeken van statistical learning. Die gele Springer boeken. Wat is een bron op vandaag? Ik denk dat... Je hebt ook hele goede online courses. Courses van een Nederlands... Juist, juist. Maar ik denk dat... Ik heb niet één bron. Het kan ook zijn... Zoek een goed gesprek met iemand die dit doet. Die je er de hele dag mee bezig is. Die je dan even vertelt. Wat is jouw werk? Loot eens een dag mee. Wat doe je eigenlijk in principe voor werk? Hoe mooi. Wij staan in ieder geval altijd open. Als mensen vragen hebben, wil ik het altijd met alle liefde uitleggen. Sterker nog, je kan ook je vragen insturen. Dan leggen we ze voor aan een gast. Of wij antwoorden daar zelf op. Ik denk dat dat wel een hele mooie is. Inderdaad, een vragers-en-expert bij je in de buurt. Ik heb één boek. Wat me echt bijgebleven is. Dat heb ik twee jaar geleden gelezen. Dat heet 'Het spiegelpaleis van data'. Het spiegelpaleis van data. Dat is geloof ik Levien Nordeman. Dat is een geel boek. Dat ging over data. Wat ik zo mooi vond, hij beschreef een bepaald voorbeeld. Hoe kun je nou dingen leren? Dat was een casino gemaakt. Mensen konden naar een casino gaan. Ze hadden een casino nagebouwd. Mensen kregen elk vijf chips. Ze konden vijf chips op een roulette of blackjack of wat dan ook. Iemand die meer chips wilde, die kon dat voor elkaar krijgen. Hoe kon diegene dat voor elkaar krijgen? Dat was gewoon simpel. Eén chip was voor elk WhatsApp-berichtje dat je iemand liet lezen. Tien chips was bijvoorbeeld voor je laatste vijf foto's die je gemaakt had. Honderd chips was voor je pincode. Zo kun je het aantal chips in die roulette en casino vergroten. Maar de grap is dat dat is hoe het echt gaat. Data en algoritmes zijn onzichtbaar. Dus de taak die iedere persoon heeft, is om dat voor zichzelf zichtbaar te maken. Mooi. Mooie afsluiting. Dank je wel. Fijn dat je weer luistert naar een aflevering van AIToday Live. Wil je nou op de hoogte blijven van alle ontwikkelingen, maar ook kijk je achter de schermen van onze podcast, abonneer je dan eens een keer op onze nieuwsbrief. Link staat in de show notes. En wat ik zei, stuur vragen in. Je hoort het. We leggen ze voor aan de gasten en verantwoorden ze zelf. Dank je wel weer voor het luisteren. Tot de volgende keer. [Muziek]