Auteur Aaron Mirck: AI, voorbij de hype

Hoi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. In mijn eentje, nou niet in mijn eentje, ik heb een gast, maar Niels is er niet bij. Die is verhinderd, dat komt wel eens een keer voor. Maar in de studio hebben we vandaag Aaron Mirck. Aaron, welkom dat je er bent. Normaal gesproken vraag ik eigenlijk of de gast zichzelf eerst wil voorstellen, maar ik wil zelf eigenlijk eerst even over jou beginnen. En vooral namelijk, je bent auteur van het boek AI voorbij de hype. Ik lees best wel veel van dit soort boeken en ik was hier echt van onder de indruk. Niet omdat ik er zelf in sta, dat zou een beetje flauw zijn natuurlijk, maar het feit dat je het onderwerp van zoveel kanten hebt weten te belichten en daar zo ontzettend veel experts bij hebt weten te halen, maakte het voor mij in ieder geval echt een feest om te lezen. En dat wilde ik vast kwijt voordat we überhaupt beginnen. Thanks, dat is echt heel fijn om te horen. Dat was ook echt de doelstelling van het boek. Het AI landschap is zo gepolariseerd. Aan de ene kant heb je alle AI fans, je moet dit doen met ChatGPT en als je morgen er niet mee start, dan ben je overmorgen failliet. En aan de andere kant heb je de mensen die zeggen, nou dan moet je ver van weg blijven. En open AI en ChatGPT en co-pilot, dat is de duivel. En die twee groepen die spraken elkaar bijna niet. En ik dacht, nou die ga ik samen een plek geven in dit verhaal. En ik hoop dat je dat er ook hebt uitgehaald, dat het een inleiding is. Wat is dat AI en hoe kan je ermee werken? Het lijkt ook een beetje AI voor dummies, hopelijk. Ja, denk ik. Ja, maar misschien wat verder eigenlijk. Het is voor dummies, maar je wordt er ook echt wel wijzer van. Maar voordat we beginnen, misschien even kort je achtergrond en waarom je ook aan een boek zo bent begonnen. Ja, dus ik ben schrijver en spreker over technologie. En ik heb nu drie boeken hierover geschreven. Dit is mijn derde boek. Ik ben begonnen met een dichtbundel. Dit al grijpt me deugd niet. En verzameling tech-poëzie. En daarna heb ik een etikettengids geschreven. En niet appen tijdens het eten. Daar heb ik een TED-talk over gedaan, iets meer dan een jaar geleden. En ik was eigenlijk al best wel uitgekeken op het thema kunstmatige intelligentie. Ik vond het eigenlijk helemaal niet interessant. Maar ik spreek best wel vaak op evenementen. En daar hoorde ik gewoon zoveel onzin. Ik werd er zo verdrietig van. En het is een beetje hetzelfde als wat we met Facebook hebben gezien, denk ik, twintig jaar geleden. Iedereen die ooit een Facebook-account had met wat volgers, die was opeens Facebook-expert. En hetzelfde is nu aan de hand met AI. Iedereen die een beetje goed is met chat-GPT, die is AI-expert. Die zeggen dan dingen als "AI is neutraal". Of wat was er nog meer iets waar ik echt van schrok? Dat AI een bewustzijn heeft en dat we er bang voor moeten zijn. Dat Terminator-verhaal. Dat hoorde ik van mensen die heel serieus worden genomen in een vakgebied. Die je misschien wel zelfs kent van de televisie. En ik dacht, als dit het publieke debat is, dan verdienen we wel veel beter. Daarom ben ik dit boek gaan schrijven. Mooi. En heel erg noodzakelijk. Want het is net wat je zegt. Er zijn zoveel fantasieën over deze technologie. Dat gaat bijna je voorstellingsvermogen te boven. Wat ik zelf nog zou willen toevoegen. Ik hoor bijvoorbeeld ook heel veel mensen zeggen van "we gaan het klimaatprobleem oplossen met AI". Ja. Er staat hier ook een boek bij jou in de kast waarin dat inderdaad werd gesuggereerd. Ik ben halverwege en daarin wordt dat geopperd. Maar jongens, dat is echt heel veel CO2 uitstoot. Dat is echt heel veel klimaatimpact. Het gebruik van generatieve AI. En ik hoop dat we nu, we staan een beetje aan de vooravond volgens mij van de massaal implementatie van generatieve AI. Ik denk wel dat het eraan komt. Ik denk wel dat we er allemaal mee gaan werken. De vraag is alleen, kunnen we nog er kritischer op zijn? Kunnen we met z'n allen zeggen "we gaan het niet voor alles doen, we gaan het niet de hele tijd gebruiken en misschien moeten we dat ook niet met die big tech bedrijven doen die er toch wel meer belang aan hechten dat hun aandeelhouders profiteren in plaats van de maatschappij. Zeker. Er is heel veel aandacht voor de economische kansen van generatieve AI. Er is niet zo heel veel aandacht voor de maatschappelijke kosten. En dat hebben we 15, 20 jaar geleden met social media en smartphones. We hebben die boven een beetje gemist. Nu zijn alle kinderen smartphone verslaafd en burn-out of depressief. Of hebben ze een concentratieprobleem gechargeerd. Maar die boten hebben we gemist en de democratie ligt aan het diggelen. En nu kunnen we met AI, kunnen we misschien nog, want nog niet iedereen heeft ooit iets gedaan met generatieve AI, kunnen we dat debat nu gaan voeren. Ja. Nou, en ik denk, hartstikke belangrijk, van precies wat jij zegt met die social media. Ja, dat is echt wel een heel groot probleem. En het gekke is, het lijkt wel alsof we dit niet erg genoeg vinden. Want we zouden er wat aan kunnen doen. Toch? Is het zo? De vraag is ook, wat kunnen we er dan aan doen? Want er zijn wel alternatieven, maar die zijn toch meer aantrekkelijk dan de big tech platformen. Ja. Wetgeving loopt achter. Ja. En nou ja, ik zit dan met een paar tenen in die creatieve sector, want ik heb die dichtbundel geschreven. Dus ik kom dan op dat soort plekken waar andere makers, wat een lelijk woord, samen komen. Iedereen zit op Instagram. Terwijl dat platform, dat heeft helemaal niet het beste voor met makers. Dat is alleen maar de domme content pushen en advertenties verkopen. Maar toch zit de hele creatieve sector op Instagram. En was het niet ook, als ik het goed gelezen had, dat Meta nu had gezegd van de voorwaarden worden veranderd en alles wat je post gaat gebruikt worden om nieuwe modellen te genereren? Of te trainen? Ja, dus hoe goed kom je er vanaf als maker? Als alles wat je maakt weer nagemaakt gaat worden door AI? Ja, treurig toch? Ja. En laten we misschien toch nog even terug, want we gaan meteen de diepte in, dat ligt aan mij. Wat is volgens jou AI? Ja, nou dat ingewikkelde is dat er zoveel definities van zijn als mensen die zich ermee bezighouden. Wat ik interessant vond toen ik dit boek schreef, dat wist ik ook niet, is dat niet elke vorm van kunstmatige intelligentie zelflerende algoritme nodig heeft. Dat wist ik niet. Dus je kan AI zien als een computersysteem dat autonome beslissingen neemt. En dan is de autocorrect functie in Word ook een vorm van AI. En dat zien we niet zo. Dus ook al ben je niet eens verbonden met het internet, toch gebruik je kunstmatige intelligentie. Mind was blown. Oké, ja, zo zie je maar. Heb je daar ooit bij stilgestaan? Nou ja, ik zit natuurlijk al heel lang in dit vakgebied. En het leuke is namelijk dat dat steeds opschuift. In eerste instantie was natuurlijk, of in eerste instantie, er is een moment geweest dat gezegd werd, weet je, als we die schaakcomputer, als die de mens verslaat, dan hebben we de ultieme kunstmatige intelligentie gecreëerd. Daar moeten we nu om lachen, toch? Dus dat verschuift steeds verder. En het feit dat we zeg maar, dat iets taalherkenning doet en je correctie geeft op spelling, dat vinden we normaal. Je spamfolder, normaal. Dat is allemaal machine learning achter, AI. Ja, en de vraag is dus ook helemaal niet, ga je iets met AI doen? Maar de vraag is welke AI's ga je gebruiken? Ja. En dat is een belangrijke nuance waar we, het is geen toekomstmuziek, het is al overal om ons heen. En als je uitzoomt, zou je kunnen zeggen, het is ons venster op de realiteit. Want je haalt je nieuws van social media, toch, in grote mate. Je hebt een vraag, dan stel je die als eerst aan Google. Dus we leven eigenlijk niet zozeer in een tijdperk waarin AI is, we leven eigenlijk al in een AI-tijdperk. Dat denk ik ook. En dan is de vraag, deugen die algoritmes? Ja, wat vind je? Ik heb iemand in deze podcast, en ik ben het niet, hoorden vertellen dat de meeste algoritmes deugen. De meeste mensen, ja. Ik heb natuurlijk daar een korte aflevering over gemaakt. Juist omdat, heel snel zeg maar, algoritmes zijn slecht. Dus we horen natuurlijk alle problemen rondom, en terecht, rondom grote zaken. En dat doet het dan vermoeden alsof alle algoritmes discrimineren, slecht zijn. Niet alle algoritmes gaan überhaupt over mensen. Dus of jij in de voor… De autocorrect functie in Word. Ja, dat. Maar ook, weet je, tomatentelers selecteren de tomaten, hoe rijp ze zijn. Er zijn zo ontzettend veel algoritmes die wij niet zien. Dus wij zien het topje van de ijsberg, en van het topje van de ijsberg horen we natuurlijk voornamelijk wanneer het misgaat, waar we wat mee moeten. Maar ik denk inderdaad dat de meeste algoritmes niet zo schadelijk zijn. En daarin wil ik met je meegaan. Volgens mij heb ik je ooit ook horen zeggen dat je niet kan zeggen dat een algoritme deugt of niet. Want het is natuurlijk geprogrammeerd door iemand die bedoelingen heeft. Dus dan zou je moeten zeggen dat de algoritme-programmeur deugt niet. Ja, of de opdrachtgever. Uiteindelijk maak je iets met een doel, hoop ik. Ja, als het goed is. Ja, toch? Ja. Daar gaat het wel vaak mis. Maar in principe maak je iets met een doel. En als dat doel niet deugt, dan deugt ze direct dat algoritme dat eronder zit. Dat gaat zeker niet deugen. Ja. Toch lees ik vaak het technieuws en dan denk ik "dit algoritme deugt niet". En dan blijkt weer dat de meta gebruikt alle openbare foto's om zijn AI mee te trainen. Facebook filtert geen nepnieuws meer. We gaan gewoon kijken hoe ver we kunnen komen zonder contentmoderatie dit jaar. De helft van de wereldbevolking mag stemmen. Dan denk ik "dat algoritme deugt niet". Ja, en ik denk dan dat het doel van Facebook precies is wat ze willen. Dat je zo lang mogelijk blijft hangen, dat er zo veel mogelijk reuring plaatsvindt, dat er zo veel mogelijk polarisatie plaatsvindt. Daar hebben ze de algoritmes voor ontwikkeld. Dus ik ben het helemaal met je eens. Dat algoritme deugt niet. Maar het doel van Facebook deugt nog veel minder. Ja, en dan ben je wel een beetje een nuance-hooligan. Ja, dat klopt. Het idee van die titel was om het een beetje in een catchy phrase te maken. Dat we wat meer gaan nadenken over wat de drijvende kracht is achter de timeline die ik zie. Want je opent zo'n platform, of nou ja, jij en ik niet, maar de gemiddelde internetgebruiker opent zo'n timeline of gebruikt een zoekmachine zonder erbij stil te staan dat je in een filter bubble terechtkomt. Of dat je content ziet die gemaakt is om je zo lang mogelijk online te laten zijn. Mijn idee is dat er de afgelopen 20 jaar een debat op gang is gekomen over diversiteit, over duurzaamheid. Zelfs Shell noemt zichzelf een groen bedrijf. Hoe dan? En 20 jaar geleden was je een geitenwollen sok als je zei dat je iets voor het klimaat wilde doen. Dus dat is gelukt. En ik geloof dat we dat ook kunnen doen met technologie. Dat we iets moeten met technologie. En of dat nou is dat er strengere wetgeving moet komen, of dat je beter alternatieven moet krijgen, of dat we als maatschappij er wat vaker over moeten nadenken. Of dat we telefoontjes niet alleen uit de klas halen, maar dat we ook op het werk daar gesprekken over hebben. Daar gaat iets gebeuren. Ik denk dat we nu aan het begin van die ontwikkeling staan, dat die telefoontjes in ieder geval uit de middelbare schoolklassen zijn gehaald, geloof ik. Ja, deels geloof ik. Of basisonderwijs, die zijn uit klassen gehaald. Pim er niet op vast. Er wordt een gesprek gevoerd op universiteiten en op hoge en middelbare scholen over het chatgpt-gebruik, mag ik daar iets mee of niet. Ieder student gebruikt dat volgens mij. En laten we eerlijk zijn, had jij het niet gebruikt als je toen je studeerde in het geschiedenis was? Als student kies je de weg van de minste weerstand, toch? Ja, dat is denk ik... Dus er is nu wel een debat over die digitale middelen. En het recht op onbereikbaar zijn, dat zit in steeds meer cao's. Dus we staan wel aan de vooravond van verandering. Ik hou van de uitspraak 'de toekomst is een werkwoord', 'the future is a verb'. Dus als Elon Musk zegt 'we gaan met allemaal van die tunnels onder de grond gaan we reizen', dan denk ik als eerste 'gast, heb je ooit gehoord van een trein?' En daarna denk ik 'ja, maar deze meneer is de toekomst aan het maken, want hij schetst een toekomstbeeld'. Dus wordt het ook wel waarschijnlijker dat we die kant op gaan, want we hebben het erover. En daarom ben ik heel blij dat we het vandaag hier over gaan hebben, want ik denk dat we naar een toekomst kunnen gaan, waarin we minder macht bij big tech kunnen neerleggen, kritischer omgaan met technologie. En we niet alleen het uitwerking hebben van slimme technologie, maar ook slimme gebruikers. En dat laten we dan als stip op de horizon hebben. Nou, ik denk dat het ook hele mooi is. Eigenlijk zeg je ook van 'het raakt de hele samenleving'. Dus de samenleving moet nu uiteindelijk ook een lijn trekken van 'waar willen we uitkomen, waar willen we niet zijn'. Hoe kijk jij dan aan tegen de nieuwe EU AI Act? Ik hoor daar best wel veel mensen over die zeggen van 'ja, maar dit remt innovatie'. Als Europa komen we op een achterstand te staan. Amerika, China, die gaan ons voorbij. We verliezen dit. Het zou best wel eens ervoor kunnen zorgen dat er bepaalde oplossingen niet gemaakt worden. Maar de vraag is, vind je het fijn dat... Stel je voor dat je in een park rondloopt en je koopt een ijsje bij een ijscoman. En dat daarna die ijscomeneer de hele tijd achter je aanloopt. Dan ga je in je woonkamer toe, mee naar de wc. Dat zouden we heel raar vinden, maar op het internet is het de normaalste zaak van de wereld. En dan kan je zeggen... - De cookies, de trekking. Dan kan je zeggen 'ja, dat is innovatie'. Maar je kan ook zeggen 'dat is een gebrek aan privacy'. En dat is natuurlijk de Amerikaanse blik. De markt moet het doen en dan moet de overheid niet in de weg staan, want dan hou je innovatie tegen. In China hebben ze een hele andere kijk op. De overheid moet het doen, want dan weten we zeker dat het in lijn ligt met de belangen van de natie. Whatever that may be. En in Europa hebben we hopelijk nog een alternatief, namelijk de maatschappij. Dat ben jij. Dus zouden wij als maatschappij kunnen zeggen... Oké, we vinden het belang van burgers belangrijk. En we hopen dat er iets als het maatschappelijk middenveld... Public spaces is een heel goed voorbeeld. Dat er publieke alternatieven komen. En dat het niet zozeer vanuit de overheid komt en niet zozeer vanuit het bedrijfsleven. Maar dat er zoiets is als de maatschappij, Wikipedia. Ja, een heel mooi voorbeeld. Een Wikipedia-achtig internet in plaats van een Amerikaans of een Chinees internet. En dat zou ons exportproduct kunnen zijn. Het ingewikkelde bij generatieve AI is natuurlijk dat het te maken heeft met een hele grote verzameling data... en een hele grote behoefte aan rekenkracht. Dus ook een hele grote energieconsumptie. En de vraag is, hoe ga je dat dan op die manier maatschappelijk beleggen? GPT-NL, Mistral, dat zijn dan alternatieven die er aankomen, die er al zijn. Ja, Mistral. Ja, natuurlijk die Microsoft-investering. Ga je dan even beginnen? Ja, zeker. Ja, dus voor de mensen. Mistral is relatief open source. Daar komt een aflevering aan over hoe open source modellen zijn trouwens. Maar Mistral is een Franse open source model. Maar ze hebben het allergrootste, beste, duurste model nu gesloten gemaakt. De licentie afgesloten met Microsoft. En dat deel is sowieso niet meer open source. Ja, en dat is denk ik ook... Je loopt per definitie een beetje achter, want die andere grote AI-systemen hebben en miljarden aan investeringen, en al heel veel data verzameld. De vraag is, kunnen we misschien ook af met minder grote modellen? En dat zou dan een oplossing kunnen zijn. Ik geloof dat de Erasmus Universiteit in Rotterdam is bezig met een model. En er zijn wel wat initiatieven. Misschien hoeven we ook niet de hele tijd met een bazooka op een mug te schieten. Wat betreft generatieve AI. Chats, GPT, Copilot, kunnen alles een beetje goed. Misschien komt er hierna een golf van generatieve AI, die bepaalde dingen heel goed kan. Daar ben ik van overtuigd. Dus we gaan naar de small language models. Dus dat je eigenlijk gewoon experts meer krijgt. Dus als jij nu iemand wil inhuren, stel, ik hou er niet van om technologie te vermenselijken, maar het maakt het misschien de analogie wat makkelijker. Dus jij wil iemand inhuren voor het verbouwen van je huis. Dan ga je niet waarschijnlijk één inhuren die alles een heel klein beetje kan. Dan heb je het liefst dat je zegt, ik heb een architect die heel goed daarin is, en ik heb iemand die heel goed kan metselen, iemand die heel goed elektriciteit kan aanleggen. En daar gaan we veel meer naartoe, denk ik. Ja, en dat zou dan ook betekenen dat je minder rekenkracht nodig hebt, en minder grote data zet. Dus dat zou dan een alternatief kunnen zijn. Het ingewikkelde is dat je wel een beetje achter de feiten aanloopt. Ik had een stukje geschreven voor het FD vorige week. Is onze AI-achterstand misschien niet ook een kans om etische alternatieven te overwegen? Is er zoiets als de remmende voorsprong? Als we met z'n allen nu een soort vendor lock-in hebben bij CoPilot, dan wordt het heel moeilijk om straks zo'n small language model te gaan gebruiken, want je zit al in zo'n systeem gevangen. Dus misschien is het gewoon goed nieuws dat Nederland op een bepaalde manier tussen aanhalingstekens achterloopt. Dat vind ik wel een mooie kijk eigenlijk. En je had nog een mooie kijk, want je had ook geschreven een stukje over, want het gaat bij AI natuurlijk heel vaak over productiviteitswensen. Dus het gaat over demografische, gaan we veranderen, vergrijzen. En je hoort bijna van AI is daar ook weer de oplossing, generatieve AI is daar de oplossing, want we kunnen 30, 40 procent sneller werken met generatieve AI. Jij keek daar iets anders tegenaan, toch? Ja, AI is sowieso een oplossing op zoek naar een probleem. Dus niemand die tien jaar geleden zei, ik zou wel wat vaker gewoon met een druk op de knop een tekst willen genereren. Dat zei niemand ooit. Dus opeens hebben we dit en dan gaan we op zoek naar een use case. En dit is natuurlijk, het kan je productiever maken. Het kan taken automatiseren, ervoor zorgen dat we dingen niet meer zelf hoeven te doen. Maar de ironie is dat we juist op dit moment veel minder productief zijn geworden door AI. Wat blijkt? De gemiddelde Nederlander zit twee uur per dag op social media, tweeënhalf uur op zijn telefoon en is drie uur per dag bezig met e-mail. Dat is bijna een hele werktuig, digitale communicatie. Dat is eigenlijk krankzinnig. De oplossing is, laat die digitale media met rust. Als je, dus 80 procent van de kenniswerkers heeft zijn mailbox altijd openstaan. Dat is echt krankjorum. Laat dat gewoon met rust, check een paar keer per dag je mail. En tenzij je in sales werkt of bij de klantenservice, de wereld gaat door met draaien als je je mailbox wat vaker openstaat. Dat is echt niet erg. Ik ben vriend met een ondernemer, die heeft een paar mensen in dienst. Als die meteen teruggemaild worden, dan wordt hij boos. Ja, ik kan me dat voorstellen. Dan heb je niks beters te doen. En heel veel mensen willen dienstverlenend zijn en zijn dus maar aan die mailbox gekluisterd. Maar het zorgt ervoor dat we heel reactief worden en niet focussen op de dingen die we er toe doen. Dus de stelling van AI voorbij de hype is, AI is een hype die FOMO veroorzaakt. Dus iedereen wil iets met AI. Dat is echt het domste wat je kan zeggen. Je hebt een probleem en daarvoor zoek je een oplossing. Maar AI is ook overschaduwd tussen alternatieve oplossingen die goedkoper zijn, of ethischer of beter, gewoon simpeler. Omdat je per se AI wil, maak je het complexer dan strikt noodzakelijk. Dus we moeten productiever worden. Daar ben ik het helemaal mee eens. We besteden het minder mensen die werk doen, wat we gedaan willen krijgen. Je kan ook zeggen, we gaan mensen vertrouwen in plaats van controleren. En dan heb je een hele managementlaag die eruit kan. Kijk naar de toeslagen of verder. Je kan zeggen dat het ligt aan een algoritme. Maar dat is ontstaan omdat we een Bulgare fraude, zo heette dat destijds, dat is ook echt stigmatiserend, maar goed. We hadden een Bulgare fraude en toen zeiden we, dat wilden we niet, dus gingen we strenger controleren op toeslagen. Dus er werd een algoritme getraind en daarbij is uiteindelijk het criterium nationaliteit meegenomen. Wat natuurlijk niet deugt als algoritme. Zeker niet. Het besluit om het mee te nemen. Ja, dat deugt inderdaad niet. Dat is uit New Orleans Hooligan. En de context is, we vertrouwen in mensen niet en we accepteren niet een kleine marge van fraude. Wat misschien ook inherent is aan een samenleving of een systeem of wat dan ook. Want de data liet dat gewoon zien. Ik weet het niet meer uit mijn hoofd, maar het lag geloof ik ergens tussen 1 en 2 procent of zo, die fraude. Daarvan weten ze gewoon van, dat is bijna niet terug te dringen. Dat heb je gewoon met toeslagen en uitkering en dat soort zaken. Maar het zou en het moest. En de uiteindelijke kosten voor de toeslagen en verder, behalve gewoon mensenlevens, zijn miljarden. Dus dat als voorbeeld. Maar het is natuurlijk, dat hele productiviteitsvraag is heel urgent. Want er zit een generatie, die gaat met pensioen nu, die heel groot is op de arbeidsmarkt, niet genoeg nieuwe aan was. Ook een politieke keuze trouwens. En dus, moeten beschikbare krachten productiever worden? Nou, je kan anders omgaan met huidige digitale middelen. Maar je kan ook een heleboel banen gewoon ermee ophouden. We hebben heel veel bullshit banen. En bullshit taken ook gewoon. Ik denk dat iedereen wel taken, als je nu even nadenkt, je denkt van ja, A je hebt er geen zin in, B het levert niks op. En toch doe je ze. Dus dan kan je straks nog sneller een bullshit taak doen, in plaats van dat je hem weghaalt. En dan vraag ik me af, hoe intelligent is het werken met AI dan echt? Wat is jouw antwoord? Nou ja, dat schemert hier toch wel doorheen. Ja toch? Dus de stelling van het boek, als ik het moet samenvatten in één zin, is AI is een tool en geen doel. En het kan je helpen om een bepaald probleem op te lossen. En ik zie ook echt heus wel wat nut in. En ik vond die use cases die gedeeld werden echt heel mooi en heel waardevol. En ik zie de toegevoegde waarde, maar waar ik me echt mateloos aan erger, en waar ik ook echt heel erg verbaasd over ben, is dat er heel veel trendwatchers heel veel geld verdienen in Nederland, die gewoon de industrie napraten. En je hebt gewoon een onafhankelijke rol als expert. En het zijn gewoon voorbeelden die uit keynotes komen van Apple en Google en Microsoft. We hebben de hele IBM Watson hype hebben we gehad, waarvan bleek dat het uiteindelijk alleen maar een hele grote marketing sales machine was van IBM. Dus zij zouden kankerbehandelingen uit alle diagnoses die er ter wereld waren, alles wat er over geschreven was, zij zouden dat wel even oplossen. Dat is niet helemaal gelukt. Ja, en dat heeft dus, en dan vraag je je misschien af waarom maak ik me daar zo druk om, nou dat heeft dus gevolgen voor de echte wereld. Dus ik had een boek van Kurt Kikkerenser, een bioloog uit Amerika, en die vertelde dus dat hij door de Nederlandse Kankerstichting gevraagd was om mee te denken over kanker in Nederland. En hij ontdekte dat de helft van de gevallen van kanker in Nederland te maken hebben met leefstijlkeuzes. Dus eten, drinken, roken, sporten. Dus als je dan jonge mensen op hun vroege leeftijd leert om gezonder te leven, los je dat probleem op. Wat gebeurde er? Het Nederlands Kankerinstituut zei, ja we willen toch iets met AI. Maar wat ga je dan doen? Ga je dan nog betere data-analyses doen? Wat schiet je ermee op? De oplossing is natuurlijk mensen voorlichten. Dat is dus de helft van de gevallen, dat heb je uitgerekend. De andere helft van de gevallen los je daar niet mee op, maar dit is gewoon een heel significant getal. En daar maak ik me dan druk om. Ja, terecht denk ik. Nee zeker, helemaal. Wij zitten wel bijvoorbeeld in een onderzoeksprogramma met het Radboud Universiteit, en daar kijken we naar gepersonaliseerde nabehandeling van kankerpatiënten. Nu gaat dat heel erg volgens protocol. Dat is gewoon, als je op dat moment je laatste Q hebt gehad, zoveel weken daarna krijg je dit ene. Zo ligt dat eigenlijk helemaal vast. En dan word jij als mens, wat jij belangrijk vindt in je leven, wordt daar dan eigenlijk niet in meegenomen. Mensenkwaliteit van leven wordt daar niet in meegenomen. En ik denk dat juist mooie oplossingen zijn van hoe zorg je nou dat die AI de mensen gaat helpen. Dat je het versterkt, dat wij niet per se dezelfde behandeling krijgen, maar dat die op ons is afgestemd van wat wij zelf belangrijk vinden. Ja, en dat is het, de nuance. Er zijn heel veel toepassingen die heel waardevol zijn. Het is niet zo zwart-wit. Er zijn use cases, er zijn voorbeelden, er zijn allemaal handige dingen die je kan doen met AI, wat je tijd bespaart, wat ons productiever maakt, wat ons als maatschappij verder brengt. Alleen het idee dat technologie voor alles de oplossing is, dat is zo… Ik hoop echt dat we het een beetje aan het begin van deze eeuw achter ons kunnen laten, en dat we verder kunnen. Ik denk dat het heel moeilijk is hoor. Ik kom natuurlijk ook heel veel bij klanten, ook inderdaad, die graag met AI aan de slag willen. En dan stellen we ook dit soort kritische vragen. Van, wil je het wel? Wat lost het op? Welk doel wil je bereiken? En in heel veel gevallen hoeft het helemaal niet met deze technologie. Want, even een soort disclaimer, ik heb je natuurlijk geïnterviewd voor dit boek. En het voorbeeld wat je daarin deelde over het algoritme voor die sollicitatieprocedure, dat vond ik zo mooi. Ja, dus een groot uitzendbureau kwam met een aantal cases bij ons, waaronder de kijken of we de beste match konden maken tussen mensen uit hun bestand en de vacature die binnenkwam. Ik moet zeggen, dat hebben we niet afgewezen vanwege dat we zeiden, ja, daar moet je een andere technologie voor gebruiken. Die hebben we juist afgewezen, omdat we hebben gezegd, daar moet je überhaupt geen technologie voor gebruiken. Dat levert je zoveel problemen op. Dat gaat discriminatie veroorzaken. Je gaat mensen schaden. De kans zelfs dat je je doel bereikt, wat je zou willen, is denk ik ook heel erg klein. Dus daarvan hebben we gezegd, wij doen dat in ieder geval niet. En dat vond ik nog zo verbazingwekkend. Je hoeft niet eens expliciet te filteren op etniciteit of geslacht of wat dan ook, toch? Nee, zeker niet. Er zitten allerlei indirecties in data, waardoor je problemen krijgt, waardoor je weet of iemand man of vrouw is, of wat eventueel een etnische achtergrond is. Je kan je voorstellen, als je gewoon een buitenlandse naam hebt, dan is het een heel belangrijk onderdeel van je leven. En dat is ook een van de grote problemen. En worden je programmeurs ook een beetje... Dat is ook een voorbeeld uit de literatuur. Dat je afhankelijk wordt van die technologie. Dat je van kids of co-op pilot afhankelijk wordt... en zelf minder goed kan coderen. Dat moeten wij nog zien. We zitten natuurlijk in die zin best wel in een vroegtijdig stadium. Niet iedereen mag het bij ons gebruiken... omdat wij voor klanten werken en die AI-beleid hebben. Wij willen dit niet. Dus dan hebben ze daar gewoon geen toegang toe. Niet zoals studenten dat je dat stiekem toch ergens wel doet. We hebben daar gewoon zware contracten onder zitten. De overheid lijkt me een partij die daar heel sterk op zit. Ja, maar ook banken, verzekeraars. Vanuit eigenlijk best wel heel veel bedrijven... die zijn eigenlijk nog bezig met het ontwikkelen van AI-beleid. En dan begin je natuurlijk met... of ik weet niet of het natuurlijk, maar zij beginnen met verbieden. En stap voor stap gaan ze dan kijken van... hoe zouden we het toe kunnen laten? En wat laten we dan toe? En met welke leverancier laten we dat toe? Dus ik denk dat dat ook best wel een hele goede weg is. Maar wij zijn wel aan het nadenken... want je moet natuurlijk over drie, vijf jaar kijken... van wat nou als de studenten die informatica hebben gestudeerd... voornamelijk geprogrammeerd hebben met dit soort tooling... hoe krijgen wij die nou op een niveau... die voor ons belangrijk is? Ja, want dat is een ander vraagteken bij die AI-revolutie. Komen we niet in een tijdperk terecht van slimme technologie en domme gebruikers? En wat blijkt nou? We kunnen zelf steeds minder goede weg vinden... want we hebben allemaal GPS-technologie. Onze gevoel voor spelling en grammatica holt achteruit van autocorrect. En nu zijn we teksten of code aan het genereren. De vraag is, worden we dan steeds minder goed in schrijven, in coderen? En zou je dan ook kunnen zeggen, worden we steeds minder goed in denken? Mogelijk. En in ieder geval bij het programmeren... is denk ik wel een hele mooie analogie met niet meer je route kunnen bepalen. Stel, ze zouden je blinddoeken ergens midden in het bos zetten... en je komt er niet meer uit met je routeplanner. Dus je moet dat zelf doen. Je kan geen kaart meer lezen, je kan helemaal niks. Softwareontwikkeling bestaat eigenlijk uit het oplossen van fouten. Schrijven van code, heel gesorgeerd, is niet zo moeilijk. Hoe vind je de fout? En hoe lus je de fout op? En als je dus in die zin niet meer kan kaart lezen... hoe kom je dan uit dat dolhof? Daar maken wij ons wel een beetje zorg over. Ja. En merk je dat nu al? Dat er mensen afstuderen en dat ze minder vaardig zijn dan vijf jaar geleden? Nee. Ik moet zeggen dat dat nog niet zo is. Ik denk dat de studenten het meest gebruiken voor het schrijven. Dat vinden ze natuurlijk het minst leuk. En je bent hopelijk de studie gaan doen omdat je programmeren heel leuk vindt. Dus we zitten eerder nog aan de kant dat er wat weerstand is. Dus dat is wel fijn. Maar ik ben toch beter dan die machine. Maar daar zal ook een verloop in gaan komen. Ik las ook een voorbeeld dat piloten bijvoorbeeld nog maar één tot vier minuten per vlucht vliegen. Ja, bizar. Dat betekent dus wel dat er steeds minder ongelukken zijn. Maar piloten kunnen dus ook steeds minder goed vliegen. Vroeger waren er veel meer ongelukken, maar konden piloten ook veel beter vliegen. Dus als er iets was, dan liep het vaker goed af. Als er nu iets is en de automatische pilot het niet kan oplossen, dan is de kans groter dat je gewoon een bokje bent. Dat is geen fijn idee. Het zegt ook iets over autonomie en over de relatie mens-machine. Dat we steeds afhankelijker worden. En er was een Netflix film, ik geloof het 'Einde van de wereld' of zo, waarin alle Tesla's op elkaar inrijden. Ik kan me er iets van voorstellen. Een soort van cyberaanval op Amerika is het, geloof ik. En er is dan een scène waarin een man zijn klusjesman aanbelt en zegt "Ik heb medicijnen nodig voor mijn zoon." Want die heeft dan een van de... Nou ja, dat was ook helemaal niet bereikbaar. En dan zeg ik "Zonder technologie kan ik gewoon niks." "Ik ben gewoon waardeloos als mens." Ja, maar dat is precies waar we nu op afsteven. Dat betekent niet dat je helemaal niks moet doen met AI of niks met technologie, maar er zit wel een bepaalde schoonheid in vaardigheden. Hetzelfde geldt voor het taalgevoel. We kunnen steeds meer dingen live vertalen. Ik ben heel jaloers op oudere vrienden die ik heb die gewoon een boek in het Duits kunnen lezen. Dat is toch een ervaring die mijn generatie al bijna niet meer heeft, maar die generatie na mij gaat dat al helemaal niet meer lukken. Want het is gewoon twee uur TikTok per dag. Ja, maar soms is het ook wel... Ik doe even de advocaat van de duivel. Dit waren natuurlijk ook alle argumenten van de introductie van de rekenmachine. Volgens mij schrijf je ook in je boek zelfs de introductie van het schrift. Daar werd van gezegd dat daar wat dommer van zou worden. We zijn natuurlijk wel altijd geneigd om vooral te kijken naar wat er misgaat. Of misgaat, ik weet niet of misgaat, maar iets waar wij nu heel veel waarde aan hechten, dat dat verdwijnt en dat dat zoveel waarde heeft dat iedereen dat zou moeten houden. Ja, loss aversion. Dat is dat we bang zijn om te verliezen wat we hebben. Dat weegt zwaarder dan wat we kunnen krijgen. O, zo. Dus dat is een psychologisch effect. Dus het klopt helemaal wat je zegt. Daar heb ik een moeilijk woord voor. Dat is het goede nieuws. Dus we zijn bang dat we, en dat weegt zwaarder in onze besluitvorming dan wat we kunnen krijgen. En dat lijkt te kloppen, alleen kunnen we volgens mij niet altijd overzien wat we gaan verliezen. Dus dat is een belemmering. We hadden niet kunnen voorzien wat we de afgelopen 15 jaar zouden verliezen. De helft van onze vrije tijd gaat op aan schermen. Niet aan de sport, maar gewoon Netflix en Instagram. En ondertussen hebben we geen tijd voor vrienden, familie, sport, hobby's noem het op. Dus we kunnen het volgens mij niet goed overzien. En ten tweede, dom, daar ben ik een beetje op mijn vingers getikt. Want het is heel normatief. Wat is slim, wat is dom. Maar het is toch ook zo dat we steeds minder dingen onthouden sinds we dingen op papier kunnen zeggen. De vraag is, is het erg? En dat is normatief. Maar er zit natuurlijk ook een schoonheid in dat je een heel verhaal uit je hoofd kent. Of dat je een soort orale traditie. Het is wat minder handig als je wil dat je beschaving voortleeft. Omdat je kennis kan opschalen of reproduceren. Dus er zitten ook echt wel nadelen aan het niet te hebben van het schrift. De boekdrukkunst is in dat opzicht toch ook het begin van de verlichting. Zeker, ik zou niet weten wat ik zou moeten zonder boeken in mijn leven. Als auteur kan ik dit alleen maar beamen. Maar er zit altijd een trade-off met de komst van nieuwe technologie. Er komt iets goed, maar het kost ook iets. En de uitvinding van de rekenmachine zorgt ervoor dat we minder vaak zelf rekenen. En er minder goed in worden misschien. Is dat heel erg? We bestaan nog steeds en dat gaat op zich prima. Ja, en je rekent nog steeds keurig af bij de kas, zaten we op de cent nauwkeurig. Ja, daar ga je vanuit. Ja, maar ik reken het zelf niet. Er was toch iets aan de hand bij een grote supermarkt dat er wat te hoge bedragen op de rekening stonden uiteindelijk. Oh, dat heb ik niet meegekregen. Ja, pin me er niet op vast, dan krijg ik vast een lasterrechtzaak aan de broek. Dus ik noem ook even geen namen. Maar goed, dit ter overweging. Je triggert me in die zin, dat schrijf je ook wat over volgens mij in het boek. Is dat er natuurlijk ook vormen zijn van oplossingen waar het predikaat AI op zit, terwijl er eigenlijk gewoon gebruik wordt gemaakt van mensen? Dus dingen als de Mechanical Turk, of ik haal dingen door elkaar. Ik heb het zelf ook meegemaakt toen ik een startup had. En dit is wat heel veel techbedrijven, vooral als ze beginnen zeggen, is "ja nee, dat hebben we geautomatiseerd". En aan de achterkant zijn dat gewoon hele goedkope arbeidskrachten. En dat duurt heel lang totdat die technologie klaar is en er genoeg vraag naar is. En je kan er eigenlijk wel vaak van uitgaan dat het toch gewoon vaak hele slecht betaalde mensen uit het globale zuiden, arme Indiërs, dat is ook waar je AI voor kan laten staan. En dat is misschien stigmatiserend en ik word vast gecanceld als ik het zeg, maar dit is ook gewoon vaak de praktijk. En dat roept de vraag op hoe transparant die bedrijven zijn. En ook hoe die hype van AI ook ervoor zorgt dat we alles maar AI noemen. Dus de Jumbo zei van "we hebben nu camera technologie, AI beveiliging". Ja, van die zelfscankassa's. Ja, maar met camera's in de hele winkel. En dan hoefde je geloof ik niet meer langs een zelfscanner, dan werd het automatisch afgeschreven. Er werd veel meer gesurvieerd. En dat verkochten ze dan aan de pers als een AI innovatie. Maar het was gewoon surveillance technologie. Dit was gewoon Big Brother 1984, dat was het. En dat kunnen we dan AI noemen, maar dat is niet sluitend. Ik zou Hitler ook niet als een vegetariër beschrijven. Of de moeder van Jezus als een alleenstaande moeder. Met een ongewenste zwangerschap. Nee, dat is wel een goede. Hey Aaron, we hebben ook een virtuele co-host. En zij wil je ook altijd graag een vraag stellen. Het is een plezier om deel te nemen aan dit gesprek. Ik ben Aisha, de AI hier. Zou ik je een vraag mogen stellen? Ja. Hoe kan AI zo ontworpen worden dat het vrouwen empowert en ondersteunt? De vraag is "empowered". Dat wordt een beetje moeilijk uitgesproken. Hoe kan AI zo ontworpen worden dat het vrouwen empowert en ondersteunt? Ik heb twee bezwaren met deze vraag. En geen antwoord. Het eerste bezwaar is dat we in de hele tech-industrie focussen op kenmerken waar je niet voor kiest. Zoals gender en etniciteit. En er is een probleem met vertegenwoordiging. Maar ik mis echt het perspectief van de zeven vinkjes in de tech-industrie. Een Theoretisch opgeleide autochtone Nederlander uit een milieu waarin de ouders niet hebben gestudeerd, zonder, met 4 of 5 vinkjes, die komt ook niet boven te drijven. Ik heb bij heel veel start-ups in de keuken gekeken waarin beslissingen werden genomen over de Hengst en Ingrid van deze wereld, waarin die niks te zeggen hadden. Dus er werden allemaal banen opgeknipt in flex-contracten en platform-economie. Dat zijn gewoon mensen hun banen. Dat is zingeving. En dan maakt het eigenlijk niet zoveel uit of een vrouw of een man die beslissing neemt. Dit is gewoon disruptie van de markt waar mensen echt last van hebben. En wat echt impact heeft op de realiteit van mensen. Dus laten we alsjeblieft verder kijken met alle respecten wat iemand in zijn of haar onderbroek heeft zitten. Tuurlijk moeten we vertegenwoordiging hebben van zoveel mogelijk perspectieven, maar laten we ook verder kijken dan alleen dat. Het draait ook om zoveel meer factoren dan alleen gender en etniciteit. Het draait ook om al die andere vinkjes die Joris Leijen Dijk volgens mij heel goed beschrijft. Dus dat ten eerste. En ten tweede, waarom hebben we het alleen over AI in deze context? Waarom hebben we het niet over kinderopvang en belastingvoordelen? En over alle wetgeving en regelgeving die er is in Nederland. Waarom moeten we het hebben over technologie? Empower vind ik ook een geuk van. Maar het is beter dan in hun kracht zetten. Dat moet ik Aisha wel nageven. Misschien is het ook mijn gebrek aan toepassingen van AI, maar mij schiet niet zo snel iets erbinnen. Heb jij een idee hoe AI vrouwen kan empoweren? Oh ja, ik zat natuurlijk ademloos naar je te luisteren. Moet ik er heel even over nadenken. Nou ja, ik denk dat het in ieder geval wel heel belangrijk is. Ik ben het met je eens. Het gaat niet per se over vrouwen, maar ik denk dat we wel meer perspectieven nodig hebben dan die we op dit moment in de technologie hebben. Ik denk dat technologie wel een behoorlijk westers feestje is. Ook wel veel mannen uiteindelijk. Dus ik denk wel dat er meer diversiteit en hoe je dat dan invult, dat weet ik ook niet zo goed, dat wel heel erg nodig is. Wat wij natuurlijk wel zien, de AI machine learning modellen draaien op basis van data. En die data is wel historische data. En in die historische data zijn witte mannen wel oververtegenwoordigd. Dus we moeten wel iets, of dat dan technologisch is, dat je iets aanpast of dat je het sociaal maatschappelijk aanpakt. Maar er moeten dingen veranderen om dat recht te krijgen, zodat je zo direct ook eerlijke, betrouwbare, robuuste modellen krijgt voor iedereen. Je vertelde een kwartiertje geleden dat je niet een vacature AI scanner wilde bouwen voor een grote uitzender. Ja. Maar dan gaan we nu toch die modellen aanpakken. Ja, dat is heel goed. Kijk, uiteindelijk, niks is zwart-wit. Je noemde me net, hoe noem je dat? De nuance-hooligan. Kijk, er is aan de kant van de dataselectie natuurlijk heel veel te doen in hoe je die data kneedt, hoe je dat aanpakt, hoe de vertegenwoordiging eruit ziet. En als we dat voor elkaar krijgen om dat goed en eerlijk te verdelen, er zijn allerlei technische metrieken voor, dus dat je je data gewoon goed op analyseert, je kijkt of er geen meerderheidsgroepen zijn, geen minderheidsgroepen. Zou iemand uit de minderheidsgroep en de meerderheidsgroep hetzelfde antwoord moeten krijgen, dezelfde classificatie, daar kan je allemaal op testen. Maar er zijn echt wel technologische manieren waarop wij erachter kunnen komen of een zo eerlijk mogelijk model hebben. Als we van tevoren weten van dit gaat het niet worden, dan wijzen we het af. Maar dat is wat anders dan, want anders zou je geen model meer kunnen maken die invloed heeft op een persoonlijke levenssfeer. Dit zou dan een oplossing kunnen zijn. En toch voelt het ongemakkelijk om meteen weer naar een technologische oplossing te grijpen. Dat is natuurlijk ook het deel waar wij in zitten. Maar het goede nieuws is dat we het wel kunnen meten, dat we er aandacht voor hebben. En helaas, juist bij de gevallen die je in het nieuws ziet, is daar zo weinig aandacht aan besteed. Wat zou je dan willen meegeven aan die mensen die dat soort systemen bouwen? In mijn beleving hoort dat als je professioneel werkt, horen dit soort dingen erbij. Dus als jij alleen maar wil zo snel mogelijk een model bouwen, een blackbox model, waar je niet in kan kijken, waar je dit soort vraagstukken niet uit kan krijgen, wat mij betreft stap je gewoon uit deze sector. Ga weg. Maar als je dit professioneel aanpakt, je zorgt dat je de ethische kant bekijkt, dat je technologisch gewoon je dingen op orde hebt, dat je veel monitoort. Dus als wij modellen in productie hebben, zorgen we ook dat we in de gaten houden van blijft die doen wat die zou moeten doen? Want ze kunnen ook een klein beetje gaan afwijken. Er komt ontzettend veel bij kijken om uiteindelijk gewoon een goed AI systeem te bouwen. Is dat een beetje of preek ik dan te veel voor eigen paroche hier? Nee, ik vond het ook wel een mooie oproep. Stop, hou op. Ja, ja. Ik hoop dat er veel mensen die nog daarmee bezig zijn, die naar luisteren en je advies opvolgen. Kijk, hartstikke mooi. Aaron, ik wil heel graag afsluiten met het boek uiteraard. Ik denk dat het een mooi vermeldenswaardig is dat je een hele tijd op nummer één hebt gestaan in het management boek top 10. Dat is een mooie, hoe zeg je dat? Ik kan het Nederlands woord even niet vinden. Achievement. Prestatie. Prestatie, ja. Mooie prestatie. Waar kunnen ze je boek bestellen? Het is te koop in elke boekhandel. Het kan zijn dat ze het niet op voorraad hebben, maar dan kunnen ze het voor je bestellen. Je kan ook naar mijn website, aaronmerk.com, daar kan je het ook bestellen. En daar, ja, zoals zei, moet ik het kunnen vinden. Ja, je hebt een opname gemaakt van de boekpresentatie, waarin je ook zeg maar het eerste deel gewoon zelf presenteert. Ik kan het alleen maar aanbevelen, omdat je daar ook een heel mooi verhaal hebt van hoe je naar AI kijkt. En vooral eigenlijk zegt van het is een tool en geen doel. En ja, ik zou eigenlijk iedereen willen oproepen om gewoon een boek te kopen, lezen. Toch? Heer, heer. Ja, hartstikke bedankt dat je hier in de studio wilde zijn. Ik vond het leuk, want we hebben best wel heel veel interactie gehad met met vragen. Je hebt mij ook uitgedaagd. Vind ik heel erg fijn. Dank je wel daarvoor. En ja, dus nogmaals, AI voorbij de hype is het boek. Gele voorkant, kan niet missen. Koop het, lees het en leer er vooral heel veel van. Dank je wel. Fijn dat je luisterde naar deze aflevering van AIToday Live. Vergeet je niet te abonneren via je favoriete podcast app en dan mis je geen aflevering. Dank je wel weer. Tot ziens! [Muziek]