Slim, Slimmer, Slimst: Het ABC van Kunstmatige Intelligentie

Hoi, leuk dat je weer luistert naar een nieuwe aflevering van de podcast AI Today Live. Met vandaag, daar ben ik echt heel erg blij om, Bennie Mols, wetenschapsjournalist en schrijver van het boek Slim, Slimmer, Slimst. Ik heb er al wat over geschreven op LinkedIn, dus ik ben zo blij dat je er bent Bennie, we hebben een hoop vragen voor je. Mijn naam is Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, chapter lead, Data & AI bij Infosport. Ja, dus Bennie, nogmaals welkom. Dankjewel, leuk om hier te zijn. Zou je je willen voorstellen aan de luisteraars? Natuurlijk. Ik ben Bennie Mols. Ik werk als freelance wetenschapsjournalist. Inmiddels 21 jaar. En sinds 2010 specialiseer ik mij in AI, kunstmatige intelligentie en robotica. Daar heb ik een aantal boeken over geschreven in 2012, Turings Tango. Dat was een heel interessant jaar, want dat is het jaar dat eigenlijk machine learning doorbrak. Ze stonden in mijn boek nog dingen die eigenlijk een jaar later achterhaald waren. En dan heb ik dit jaar inderdaad mijn nieuwe boek 'Slim, slimmer, slimst' geschreven. En ik schrijf artikelen onder andere voor NRC Handelsblad. Ik heb veel radiowerk in het verleden gedaan voor de publieke omroep. Ik geef lezingen over AI. Ik werk ook wat voor internationale opdrachtgevers. Bijna altijd over AI en robotica. Ja, precies. En ja, dat boek, ik begon natuurlijk al een beetje lyrisch. Moet je opletten dat ik geen fanboy van je word. En dat heeft te maken met, er wordt zoveel onzin geschreven over dit onderwerp. Daarom zou ik aan jou willen vragen van, wat is nou volgens jou kunstmatige intelligentie? Zoals jullie vast wel weten, maar ik weet niet of alle luisteraars het weten, kunstmatige intelligentie in de vakgebied dat zo'n beetje ontstaan is een jaar of tien nadat de computer werd uitgevonden. Officieel 1956. En eigenlijk is er altijd discussie geweest over wat is nou een goede definitie van kunstmatige intelligentie. De definitie die ik graag kies is er eentje die teruggaat op een van de pioniers van dat vakgebied, Amerikaan Marvin Minsky. En die zei van kunstmatige intelligentie is eigenlijk dat je machines dingen laat doen die intelligentie zouden vereisen wanneer mensen dat zouden doen. Dus een mens die praat, een mens die leest, een mens die een rekensom oplost. Daarvan zeggen we die doet een intelligente taak. Wanneer je een machine ontwikkelt die ook zo'n taak kan doen, dan heeft die in ieder geval een vorm van intelligentie. En volgens mij de begripsverwarring die af en toe optreedt bij een breder publiek, dat ze automatisch denken dat die machine intelligentie exact hetzelfde is als menselijke intelligentie. Of dat als een machine maar een klein onderdeel kan van wat mensen kunnen, dat het geen intelligentie is, want mensen kunnen zoveel meer. Maar in mijn definitie is een machine die jullie gezichten kan herkennen, die heeft al een vorm van intelligentie. Precies. Ja ik denk Ik vind het heel mooi dat je zegt, je had het al aangemerkt in het boek, dat je zegt, het voert iets uit waar menselijke intelligentie voor nodig is. Het heeft niets te maken met dat die machine dan per se heel erg intelligent is. Het boek heet Slim, Slimmer, Slimst. Hoe slim vind je kunstmatige intelligentie? De titel heb ik gekozen omdat je hem eigenlijk op twee manieren kunt opvatten. Je kunt hem opvatten als machines die steeds slimmer worden. Slim, slimmer, slim. Je kunt ook, en dat is eigenlijk mijn voorkeurs, kijk op dit. Je kunt ook zeggen van die machines die maken ons slimmer. Wij kunnen meer met die machines. En een van de belangrijke boodschappen in mijn boek is om kunstmatige intelligentie toch vooral te zien als een aanvulling op wat wij kunnen. Maar er zijn allerlei dingen waar wij helemaal niet zo goed in zijn. Dus als machines ons daarbij kunnen helpen, Dan zie ik dat als vooruitgang, als een stap vooruit. Ja, precies. Die tweede, dat is bij mij blijven hangen inderdaad. Het stukje van, we kunnen slimmer zijn. We zijn slim, maar we worden slimmer als we het ook gaan inzetten... om ons te ondersteunen als hulpmiddel. Ja. Ja, erg leuk gevonden om die titel zo te maken. En het gekke is, dat was de rekenmachine natuurlijk ook. Die kan ook veel beter rekenen. Veel nauwkeuriger dan dat wij dat doen uit ons hoofd. Dus hoe fijn is dat, dat je dat als hulpmiddel hebt. Alleen daar hebben we weinig fantasie bij, die we wel natuurlijk hebben bij kunstmatige intelligentie. Het interessante is dat je ook bij de rekenmachine zag je allerlei zorgen ontstaan over mensen gaan een machine gebruiken om te rekenen. Straks kan niemand meer rekenen en tot op zekere hoogte is het natuurlijk zo dat de rekenmachine ervoor heeft gezorgd dat we minder goed kunnen hoofdrekenen dan een paar generaties voor ons. Maar aan de andere kant, het heeft dus voor zo'n ontzettend grote versnelling gezorgd in hoe je rekenkundige informatie verwerkt, dat de slotbalans is denk ik positief. En dat hoop ik dat we dat met AI ook kunnen bewerkstelligen. Ja, zeker. Want dat wisten we bij de rekenmachine eens ook niet. Nee, nee, precies. Sterker nog, de filosoof Plato maakte zich nog veel langer geleden al zorgen over de introductie van het schrift, dat dat ervoor zou zorgen dat mensen niet meer ze heel goed dingen zouden onthouden. En ook dat klopt. Zeker. Maar ook daarvan kun je zeggen, ja, dat schrift heeft voor zo'n enorme versnelling gezorgd in verspreiden van kennis. Uiteindelijk is dat een enorme winst voor de hele maatschappij over de hele wereld. Ja. Voor mij was dat trouwens wel één van de inzichten. Kijk, ik zit natuurlijk ook vrij diep in deze materie. Dus ik heb het met heel veel plezier gelezen. Vooral omdat ik het uit de ogen heb gelezen van iemand die meer wil weten over kunstmatige intelligentie. Maar ik heb er zelf een aantal dingen uitgehaald. En een daarvan was deze van dat in de tijd van Aristoteles. Ja, Plato. Die maakte zichzelf over het schrift inderdaad. Ja, Plato. Sorry. Dat het al zo ver terug gaat dat mensen eigenlijk een bepaalde angst of doenbeelden hebben... bij verandering en verandering van technologie. Ja, ook. Maar ook was ik er eigenlijk blij om dat te constateren. Eigenlijk hoe wij als mensheid daarop kunnen acteren, daarmee om kunnen gaan. Dus we zijn ook gewend om mee te veranderen als we er voor open staan om inderdaad dark mind of in ieder geval ook met die negativiteit toch door te kunnen gaan. Ja, dat was voor mij in ieder geval een van de fijne inzichten. Uiteindelijk komen we daar wel overheen over die angsten, toch? Ja, interessant is trouwens dat in de jaren zestig was er echt een beweging van wetenschappers die heel erg focust op die samenwerking tussen mens en machine. En op een gegeven moment is er een beetje een omslag gekomen waarbij het steeds meer ging over die machine zelf die steeds slimmer moest worden en toen kwamen ook de zorgen van gaat die machine dan de mens helemaal vervangen. Maar dat samenwerkingsaspect is iets wat mij heel erg aanspreekt en wat denk ik zowel voor toepassingen in bedrijven als ook voor toepassingen door overheden, als voor burgers ermee omgaan, heel belangrijk is. AI is uiteindelijk in hoge mate mensenwerk. Mensen ontwerpen die algoritmes, mensen stoppen er data in, selecteren die data, laten sommige dingen weg, dat is allemaal menselijke keuzes. Heel veel van die data is door mensen gemaakt. Precies. Mensen moeten eigenlijk ook aangeven qua normen en waarden wat ze belangrijk vinden, Want dat weet een machine niet. Dus dat moeten we er allemaal netjes in stoppen. Dus ik zie AI in hoge mate als mensenwerk. Ja, helemaal met je eens. En wij geven er vaak ook betekenis aan. De machine rekent uiteindelijk iets uit, want daar komt het op neer. En wij geven de betekenis aan. Dus als er een nulletje of eentje uit een neuraal netwerk van een computervision model uitkomt... dan zeggen wij van, oh ja, de nul betekent een kat en een één betekent een hond. Ja, en wij plaatsen de actie wat we vervolgens ermee willen doen. Precies. Helemaal meegeens. Een andere zaak die ik echt mee heb genomen uit het boek is het tastbaar maken voor iedereen. Dus het echt even zonder science fiction gewoon meegenomen worden. Wat zijn de ontwikkelingen van begin tot nu voor iedereen? Ik zou dit zo aan mijn ouders kunnen geven. Dat ga ik ook doen. Zo heb ik het ook bedoeld. De lezer die ik voor ogen had is een 16-jarig middelbare schoolmeisje die geïnteresseerd is in wetenschap, die geïnteresseerd is in wat computers en kunstmatige intelligentie kunnen bieden, maar die er nog niet veel van weet en die denkt van, hé, hoe kan ik me een beetje inlezen? Dat is een beetje het beeld dat ik voor ogen had. Ik werd verrast door mijn 77-jarige moeder. Ik lees alles via e-books op mijn iPad en wij delen die bibliotheek. En wij hebben het over van alles en nog wat. En vaak ook over van wat ben je aan het lezen. En ze zegt, ik ben Slim Slimmer Slims aan het lezen. En ik zeg, hoe dan? En ze zegt, ja die heb jij toch gewoon aangekocht. En ik zeg, ik vind het een hartstikke leuk boek. En een dag later had ze hem ook uit. En ze zei, het is me zoveel duidelijker geworden. Dus niet alleen 16-jarige meisjes, maar ook 77-jarige bejaarde vrouwen. Dus ik denk dat je een heel mooi overal beeld neer kan zetten van wie dit interessant is. En ben ik wel benieuwd wat is het stukje wat dan echt bij was gebleven, wat haar het trickende inderdaad in het boeken. Ik weet niet of je het kan beantwoorden of ze wat stelt heeft aan je. Nou niet helemaal, maar wel dat ze zei van het leest heel makkelijk weg. En ik begrijp nu veel meer wat de technologie inhoudt. Dat is waar jij mee bezig bent, Joop. Ja, ja. En hoe fijn is dat, toch? Ja, zeker. Ik wilde eigenlijk een van je quotes aanhalen... waarbij je er zo'n beetje mee eindigt in het boek. En dat is namelijk... dat heel veel mensen de modellen of de machine angstaanjagend goed vinden. Waarbij jij schrijft dan, angst en jagend goed moet eigenlijk zijn geruststellend goed. Zou je daar iets over kunnen vertellen waarom je het geruststellend goed vindt? Het menselijk brein is een fantastisch biologisch geëvolueerd orgaan. Met heel weinig energie kan het ongelooflijk veel dingen doen. Maar een van de nadelen van die evolutionaire ontwikkeling is, om ervoor te zorgen dat ons brein zo energie-efficiënt is, lost er bepaalde dingen wel snel op, maar lang niet altijd goed. Dus om een voorbeeld te geven, er is een hele lange lijst van wat dan heet cognitieve bias van het brein. Het brein dat bepaalde beperkingen heeft en een voorbeeld daarvan is, laat ik zeggen, het struisvogel effect. Dat mensen bepaalde informatie niet willen weten en ze stoppen hun kop in het zand. Een ander voorbeeld is dat mensen veel meer getriggerd worden door negatief nieuws dan door positief nieuws. Daarom denk ik ook dat die hele discussie over die existentiële dreiging van AI zo ontzettend veel rumoer heeft veroorzaakt, omdat mensen dat heel snel oppikken. Terwijl positief nieuws, dat blijft vaak minder goed hangen. Dat is een cognitieve bias van het brein, waarvan er ontzettend veel bestaan. Ik denk dan van laten we heel erg blij zijn dat we machines kunnen bouwen die in ieder geval daar geen last van hebben. En die ons kunnen helpen om bepaalde dingen op te lossen. Wat ik zelf een heel mooi voorbeeld vind dat ik ook in het boek geef is dat het gaat om een Amerikaanse software ingenieur en die loopt rond in het museum voor de Poolse joden in Warschau. En die ziet er allemaal zwart-wit foto's hangen uit de tijd van de holocaust van joden die vervolgd werden en hij denkt van goh, ik heb joodse ouders, voorouders, ja misschien staan er op die foto's wel bekenden van mijn moeder die nog leeft. Kan ik niet een stuk AI software ontwikkelen dat in al die grote hoeveelheden de foto's gaat zoeken op basis van een fotootje van mijn oma die ik aan het systeem geef. Zijn moeder die heeft die horecausperiode overleefd, daar heeft hij foto's van. Wat hij wilde is ik geef aan mijn AI systeem een foto van mijn moeder en dan de opdracht ga nou in al die foto's uit de Tweede Wereldoorlog tijd, ga nou eens zoeken of je andere foto's kunt vinden waarop mijn moeder staat. Dat heeft hij ontwikkeld en hij heeft laten zien dat het werkt. En er zijn allerlei mensen die op die manier hun familieleden op foto's hebben gevonden. En dat systeem dat heeft hij genoemd 'from numbers to names'. Het idee van je hebt allemaal anonieme mensen op een foto staan en die gaan we weer een gezicht geven, die gaan we weer een naam geven, daar kan weer een verhaal bij komen. En dat is nou typisch iets, mensen zijn absoluut niet in staat om zulke grote hoeveelheden foto's door te nemen en op een vrij betrouwbare manier na te gaan van hé, dit zou wel eens een foto van mijn moeder kunnen zijn. En uiteindelijk geeft dat systeem gewoon een lijstje met 10 mogelijke matches. En jij als mens moet dan wel nog gaan kijken van, oké, is dat nou echt mijn moeder? Precies. Dus het is een vorm van samenwerking. En het is ook iets wat iets oplost waar wij mensen gewoon helemaal niet zo goed in zijn. Namelijk gigantisch hoeveel er de foto's doorkijken. Ja, geweldige toepassing ook. Ja. Het biedt zoveel waarde ook voor de uitkomsten die daaruit komen. Het is heel betekenisvol en wat ik ook vind, er wordt natuurlijk heel vaak gesproken over Big Tech, over de Google, Amazon. Maar dit is iets wat gewoon één persoon heeft opgelost, van een klein particulier project, geen Big Tech. En toch is het heel betekenisvol. Precies. Ja, en we hebben ook van die Nederlandse ontwikkelaars, die hebben een app voor op je telefoon ontwikkeld, waarbij je heel snel een foto kan maken van brieven die je van de overheid krijgt. Lees Simple. Lees Simple, precies. We weten allemaal dat de brief van de overheid niet altijd even leesbaar is. En dat hij die in veel beter leesbare tekst geeft. Maar ook acties, er wordt dit en dit van je verwacht. Het is heel actionable. Ja, heel toepasbaar. Usability. Ik vertel aan het begin dat ik volg dit vakgebied sinds 2010. En het viel mij op dat er in de afgelopen jaren, vond ik het ongelofelijk vaak alleen maar gaan over discriminatie door systemen. En natuurlijk is dat een probleem dat we moeten adresseren. Maar als je alleen maar dat benadrukt, dan verlies je uit het oog de toepassing waar we het nu over hebben. Precies. En je had het er net over de media en wat mensen eigenlijk krijgen. En die krijgen natuurlijk alleen maar zeg maar dat slechte nieuws. Die krijgen alleen maar van waar gaat het mis? Dus als jij niet in het vakgebied zit en je krijgt alleen maar dit soort verhalen over je heen ondersteund, zeg maar, met allerlei films en series die natuurlijk ook... Ja, daar is het heel interessant dat altijd de wereld van gaat en dat soort zaken. Ja. Dan ga je er misschien... Ja, weet je, je krijgt het zoveel over je heen dat je ook gaat geloven dat het heel erg gevaarlijk is. Ja. Terwijl er echt... Om een ander voorbeeld te geven dat ik ook in mijn boek beschrijf. Het is ontwikkeld volgens mij door de Universiteit van Stanford. En het probleem is van, een land krijgt vluchtelingen binnen. En wat is nou de beste locatie, de beste gemeente om die mensen te plaatsen? En dan wil je eigenlijk kijken van, in welke gemeente hebben mensen met hun specifieke kwaliteiten nou de meeste kans om te slagen in de samenleving? En wat Stanford gedaan heeft, is om een algoritme te ontwikkelen dat op basis van een heleboel data van vluchtelingen inderdaad gaat uitzoeken van wat is een goede locatie. En toen bleek zowel in de VS als in Zwitserland waar dat allebei is getest dat de uitkomst gewoon 40% beter was dan wat mensen in hun eentje deden. Wat vaak een beetje intuïtief is en na houtje touwtje. Dus dit is een voorbeeld dat ook de overheid, waar het kan soms misgaan, Maar dit is een voorbeeld waarbij ook de overheid er veel aan zou kunnen hebben. Ja, absoluut. Met ook weer heel veel maatschappelijke impact. Ja, precies. En wij proberen, want als je hierover praat, dan ga je inderdaad best wel vaak over, gaat het over risico's, gaat het over ethische vraagstukken. Die behandelen wij natuurlijk ook in de podcast. Maar het is zo fijn om inderdaad ook de goede voorbeelden te horen. En wij ontwikkelen zelf AI-systemen voor bedrijven, Waarbij we in onze beleving ook een goede bijdrage leveren aan productiviteit, het verminderen van fouten, maar ook gewoon dat je werk leuker wordt. Het is allerlei taakjes die je hebt. De kansen zijn eindeloos, alleen we hebben het vaak niet over de kansen, maar over waar het fout gegaan is. We kunnen ze nu nog niet eens bedenken, die er zoveel kansen zijn. Daarom vond ik het wel leuk dat je AR for Good meeneemt in je boek. en schrijft dat het al vanaf 2017 inderdaad dat dat initiatief loopt met ook voorbeelden van al die doelstellingen die er vanuit de VN zijn inderdaad. Praktische voorbeelden meegeeft. Ik was benieuwd, zijn er nog andere zaken die de afgelopen jaren bij AR for Good bij jou zijn bijgebleven? Ik heb het idee dat het wel steeds concreter wordt. Ik ben destijds in 2017 bij de eerste conferentie geweest. Daar was onder andere nog die robot Sophia stond daar. En daarvan had ik wel zoiets. Ik weet niet of dat nou het beste voorbeeld is van wat we willen. Want dat is toch een beetje een soort act. Ja, dat is verschrikkelijk. Ja, precies. Dus dat vond ik jammer. Maar ik heb het idee dat in de loop van de tijd wel er een realistischer beeld is ontstaan over wat AI kan doen. Om aan de luisteraar uit te leggen, je hebt 17 van die duurzame ontwikkelingsdoelen van de VN. Van geen armoede, goed onderwijs, gelijkheid, geen discriminatie. En het idee is om te kijken bij elk van die duurzame ontwikkelingsdoelen hoe AI daar een beetje aan kan bijdragen. Het gaat er echt niet om dat AI in zijn eentje zulke complexe problemen gaat oplossen. Maar wel dat je identificeert op welke subterreintjes, welke subproblemen kan AI helpen oplossen. Ik heb het idee dat dat wel steeds concreter is geworden en ook realistischer in de afgelopen jaren. Ja, we krijgen steeds wat minder alleen maar de doemdenkers. Ik heb ook wel presentaties gehoord waar mensen zeggen, juist op die Sustainable Development Goals, je gaat de honger de wereld uit helpen, daar geloof ik ook helemaal niet in. Dus we zitten ergens in het midden. Maar ik heb nog wel het idee dat vaak de intelligentie wel wordt overschat. We komen niet om het onderwerp chat GPT heen. En een van de dingen is dat ze proberen bijvoorbeeld intelligentie te meten van chat GPT. Dus er komen er weer dingen uit als van de theory of mind. Dus hoeveel bewustzijn heeft het model nou? Wat snapt hij allemaal? Hoe kijk jij daar tegenaan? Nou, allereerst denk ik dat Chattyptie heel erg snel geïntroduceerd is. Wat mij betreft hadden ze er een wat langere bijsluiter bij moeten stoppen. Van kijk, dit kan het systeem wel en dit kan het systeem niet. En nu heb ik het idee dat het heel snel de samenleving is ingegooid en zoek het maar uit. Er is al vrij snel verschenen een wetenschappelijk paper van de onderzoekers van Microsoft. Dat is een beetje de slager die zijn eigen vlees ging keuren. Artikel zei van kijk, Chad GPT vertoont glimpses, vondjes van algemene intelligentie. En vervolgens zijn andere wetenschappers daar weer naar gaan kijken. En als je daar heel goed naar kijkt, dan zijn er behoorlijk veel vaardigheden waar Chad GPT echt heel slecht in is. En dat vind ik op zich niet erg, maar ik zou willen dat zo'n bedrijf als OpenAI, de Chad GPT op de markt heeft gebracht, daar wat eerlijker over is. Dan hoeven we dat niet allemaal zelf uit te vogelen. Een voorbeeld wat ik ging proberen toen ik probeerde van hoe goed is ChatGPT in redeneren. Is gewoon een heel simpel puzzeltje. Want je hebt vijf t-shirts en die hang je in de zomer buiten te droog in de zon. Dus de zonscheid, je hangt vijf t-shirts te droog in de zon. En na vijf uur zijn al die vijf t-shirts droog. En dan vraag ik aan ChatGPT, dat zeg ik tegen ChatGPT, deze informatie, En dan vraag ik, hoe lang duurt het nou voor de 30 t-shirts op de zon droog zijn? En dan zegt hij 30 uur. En daar is hij dus helemaal niet goed in. Op zich vind ik dat niet erg, maar ik had liever gehad dat ze dat heel eerlijk van begin af aan erbij zetten. Hierin is hij goed, hierin is hij niet goed. Pas daar extra op, want dat kan hij niet zo goed. Precies. Ja, want heel veel mensen denken dat hij echt wel een soort van wereldbeeld heeft. Maar het is uiteindelijk alleen maar het voorspellen van woorden, teksten en zo grammaticaal en syntactisch juist mogelijk ten opzichte van de vraag die gesteld is. Ja, precies. Ik interviewde een tijd geleden een hoogleraar van de Universiteit van Utrecht en die zei dat er best wel veel fraude gevallen had op de universiteit van studenten die Chedjukidie gebruikten. En op een gegeven moment werd een jongen verdacht van een vrouw die bij de commissie moest komen. En die had zijn vriendin meegenomen. En bij de commissie kreeg hij de vraag van... "Goh meneer, u hebt in uw literatuurlijst allemaal wetenschappelijke papers die niet bestaan." En toen gaf zijn vriendin voor die jongen antwoord. En die zei van "Ja, dat komt omdat mijn vriend af en toe hallucineert." [GELACH] Dus dan heeft hij waarschijnlijk heel goed in het nieuws gelezen. Dat jij je vriendin hallucineert. Maar wel het dan gebracht naar... - Precies. Dat vind ik eigenlijk wel mooi. Dat je zegt, het is niet de fout van de machine, maar het was nog steeds de fout van mijn vriend. Dat vind ik wel een goeie. - Dat is wel ownership pakken. Ja, want uiteindelijk was er natuurlijk ook een advocaat in Amerika... die een verweer in rechtszaken ingaf met ook fouten, zeg maar, referenties naar jurisprudentie. En zijn verweer was, ja maar ik had een chat GPT gevraagd van, kloppen de referenties? En JTGPT had me zeggen ja. Ja. Dus zo vind ik die van die vrienden eigenlijk wel mooier. Ja, geweldig. Maar goed, dit laat wel zien dat als je het hebt over intelligentie, JTGPT kan een aantal dingen waanzinnig goed. Ik bedoel, het is echt verbazingwekkend. In mijn boek gaf ik het voorbeeld van, je hebt drie plaatjes. Eentje van een dritand van de zeegod, eentje van een theesplitsing en eentje van een klavertje drie. En ik zei waar AI niet goed in is, is abstra heerlijk. Als ik aan mensen vraag wat hebben die drie plaatjes gemeen? Dan zegt iedereen het concept drie, het getal drie. Ik zeg daar is AI in het algemeen niet goed in. En iemand wees mij erop dat hij gewoon drie plaatjes aan Chet Jupiter had gevoerd. En ik geloof de eerste antwoord was nog niet helemaal goed. Maar met een beetje tweaken kwam Chet Jupiter eruit. En op zich is dat, dat vind ik best goed. Best knap en dat had ik echt niet verwacht een jaar geleden. Maar het is geen conceptvorming op menselijk niveau. Nee, de machine begrijpt echt niet wat de begrippen zijn die geschreven worden. Het is een beetje alsof je op examen komt en de tentamenvragen van de afgelopen jaren, die heb je gewoon uit je hoofd geleerd. Toevallig krijg je een van die vragen die daarin voorkomen en zonder dat je eigenlijk begrijpt hoe het zit, geef je uit je hoofd het antwoord. Als de examinator daar een beetje op gaat variëren, dan weet je eigenlijk niet meer wat je moet doen. En dat is bij de CETGBT ook een beetje zo. Dat vind ik ook dan zo ergelijk als er weer in het nieuws komt dat hij zegt van ja, maar hij heeft dit examen weer gehaald. Of zo'n testje van de theory of mind. Dat je ook eigenlijk wat razeltjes geeft, normaal gesproken aan kinderen, en dan kan inschatten wat hun bewustzijnsniveau is qua leeftijd. Ja, dat zijn gewoon afgekeken vragen. Als je het verhaal al drie keer gehoord hebt, dan weet je op de duur het verhaal ook wel. Ik heb daar voor de VPRO-gids een artikel over geschreven. Dus ik ben een beetje verliep in dat onderwerp testen. En mijn conclusie is eigenlijk dat tests die van mensen zijn gemaakt, die zijn lang niet automatisch goede tests voor machines. En eigenlijk heb je dat bij de Turing test ook al. De Turing test is zo'n test waarbij je als menselijke gebruiker met een computer mag chatten. En als je na vijf minuten niet het onderscheid kunt maken of jij met een computer aan het chatten bent of met een mens, Oké, dan is de computer geslaagd voor de Turing test. Turing heeft die test verzonnen in 1950. Wist hij veel hoe AI zich zou gaan ontwikkelen. Ik weet honderd procent zeker dat hij op dit moment echt de Turing test niet meer zou voorstellen als een goede test. Maar oké, die komt uit die tijd. Je ziet bij heel veel van die tests die aan machines worden gegeven, dat het voor mensen goede tests zijn, maar niet automatisch voor machines. Omdat ze andere dingen testen. Dat, en omdat die testen zijn allemaal uitgeschreven. Ja. - En dat zit nou typisch in dat model. Dus daar kan hij dat prima eruit halen. En dat je net even een paar woordjes verandert of de zinsconstructie verandert. Ja, dat maakt voor de machine niet uit. Die lepelt dat gewoon weer op uit die trainingsset. Ja. - Ja. Dus je moet als gebruiker gewoon goed bewust zijn van... Ja, wat kan Chachapi goed en wat kan hij niet goed? Ik wilde laatst gewoon weten van... Wat zijn nou mogelijke manieren waarop de overheid AI kan gebruiken? Ja. - En een paar... Ik bedoel, ik heb weet ik hoeveel files in mijn computer. Ik kan er allemaal in gaan zoeken. Nou, dan ben ik een kwartier verder, dus ik dacht, laat ik gewoon Chachi Petit dat vragen. En hij gaf gewoon een lijstje met tien waarvan ik kan nalezen. Het klopt allemaal. Ja, precies. En dan ben ik heel snel klaar. Dan kan ik vervolgens verder gaan zoeken, daar invulling aan gaan geven. En weet je, daar zit hij behoorlijk goed in. Het mij helpen brainstormen over sommige onderwerpen. Ja, vooral brainstormen even wat sneller zijn op bepaalde vlakken. Zolang je maar zelf achtergrond materie hebt om te kunnen valideren of daarna moeten gaan valideren, is het een prima hulpmiddel inderdaad. Ik kijk even naar Joop. Ik heb toch nog een vraag. Ja, nee, nee, zeker. Gooi hem erin. Je hebt het aan het eind van het boek, heb je het over slim zijn is niet hetzelfde als iets willen. Ja, ja. Zou je daar voor de luisteraars kort willen toeleggen? Ja, ik heb dat, dat zit eigenlijk in het hoofdstukje, dat gaat over super intelligentie en mogelijke gevaren die zouden ontstaan uit super intelligente systemen. Mensen die AI als een existentieel gevaar zien, die zeggen dan van oké, zodra je een systeem hebt gebouwd dat slimmer is dan mensen, dan wordt het bijna automatisch gevaarlijk. Maar daar kun je tegen inbrengen dat een systeem dat slim is, dat bepaalde cognitieve problemen die mensen oplossen ook kan oplossen en dan veel sneller en veel beter. Dat is nog geen systeem dat uit zichzelf iets wil. En wij zijn als mensen geëvolueerd, wij zijn biologische wezens en zodra wij geboren worden hebben we behoefte aan drinken, aan eten, aan warmte, aan liefde. Dus elke cel in ons lichaam wil iets. Onze organen willen iets, wij als wezens willen iets. En dat is bij een AI-systeem niet automatisch zo. Wij kunnen dan natuurlijk een soort instructie instoppen. Robot, loop naar het licht toe, of loop naar een warmtebron toe. Maar dat stoppen wij dan in. Ja, en dan is het nog steeds niet dat die robot dat wil. Nee, precies. En daarom maak ik daar een onderscheid tussen biologische wezens die willen dingen. Dat zit in de genen, dat hebben ze nodig om te overleven. En een AI-systeem op zichzelf niet. En wij als mensen zijn er verantwoordelijk voor, voor die systemen. Dus wij moeten zorgen dat ze de juiste dingen willen, dat we de randvoorwaarden aangeven. En daarom heb ik inderdaad gezegd, slim zijn is iets anders dan iets willen. Ik vond het echt heel mooi verwoordendaard, omdat eigenlijk het niet-vermenselijke van AI, hier zo mooi praktisch is neergezet. Ja, en je hebt ontzettend slimme mensen die theorist zijn geworden. En je hebt mensen die niet zo slim zijn, die fantastische dingen voor de maatschappij doen. Dus slim zijn is echt niet het allerbelangrijkste in het leven. Tussen de stand van de techniek nu en die super intelligentie, die ook nog eens vreemde dingen gaat doen. Daar zit zo'n groot gat, waarbij er nog... Zou dat ooit moeten komen, dan moeten er nog zoveel stappen genomen worden. En dan gaan we er maar vanuit dat het ook ontspoort. Dat is ook nog zoiets. En dan zijn we er zelf bij, he? Dan hebben we er een pot aan. Dus het is niet... Heel veel mensen denken dat het moment daar zo is, met een knip van de vinger. Terwijl, weet je, we gaan dat van ver af aan zien komen. Dat is mijn argument ook. En omdat we dat van ver zien aankomen, kunnen we ook allerlei maatregelen nemen. We gaan ook om met de dreiging van biologische, chemische, nucleaire wapens. Daar hebben we allemaal verdragen voor opgesteld, dus ook dat kan. En ik denk zelf nog steeds dat wanneer ontwikkelaars, wetenschappers AI-systemen ontwerpen, bouwen, met voldoende vangrails, met voldoende ethische normen, dan minimaliseer je automatisch ook het risico op existentiële risico's van AI. En daarom is AI echt mensenwerken, niet iets wat uit zichzelf zo maar uit de hand loopt. Nee, daar geloof ik ook helemaal niks van. Tegenwoordig hebben wij een co-host, Aisha. En zij wil ook een vraag stellen. Laat me mezelf even voorstellen. Ik ben Aisha, de AI-assistent hier. Zou ik je een vraag mogen stellen? Nou graag, ik ben heel benieuwd. Kun je een voorbeeld delen waarbij een AI je verraste met zijn creativiteit? Goh, vast wel, maar dan moet ik even gaan graven in mijn geheugen. Oh ja, ik heb er wel eentje. Ik moest een artikel schrijven wat aanhaakte bij de grote machines die ASML bouwt. Dus de ASML bouw van die machines die chips maken. En ik zocht naar een beetje een literaire manier om zo'n machine te introduceren. Dus ik stelde aan Chad Gipity de vraag van, kun je mij in de stijl van de Amerikaanse schrijver James Salter, wat een van mijn favoriete schrijvers is, kun je mij een begin aanlinia geven in die stijl, die gaat over dit soort machines die chips kunnen maken. En ik moet zeggen dat ik echt wel verbaasd was over het antwoord. En ik kan het niet letterlijk gebruiken, maar het gaf mij meteen inspiratie van, oké, ik Ik kan hem niet citeren, ik weet hem niet meer uit mijn hoofd. Maar dat is wel een voorbeeld dat de machine mij echt verraste. En dat het echt nuttig was. Dat was een uitstekend antwoord. Bedankt voor het delen. Graag gedaan. Aksja? Dankjewel Bennie voor je heldere inzichten. Uiteraard willen we iedereen oproepen om je boek te gaan lezen. Juist omdat het down to earth is. Hoe zeg je dat in het Nederlands? Nuchter. Precies, daar houden we van toch als Nederlanders. Nuchter, helder, realistisch. Dus ik zou het iedereen willen aanraden. Dankjewel dat je hier te gast wilde zijn. Graag gedaan. En we spreken in de volgende aflevering met je verder. Want we hebben er natuurlijk, je had het net over, ja we zien straks dingen aankomen. Daar kunnen we wat mee. Dus daar gaan we in een volgende aflevering met je even op door. Dankjewel dat je weer wilde luisteren naar een nieuwe aflevering van AI Today. Vergeet niet om je te abonneren via je favoriete podcast app en mis geen aflevering.