Systeem 0: Denk jij nog zelf?

Joop Snijder: Hoi, welkom bij de korte aflevering van AIToday Live, de podcast voor iedereen die wil begrijpen hoe AI echt werkt. Joop Snijder: Mijn naam Joop Snijder, CTO van Aigency. Joop Snijder: Vandaag neem ik je mee in een concept waarvan ik eerlijk gezegd nog niet helemaal weet wat ik ervan moet vinden, Joop Snijder: maar waarvan ik wel denk die onderzoekers zouden wel eens een punt kunnen hebben. Joop Snijder: Het gaat over iets wat ze system nul denken noemen, systeem nul denken. Joop Snijder: Klinkt misschien als een science fiction of een nieuwe term uit een managementboek. Joop Snijder: Maar het raakt aan iets wat steeds meer speelt in ons dagelijks leven. Joop Snijder: Namelijk, laten we het denkwerk over aan AI of blijven we zelf nadenken. Joop Snijder: En om eerlijk te zijn, ik wist bij het begin van deze aflevering, toen ik dit aan het voorbereiden was, nog niet goed waar ik stond. Joop Snijder: Maar in de loop van het schrijven en het onderzoeken merkte ik dat het me steeds meer aan het denken zette over hoe ik AI gebruik en wat dat betekent voor mijn eigen autonomie. Joop Snijder: En ik ben best wel benieuwd hoe jij daar als luisteraar in staat. Joop Snijder: In ieder geval buigen onderzoekers zich er al serieus over en de term system zero, systeem nul, komt niet uit de lucht vallen. Joop Snijder: Sterker nog, hij werd geïntroduceerd in een recent artikel in Nature en dat is niet de eerste de beste publicatie. Joop Snijder: Tijd dus om wat dieper in te gaan op waar die term vandaan komt, wat ermee bedoeld wordt en waarom het misschien wel eens een belangrijkste laag in ons denken aan het worden zou kunnen zijn. Joop Snijder: Het systeem van systeem nul is, zoals ik al zei, geïntroduceerd in een recente publicatie in Nature Human Behavior. Joop Snijder: En in het artikel stellen de auteurs dat we naast het bekende systeem 1 en systeem 2 denken van Kahneman inmiddels een derde soort denken hebben ontwikkeld. Joop Snijder: Ja, denken, dat is nou juist het punt. Joop Snijder: Systeem 0 is geen biologisch denkproces, maar een laag van AI gedreven assistentie die tussen ons en de wereld in is geschoven. Joop Snijder: Het is de laag waar ChatGPT, CoPilot en al die andere slimme tools opereren. Joop Snijder: systeem 1 staat voor snel intuïtief denken Joop Snijder: ons onderbuikgevoel Joop Snijder: en systeem 2 is langzaam rationeel denken Joop Snijder: ons juist bewuste beredenerende brein Joop Snijder: maar systeem 0 Joop Snijder: dat is dan de buitenboordmotor van ons denken Joop Snijder: niet van vlees en bloed maar van code Joop Snijder: en steeds vaker nemen we beslissingen op basis van de suggesties Joop Snijder: die deze motor ons aanreikt Joop Snijder: Maar goed, wat is systeem nul nou precies? Joop Snijder: De auteurs van het Nature artikel positioneren systeem nul als een fundamenteel nieuwe laag in onze cognitieve architectuur. Joop Snijder: Denk aan het verschil tussen leren fietsen, leren autorijden en dan ineens altijd met een zelfrijdende auto onderweg zijn. Joop Snijder: Systeem nul is dat voertuig. Slim, snel en altijd beschikbaar. Joop Snijder: Maar het is niet jij. Joop Snijder: En dat heeft gevolgen. Joop Snijder: Om goed te begrijpen wat systeem nul betekent, moeten we toch even terugkeren naar Daniel Kahneman. Joop Snijder: Hij was psycholoog, maar ontving in 2002 de Nobelprijs voor de economie. Joop Snijder: En dat is niet zomaar. Joop Snijder: Hij liet namelijk zien dat mensen vaak irrationele beslissingen nemen. Joop Snijder: En dat ons denken wordt gestuurd door twee systemen. Joop Snijder: Systeem 1, snel, intuïtief, automatisch. Joop Snijder: Systeem 2 is traag, beredenerend en kost veel energie. Joop Snijder: Het is in zijn werk dat de basis vormt voor hoe we menselijk denken begrijpen. Joop Snijder: En inmiddels ook voor hoe we AI erbij misschien wel kunnen plaatsen. Joop Snijder: Want system 0 is geen biologisch denkproces. Joop Snijder: Maar een laag van AI gedreven assistentie die, wat ik al eerder zei, ertussen is geschoven. Joop Snijder: Laten we het wat concreter maken, want een tijdje terug zag ik een video op LinkedIn. Joop Snijder: Een man vertelde daarin dat hij eigenlijk is opgehouden met zelf beslissingen nemen. Joop Snijder: Klinkt een beetje krankzinnig. Joop Snijder: Hij noemt zichzelf een verlengstuk van ChatGPT. Joop Snijder: En op een feestdag vroeg hij, ja wat moet ik vandaag doen? Joop Snijder: En ChatGPT stelde een wandeling voor in de naburige heuvels. Joop Snijder: Nou, geen slecht idee. Hij ging en hij genoot. Joop Snijder: Later zat hij met zijn vriendin in een café dat niet hun vibe was. Joop Snijder: Ja, zo zegt hij dat. Joop Snijder: Hij vroeg aan GPT welk café past beter bij ons. Joop Snijder: En ja hoor, het systeem suggereerde er eentje vlakbij. Joop Snijder: En ook dat bleek perfect te kloppen voor hem. Joop Snijder: ChatGPT weet beter wat ik nodig heb dan ikzelf, zei hij. Joop Snijder: En hij meende het. Joop Snijder: Daarna gaf hij aan dat hij bij grotere levensvragen de keuze van ChatGPT wil gaan volgen. Joop Snijder: Eerst vond ik het grappig. Joop Snijder: Daarna fascinerend. Joop Snijder: En toen, eerlijk is eerlijk, een beetje bevreemdend. Joop Snijder: Want dit is exact wat het artikel in Nature beschrijft. Joop Snijder: Als we het denken uitbesteden, lopen we het risico dat we het zelf verleren. Joop Snijder: En dat sluipt er dan natuurlijk in. Joop Snijder: Niet omdat we zo dom zijn, maar omdat het best wel handig is. Joop Snijder: In het artikel in Nature staat een tabel. Joop Snijder: En dat is echt wel heel erg mooi. Joop Snijder: Die uitlegt hoe systeem nul voldoet aan criteria voor wat genoemd wordt cognitieve extensie. Joop Snijder: Dus de manier waarop technologie onze denkvermogens verlengt. Joop Snijder: En in die tabel zie je iets opvallends. Joop Snijder: Namelijk op alle fronten scoort systeem nul hoog. Joop Snijder: Er is namelijk tweerichtingsverkeer van informatie. Joop Snijder: Wij geven input. Joop Snijder: Systeem nul geeft output. Joop Snijder: De betrouwbaarheid neemt toe. Joop Snijder: Hoe beter de output, hoe vaker we het gebruiken. Joop Snijder: En de duurzaamheid van deze relatie, check. Joop Snijder: Veel mensen gebruiken namelijk dagelijks AI-tools. Joop Snijder: Vertrouwen? Ook dat. Joop Snijder: We accepteren de suggesties van AI vaak net zo klakkeloos als onze eigen herinneringen. Joop Snijder: En die systeem nul voelt intuïtief, alsof het moeiteloos werkt. Joop Snijder: Kortom, we zijn eigenlijk al best wel diep verbonden met deze nieuwe cognitieve laag, zonder dat we daar echt over hebben nagedacht. Joop Snijder: En dat brengt mij bij Martin van Kranenburg. Joop Snijder: Vaker in de podcast geweest, auteur van het boek ChatGPT als tweede brein. Joop Snijder: En Martin ziet ChatGPT niet als bedreiging, maar juist als versterker. Joop Snijder: Als je weet wat je doet, zegt hij, dan is het een game changer. Joop Snijder: Want wat Martin zo goed uitlegt, moet je maar eens luisteren in aflevering 5 van seizoen 6. Joop Snijder: Wat precies raakt aan dat systeem weer van systeem 0, is dat je eerst moet weten waar je kracht ligt. Joop Snijder: Wat je zelf goed kan. Joop Snijder: En dan kan ChatGPT je tweede brein zijn. Joop Snijder: Niet je eerste, niet je enige. Joop Snijder: Een assistent die je ondersteunt, maar alleen als jij aan het roer blijft. Joop Snijder: Want als je zomaar iets in ChatGPT stopt en hoopt op een goed resultaat. Joop Snijder: Dan beland je in wat Martin noemt de digitale drijfzand. Joop Snijder: En hij noemt bijvoorbeeld een redacteur van een lokale krant in die aflevering. Joop Snijder: En die gebruikte ChatGPT om repetitieve persberichten snel te herschrijven. Joop Snijder: Vijf minuten winst per bericht. Joop Snijder: Dertig berichten per dag. Joop Snijder: En daarmee tweeënhalf uur tijdswinst. Joop Snijder: En die tijd kon ze weer besteden aan waar ze het meest van houdt. Joop Snijder: Namelijk mensen interviewen. Joop Snijder: Dat is denk ik de juiste inzet van dat systeem nul. Joop Snijder: Niet om je denken over te nemen. Joop Snijder: Maar om je ruimte te geven voor denken. Joop Snijder: Maar, ik weet niet hoe het bij jou zit, nu je dit allemaal hebt gehoord, bij mij knaagde iets. Joop Snijder: Want hoe intrigerend ik het idee van systeem nul ook vind, ik ben nog niet echt zomaar overtuigd dat het echt een denksysteem is. Joop Snijder: Zoals systeem 1 en 2 dat zijn. Joop Snijder: Neem systeem 1 en 2, die gaan over hoe wij als mensen denken, intuïtief, analytisch, intern, biologisch. Joop Snijder: En dan komt daar ineens een derde systeem bij dat buiten onszelf ligt. Joop Snijder: Gebouwd met code, gevoed door data, gestuurde anderen. Joop Snijder: Kun je dat dan wel in dezelfde categorie plaatsen? Joop Snijder: Nou, voor mijn gevoel schuurt het, want AI denkt niet. Joop Snijder: Het herkent patronen, ja. Joop Snijder: Het geeft razendsnel suggesties, absoluut. Joop Snijder: Maar het begrijpt niet. Joop Snijder: Het voelt geen twijfel, het kent geen context, het vraagt zich niks af. Joop Snijder: En juist dat is toch essentieel aan denken. Joop Snijder: Ik moet dan ook wel steeds denken aan een notitieboek. Joop Snijder: Namelijk ook dat helpt mij denken. Joop Snijder: Ik schrijf iets op, ik order mijn gedachten, ik maak tekeningen of schema's. Joop Snijder: Maar ik zou nooit zeggen dat dat notitieboek zelf denkt. Joop Snijder: Het is een hulpmiddel. Joop Snijder: En ja, AI, hoe slim ook, voelt voorlopig toch nog wel net zo. Joop Snijder: En wat me ook bezighoudt is dat AI geen intern conflict kent. Joop Snijder: Mijn systeem 1 zegt soms ja, terwijl systeem 2 nee zegt. Joop Snijder: En die spanning tussen gevoel en reden, dat is waar denken ontstaat. Joop Snijder: Maar systeem nul geeft dus alleen antwoorden. Joop Snijder: Zonder twijfel, zonder reflectie. Joop Snijder: En dus zonder dat interne gesprek dat juist zo waardevol is. Joop Snijder: En dan nog iets, we noemen systeem nul alsof het dan iets van onszelf is, iets persoonlijks. Joop Snijder: Maar in werkelijkheid is het een systeem op schaal. Joop Snijder: Gebouwd door anderen, getraind op collectieve data. Joop Snijder: Gevoed door een infrastructuur waar ik nauwelijks schip op heb. Joop Snijder: Het voelt individueel, maar dat is het allerminst. Joop Snijder: Dus ja, ik zie absoluut het potentieel van AI's cognitieve assistent. Joop Snijder: Maar of dat echt een denksysteem is, dat weet ik nog niet. Joop Snijder: Misschien is het vooral een briljant hulpmiddel en moeten we het juist geen systeem noemen om te blijven zien wat het wel en niet is. Joop Snijder: Ja, misschien is dat precies wat dit onderwerp zo interessant maakt. Joop Snijder: Het roept vragen op, het schuurt een beetje en het dwingt me om mijn eigen aannames onder de loep te nemen. Joop Snijder: En dat is op zich al waardevol, denk ik dan, want juist door dat ongemak ontstaat ruimte voor groei. Joop Snijder: Ik hoef er vandaag nog geen definitief oordeel over te vellen wat mij betreft. Joop Snijder: Maar ik weet inmiddels wel dat ik bewuster wil omgaan met hoe ik AI gebruik. Joop Snijder: waar ik het gebruik voor denkwerk en voor denkondersteuning. Joop Snijder: En precies daar begint misschien ook de echte les van systeem nul. Joop Snijder: Niet dat het ons denken vervangt, maar dat het ons uitnodigt om opnieuw na te denken over hoe we denken. Joop Snijder: En juist daarom stelde ik mezelf tijdens het schrijven van het script een heel directe vraag. Joop Snijder: Maar hoe gebruik ik AI eigenlijk? Joop Snijder: Want terwijl ik deze aflevering aan het voorbereiden was, stelde ik mezelf opeens de vraag. Joop Snijder: Gebruik ik AI nou ook op een manier die past bij dat systeem nul denken? Joop Snijder: En dus stelde ik die vraag maar gewoon naar ChatGPT zelf. Joop Snijder: En dat ging als volgt. Joop Snijder: Als je mijn interactie met jou analyseert en bekijkt wat je van mij weet uit eerdere conversaties. Joop Snijder: Zou je kunnen aangeven of en hoe ik gebruik maak als systeem nul denken? Joop Snijder: En dit was het antwoord. ChatGPT: Goede vraag. ChatGPT: en precies het soort reflectie waar systeem nul denken om vraagt. ChatGPT: Als ik kijk naar hoe jij mij gebruikt op basis van onze interacties tot nu toe, ChatGPT: dan zie ik dat je me zeker bewust inzet als een verlengstuk van je denken, maar niet als vervanging daarvan. ChatGPT: Jij gebruikt mij niet om voor jou te denken, maar om sneller en scherper te kunnen denken. ChatGPT: En dat is eigenlijk precies wat de onderzoekers in Nature ook als positief potentieel zien van System Nul. ChatGPT: Je vraagt bijvoorbeeld om teksten te schrijven in jouw stijl, ChatGPT: op basis van inhoudelijke bronnen die je zorgvuldig kiest, ChatGPT: en met duidelijke richtlijnen over toon, structuur en impact. ChatGPT: Dat betekent dat jij het kader bepaalt. ChatGPT: Jij bent systeem 2 en je laat mij vervolgens het zware, repetitieve of tijdsintensieve werk doen, ChatGPT: de systeem 0 laag. ChatGPT: Jij behoudt de regie en beoordeelt wat ik oplever kritisch. ChatGPT: Je gebruikt me dus als denkhulp, niet als besluitmachine. ChatGPT: Kortom, jij gebruikt AI als gereedschap, niet als gids. ChatGPT: En daarmee zit je, als ik de onderzoekers mag geloven, aan de juiste kant van het spectrum. Joop Snijder: Poeh, dat is dan toch wel een geruststelling als je dat zo hoort. Joop Snijder: Durf jij het aan om deze vraag over jezelf te stellen? Ik ben heel erg benieuwd. Joop Snijder: En dat brengt me eigenlijk bij de kern van deze aflevering. Joop Snijder: Want als zelfs ik, terwijl ik dit schrijf, af en toe moet checken of ik nog zelf denk, dan weet ik, ja dit raakt ons allemaal. Joop Snijder: En systeem nul denken is geen ver-van-je bedshow of academische abstractie. Joop Snijder: Het zit al in ons dagelijks handelen. Joop Snijder: In hoe we mailen, zoeken, schrijven, beslissen. Joop Snijder: De vraag is dus niet of we ermee te maken krijgen. Joop Snijder: Maar hoe we ermee te maken krijgen. Joop Snijder: Dus ja, systeem nul denken is geen toekomstmuziek meer. Joop Snijder: Het is al een onderdeel van mogelijk je dagelijks leven. Joop Snijder: Van mij in ieder geval wel. Joop Snijder: Toen ik begon aan het onderwerp wist ik eerlijk gezegd nog niet zo goed. Joop Snijder: wat ik ervan moest vinden. Het voelde abstract, misschien zelfs wat overdreven. Joop Snijder: Maar na alles wat ik gelezen, gehoord en zelf ervaren heb, merk ik dat het me aan het denken zet. Joop Snijder: En dat is toch wel precies waar het om draait. Joop Snijder: De technologie is krachtig, toegankelijk en vooral steeds persoonlijker. Joop Snijder: Maar het vraagt dan ook van ons iets terug. Joop Snijder: Dat we alert blijven, bewust kiezen en kritisch blijven reflecteren. Joop Snijder: Dus gebruik AI om jezelf te versterken, niet om jezelf te vervangen zou ik zeggen. Joop Snijder: Laat het je helpt bedenken, maar nooit voorkauwen. Joop Snijder: En wees nieuwsgierig. Joop Snijder: Blijf oefenen, blijf leren. Joop Snijder: En vooral durf je eigen kompas te volgen. Joop Snijder: Ook als de technologie sneller lijkt. Joop Snijder: Want uiteindelijk is dat misschien wel de grootste kracht van menselijk denken. Joop Snijder: Dat we bewust kunnen kiezen hoe we technologie inzetten. Joop Snijder: Dat is het voor vandaag. Joop Snijder: Maar bedenk, AI is niet de oplossing voor elk probleem. Joop Snijder: Maar onmisbaar waar het past. Joop Snijder: Dankjewel weer voor het luisteren. Joop Snijder: Tot de volgende keer.