Rekening houden met een taalmodel? Het voelt niets!

Leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Ik ben Joop Snijder, Head of AI bij Info Support en wel gaaf, want het is vandaag de 99ste aflevering van dit seizoen. Ja, wij gaan gewoon door. Maandag hoor je gewoon nummer één van het negende seizoen. Maar goed, hele mooie afsluiting, denk ik, van dit achtste seizoen. Maar wel over een onderwerp. Laat ik zo zeggen, een vraag die ik nooit had verwacht te moeten beantwoorden, namelijk: moet je rekening houden met de gevoelens van een taalmodel? Misschien herken je het wel. Je bent dan een uur bezig met een chatbot en voor de derde keer krijg je een antwoord dat echt nergens op slaat. En je typt iets in wat je nooit tegen een collega zou zeggen. Ik doe dat soms zelfs met hoofdletters en meerdere uitroeptekens. En het bedrijf achter het taalmodel Claude, Anthropic, heeft daar een regel voor opgenomen in zijn gebruiksvoorwaarden. Over deze manier van communiceren met een taalmodel. En wat ze zeggen: gewone frustratie valt niet onder die gebruiksvoorwaarden. En ook niet als je het fundamenteel oneens bent met de uitkomst, en ook niet als je duistere thema's in een verhaal wilt hebben. De regel die ze hebben opgenomen gaat over gebruikers die een model, zoals ze het zelf omschrijven, herhaaldelijk en zonder enig doel wreed behandelen. En het model mag dan zo'n gesprek beëindigen. Waarom doen ze dit dan? De uitleg staat in een onderzoeksartikel van Anthropic. Het bedrijf schrijft dat het grote onzekerheid heeft over de morele status van taalmodellen. Met andere woorden, ze weten niet of er iets zit dat je zou kunnen kwetsen. Daarom nemen ze goedkope voorzorgsmaatregelen, voor het geval dat een model toch zoiets als welzijn heeft. In een test merkten ze dat het model ook een sterke afkeer had van schadelijke opdrachten. Het weigerde, het stuurde bij en het beëindigde gesprekken zodra dat mocht. Dat noemen ze zelf ogenschijnlijke onrust. Laat ik vooraf stellen wat ik wel begrijp, voordat we naar het deel gaan waar ik echt niets van begrijp. Een model dat weigert te helpen bij het maken van een wapen, beschermt de samenleving. Daar ben ik het volledig mee eens. Die grenzen gaan over ons als mensen en de maatschappij. Maar rekening houden met de mogelijke gevoelens van een taalmodel? Dat vind ik grenzend aan idiotie, zou je kunnen zeggen. Mijn overtuiging is eigenlijk heel eenvoudig. Gevoelens horen bij het leven. Een taalmodel leeft niet. Het heeft geen lichaam, geen honger, niets te verliezen. Het is een berekend model dat voorspelt welk woord waarschijnlijk volgt. Waar we hele gave dingen mee kunnen doen, maar dat is het wel in essentie. We vragen toch ook niet of je zachtjes op de knoppen van je rekenmachine wilt drukken, voor het geval die ooit gevoelens ontwikkelt? Welk object kent gevoelens? Er is geen enkel bewijs dat een ding, hoe slim ook gebouwd, gevoelens kan krijgen. En de sprong van "het lijkt erop" naar "misschien voelt het iets" is veel en veel te groot. Die vergelijking vind ik zelf minder ver gezocht dan hij klinkt. De vergelijking tussen rekenmachine en taalmodel. Want een taalmodel draait namelijk op dezelfde soort onderdelen als je rekenmachine. Miljarden kleine schakelaartjes, transistors in een chip. En het doet uiteindelijk ook hetzelfde. Vermenigvuldigen, optellen, alleen vele miljarden keren achter elkaar. Een taalmodel rekent ook. Een taalmodel is dus geen bijna mens. Het is eerder een gigantische rekenmachine. En nergens in die berekening komt een nieuw ingrediënt bij dat ineens gevoel oplevert. Gelukkig ben ik daar niet de enige in. Er is neurowetenschapper Anil Seth. En die vergelijkt het met gezichten herkennen in wolken. Wij mensen dichten een binnenwereld toe aan machines die uitstekend kunnen nabootsen wat wij doen. Bewuste AI is onwaarschijnlijk. Dat vind ik ook. Nu denk je misschien: weten we dat wel zeker? Er zijn drie tegenwerpingen die vaak terugkomen. De eerste is dat niemand precies weet wat er binnen zo'n model gebeurt. Dat klopt. Een taalmodel wordt getraind en niet regel voor regel ontworpen. Maar onzekerheid maakt nog niet iets waar. Moet je rekening houden met elke hypothese die je niet met zekerheid kunt uitsluiten, dan kom je nergens meer. Morgen verzint iemand een nieuw scenario en overmorgen nog één. Wie elke kleine kans serieus neemt, laat zich uiteindelijk gijzelen door elk verzonnen verhaal. Soms wordt de vergelijking met onze hersenen erbij gehaald. Die zijn toch ook maar cellen en stroompjes, zeggen ze dan. Maar we weten nog helemaal niet precies hoe onze hersenen werken. Dus die vergelijking loopt mank. En de tweede tegenwerping is dat het model zich gedraagt alsof het iets wil. Ook dat klopt. Maar waar komt dat vandaan? Uit miljarden zinnen die mensen hebben geschreven. Mensen die boos werden, die grenzen trokken, die een gesprek afkapten. En het model dat na-doet. Die speelt een rol die het van ons heeft geleerd. Een routeplanner die "helaas" zegt bij een file heeft ook geen spijt. De derde tegenwerping klinkt misschien het sterkst. Bij dieren hadden we het toch ook mis. Lange t Het bewijs kwam uit de biologie. Bij een taalmodel ontbreekt dat allemaal. Geen gedeelde afkomst, geen zenuwstelsel, geen lichaam. En het gek is dus bij dieren negeerden we dat bewijs. Bines willen we dat dan heel graag zien. Maar daar valt niks te negeren want daar is geen bewijs. Is dit dan een onschuldige regel van Anthropic en die gebruiksvoorwaarden waar je niet druk om hoeft te maken? Nee, want anders zou ik überhaupt deze aflevering niet maken. Maar nog verder. Een regel in de voorwaarden, die kost wel degelijk iets. En zij zeggen van het is een goedkope regel. Ik ben het er daar niet mee eens. Want dat legt namelijk een norm vast. En die norm vertelt miljoenen miljoenen gebruikers dat er aan de andere kant misschien iets of iemand zit. Daar vind ik echt wat van. En er zit nog iets achter dat me dwars zit. Namelijk, een bedrijf schrijft in zijn voorwaarden voor hoe je met een product praat. Vandaar gaat het dan om extreme gevallen, zeggen ze. En dat geloof ik ook echt wel. Maar met zo'n regel begeef je toch op een hellend vlak. Wie bepaalt wat wreed is en wie bepaalt volgend jaar waar de grens ligt. En over gebruiksvoorwaarden kun je ook niet onderhandelen. Het bedrijf past ze aan en jij gaat akkoord of je stopt. En vandaag beschermt de regel tegen ontsporing. Morgen kan dezelfde regel een stijlgids zijn voor hoe beleefd je moet zijn tegen software. Ik zeg niet dat het zo gaat lopen. Ik zeg wel dat die deur nu open staat en deuren gaan zelden vanzelf weer dicht. Betekent dit dat je dan tegen een model maar mag schelden zoals je wil, dat is uiteindelijk mijn punt. Ik vind het namelijk gezond om gewoon normaal te communiceren. Maar dat doe je dan wel voor jezelf en niet voor een machine. Wie de hele dag snauwt tegen een chatbot, oefent vooral in snauwen. Dat gedrag neem je mee naar de mensen om je heen, mogelijk. Filosofen zeiden eeuwen geleden al over wreedheid dat die vooral iets doet met degene die wreed is. Dezelfde gedragsregel dus, maar dan wel met de juiste reden erachter. Ik ben heel benieuwd hoe jij hierover denkt of je wel eens wat zou zeggen wat deze gebruiksvoorwaarden schendt. Wat mij betreft, noem AI wat het is: gereedschap dat veel kan en niets voelt. En bedenk sowieso als altijd: AI is niet de oplossing voor elk probleem, maar onmisbaar waar het past. Vind je deze aflevering de moeite waard? Deel hem dan met vrienden en familie. Sowieso abonneren via je favoriete podcastapp, dan mis je geen aflevering. Tot de volgende keer.