Shorts - ChatGPT liegt niet! Waarheid over Large Language Models

ChatGPT, Google Bard, Microsoft Bing of welke large language model dan ook, die liegen niet. Er wordt gezegd ze kunnen glashard liegen, maar dat is niet waar. Waarom? Dat hoor je zo. Welkom bij een nieuwe aflevering van AIToday Live Shorts, een actueel onderwerp over AI in 5 minuten. Nou zul je denken, nou die is een beetje gek geworden. er wordt overal gezegd dat chat GPT glashard kan liegen. Maar ik ga het je uitleggen. Liegen is opzettelijk. Liegen is een intentie. En wat is er nou met met large language models zoals chat GPT, Google Bart, alles wat ik heb genoemd net in de inleiding. Dat zijn machines en machines hebben geen intentie. Trouwens niet alleen mensen liegen, maar honden kunnen dat ook. Ik heb daar een leuk verhaal over, maar blijf daar even dan voor naar het eind van de aflevering hangen als je die zou willen weten. Nou wat ik al zegde, large language models hebben geen intentie. Die zijn geprogrammeerd en deze large language modellen zijn geprogrammeerd om correcte zinnen te maken. Wat ze doen is token voor token voorspellen. Iedere keer het volgende stukje van een woord of een heel woord, dat noemen we dan een token, voorspellen. Wat uiteindelijk zeg maar moet leiden tot een correcte, syntactische en grammaticaal correcte zin. De betekenis, die verbinden wij eraan. Het hele model is gemaakt om uiteindelijk goede zinnen te creëren, goede Nederlandse, Engelse, welke taal dan ook, zinnen te creëren. En vanuit de mensen, OpenEAR heeft allerlei mensen voor ingehuurd, die zeggen van "dit antwoord klopt bij die vraag" en zo is die getraind om zo goed mogelijk betekenisvolle antwoorden te geven. Dus wij geven betekenis aan die zinnen en als we zeggen dat large language models liegen, maken we wat mij betreft een fundamentele fout. Want dan maken we er iets menselijks van en dat is deze machine niet. We moeten het juist niet vermenselijken en dat is zo lastig want dat doen we met alles. Dat doen we met dieren, met objecten. Maar door het dus liegen te noemen zou er een… nou ja, dan ga je ervan uit dat dat opzettelijk gebeurt. Uiteraard maken dit soort modellen fouten. Het kunnen hele vervelende fouten zijn, het kunnen hele subtiele fouten zijn. En hoe subtieler de fout, hoe lastiger het is om ons te ontdekken. Maar als wij niet snappen dat dit soort modellen fouten kunnen maken, dan behandelen we ze ook niet als zodanig de uitkomst wat je daarmee moet. Het is heel belangrijk dat we snappen dat het fouten zijn. Als we weten wat het fouten kan opleveren, dan kunnen we het hebben over welke controle zou je er aan willen toevoegen. Misschien zelf of als je dit in een productieomgeving binnen je organisatie zou willen gebruiken. Welke vangrils zet je dan in? Een van de dingen waarvan wordt gezegd dat hij liegt is bijvoorbeeld over het geven van weblinks. Dus hij kan een weblink geven en als je daarop klikt werkt hij niet. Uiteindelijk heeft hij allemaal van die stukjes aan elkaar geknopt. Lijkt het een goede weblink, is het een fout. Dus we moeten opletten dat we de machine niet vermenselijken en daarom dus ook geen eigenschappen toekennen die het niet heeft. Liegen. Wat we wel moeten zien is dat het een heel handig gereedschap is en het zo gebruiken. En dit gereedschap kan fouten maken, ernstige fouten. En het is aan ons om daar goed mee om te gaan. Als je met je hamer op je hand slaat, dan is het ook niet dat die hamer in een keer de intentie had om je te mishandelen. Nee, het is uiteindelijk hoe je het gereedschap hebt gebruikt. Dus wat mij betreft, opletten, niet-vermenselijker en ook wat mij betreft geen vermenselijkende taal gebruiken zoals liegen, hallucineren. Want daarmee zet je het voor jezelf in een verkeerd daglicht. Voor degene die de spullen ontvangt in een verkeerd daglicht. Het ding maakt fouten. En daar moet je op letten. Daar moet je wat mee. Maar dat is aan ons. Als het goed is gaan de leveranciers van dit soort middelen, dit soort gereedschappen, Die gaan er aan de slag dat de betekenis die gehangen wordt aan antwoorden op de vraag steeds beter wordt. Maar de large language models zullen altijd fouten opleveren. Aan ons is dus hoe ga je met dit soort fouten om. Zeker, wat ik nog een keer zeg, als je het in productie wil gebruiken. Dank je weer voor het luisteren. Vergeet je niet te abonneren. En wil je nog wat weten over de honden die kunnen liegen, blijf dan even hangen. Dan vertel ik wat eventjes. Ik had twee honden. Voor de hondenliefhebbers een Rhodesian Ridgeback en een Cruising Mechelsen Heddar. En je moet weten dat dat allebei best wel waakhonden zijn. En als ik ze allebei een bot gaf, dan had de Ridgeback, die was daar zo op, dus die had eigenlijk zo dat bot op en dan was zij, want het was een vrouwtje, jaloers op de meggelse herder dat die dan nog zijn bot had. En wat ze dan deed, was eerst bij de kast gaan zitten waar normaal gesproken de hondensnoepjes uitkwamen. Dan gingen ze er strak voor zitten en dan reageerde hij op. Ging hij daar naartoe, hup, zij naar de bot. Maar dat had hij wel na twee, drie keer had hij dat in de gaten. Wat deze vervolgens, en wat ik al zei, het zijn wakenhonden. Dus wat zij deed, is rennen naar de keuken. Daar staan blaffen. En dat waken, dat zit zo diep in zijn instinct. Dus dan moest hij wel rennend, blaffend naar de keuken. Stond hij in het wilde weg te blaffen. Zij draaiden zich om. Huppatee, bordje te pakken. Dus wat dat betreft, liegen, bedriegen, is blijkbaar niet alleen menselijk. Honden kunnen dat ook.