De Waarheid Achter AI-Hallucinaties

Hoi, leuk dat je weer luistert naar een korte aflevering van AIToday Live. Mijn naam is Joop Snijder, CTO bij Aigency. En vandaag ga ik het hebben over het begrip Hallucinaties en AI. In het tijdperk waarin de grenzen van kunstmatige intelligentie steeds verder worden verlegd, komt er een term langs die zowel fascinatie als wat mij betreft verwarring oproept. Dat zijn namelijk hallucinaties. Hallucinaties van chatbots zoals ChatGPT, Googlebot, je kent ze wel. Deze term wordt gebruikt om de neiging van AI modellen om incorrect gegenereerde informatie te beschrijven. En ik geloof sterk dat het tijd is om deze beschrijving te herzien, die van de hallucinatie. De discussie rond AI en zijn vermogens raakt aan essentiële vragen over onze eigen menselijkheid en hoe wij de wereld ervaren. Want wanneer mensen de term hallucinatie gebruiken met betrekking tot chatbots, bedoelen ze hun vermogen om antwoorden op vragen te verzinnen. Als je een chatbot vraagt een artikel over een onderwerp te schrijven en referenties op te nemen, kunnen sommige van de citaten die het geeft, complete verzinsels zijn. De bronnen bestaan simpelweg niet en hebben ook nooit bestaan. Wanneer je biografische informatie over een echte persoon opvraagt, kan een chatbot informatie teruggeven die eenvoudigweg nonsens is. Alsof het deze uit het niets heeft geplukt en als feiten presenteert. Probeer maar eens over jezelf te vragen welke functie je binnen jouw bedrijf hebt. Grote kans dat dat iets heel anders is dan de werkelijkheid. Dit vermogen om onjuiste informatie te genereren wordt nu een hallucinatie genoemd. Maar het gebruik van die term in die context is een gevaarlijke misvatting over de toestand van kunstmatige intelligentie en de relatie ervan met wat mensen doen als ze hallucineren. Kijk op Wikipedia voor een definitie van hallucinatie en je krijgt dit. Een hallucinatie is een niet-zintuigelijke beleving die niet overeenkomt met wat er in de fysieke werkelijkheid gebeurt. Anders gezegd, een hallucinatie is een waarneming waarbij de prikkel uit de buitenwereld ontbreekt. Bij een hallucinatie proeft, ziet, voelt of ruikt men zaken die niet in de buitenwereld voorkomen. Het is duidelijk dat je zintuigen betrokken zijn bij een hallucinatie en daar loopt het mank bij het gebruik van de term voor AI. Bij de AI is er geen zintuigelijke waarneming door een taalmodel. Sterker nog, er is niet eens een begripsvorming. AI functioneert op basis van statistische correlaties binnen enorme datasets en mist de fysieke ervaring en de directe verbondenheid met de wereld die centraal staan in onze menselijke ervaring. Het label hallucinatie voor AI-fouten negreert dit fundamentele verschil. Dit onderscheid is niet slechts een kwestie van semantiek, daar heb ik ook een hekel aan, maar het raakt aan de kern van mijn begrip van AI en hoe we deze technologie integreren in onze samenleving. Door AI-fouten als 'hallucinaties' te bestempelen, vrees ik dat we het vermenselijken van de technologie bevorderen die ons begrip van wat AI werkelijk kan en moet doen, vertroebelt. We projecteren menselijke eigenschappen op systemen die fundamenteel anders zijn, wat kan leiden tot misverstanden over de capaciteiten en beperkingen van deze technologieën. Nu zie ik het echte gevaar niet zozeer in de zogenaamde hallucinaties van AI, maar in het onvermogen om de mogelijkheden en beperkingen van AI binnen de juiste context te zien. Als we niet erkennen dat de fouten van AI voortkomen uit een statistische aard en niet uit de vorm van bewustzijn, dan creëren we, nee ik moet zeggen riskeren we, dat we oplossingen bouwen die niet aansluiten bij onze menselijke ervaringen en behoeften. Dit kan ons uiteindelijk minder menselijk maken. Dan worden wij gedwongen om ons aan te passen aan de beperkingen van de technologie in plaats van dat de technologie ons dient. Wat mij betreft het belangrijkste is juist van die technologie. Dus de toekomst van AI in onze samenleving is rijk aan potentieel. Wat het allemaal kan, maar het vereist van ons een zorgvuldige en geïnformeerde benadering. We moeten technologie ontwikkelen met een helder begrip van wat het kan en niet kan en hoe het zich verhoudt tot onze menselijke ervaring. Dit betekent afstand nemen van misleidende termen zoals hallucinaties en AI erkennen als een krachtig hulpmiddel dat, indien correct gebruikt, onze samenleving kan verrijken en die onze menselijke ervaringen versterken en verbeteren. Ik ben heel benieuwd wat jij hiervan vindt. Laat je comments achter op de socials, LinkedIn of mail het ons. Ik ben in ieder geval heel erg benieuwd naar jouw reactie. Dank je wel weer voor het luisteren. -