De onzichtbare lagen van ChatGPT

Hoi, welkom bij de korte aflevering van AIToday Live. Ik ben Joop Snijder, CTO bij Aigency. En vandaag gaan we de onzichtbare wereld achter AI-systemen, chatbots, zichtbaar maken. Je chat misschien dagelijks met ChatGPT, Copilot of Claude. Maar wist je dat je zelden direct met het pure AI-model communiceert? In werkelijkheid zit er namelijk een hele infrastructuur van software rondom deze modellen. die je input eerst verwerkt en de output bewerkt voordat jij het resultaat ziet. En dit verborgen aspect heeft best een behoorlijke invloed op wat deze technologie kan doen en hoe wij ermee omgaan. Dus tijdens deze aflevering ontdek je deze onzichtbare lagen, wat ze mogelijk maken en welke uitdagingen ze met zich meebrengen. De evolutie van AI-systemen laat een duidelijke ontwikkeling zien. De eerste taalmodellen waren eenvoudig, ze werkten direct met de tekst die ze ontvingen zonder tussenstappen. Maar naarmate AI complexer werd, groeide ook de behoefte aan geavanceerdere methoden om verschillende soorten input te verwerken. Het is vergelijkbaar met de evolutie van videogames. Pong, een van de eerste computerspelletjes met niet meer dan twee balkjes en een stuiterende bal op een zwart scherm, dat was simpel en direct. Wat je zag is wat je kreeg. En moderne games hebben daarentegen complexe engines nu voor fysica, grafische weergave en gebruikersinterfaces die samenwerken om een meest slepende ervaring te creëren. En op dezelfde manier zijn hedendaagse AI chatbots complete ecosystemen geworden met gespecialiseerde componenten die verschillende datatypen kunnen verwerken. Van tekst tot afbeeldingen, spreadsheets en zelfs video en audio. Pre-processing en post-processing zijn twee belangrijke begrippen om te begrijpen. Pre-processing, pre-processing, moet ik eigenlijk zeggen, omvat alle bewerkingen die plaatsvinden op je input voordat deze het AI-model bereikt. Post-processing betreft de bewerkingen die worden uitgevoerd op de output van het model voordat jij het resultaat ziet. Stel je een restaurant voor. Het AI-model is de chef-kok. Maar voordat jouw ingrediënten bij de chef komen, worden ze voorbereid door keukenhulpjes. En nadat de chef een gerecht heeft bereid, zorgen andere medewerkers voor de presentatie voordat dat bij jou op tafel komt. Dit is dus vormen van pre-processing en post-processing. En de manier waarop verschillende bestandstypen worden verwerkt, verschilt sterk tussen AI-systemen. Bij afbeeldingen maken moderne AI chatbots gebruik van speciale vision technologie. Deze multimodale modellen zijn specifiek getraind om zowel tekst als afbeeldingen te interpreteren en begrijpen. Terwijl voor pdf documenten werkt het heel anders. De software extraheert alleen de ruwe tekst uit het document, waardoor soms complexe layouts vaak tot verwarring kunnen leiden. Afbeeldingen en grafieken in de pdf worden soms volledig genegeerd. En dan is het alsof je een rijk geïllustreerd boek voorleest aan iemand die niet kan zien. Bij spreadsheets schakelen veel AR-systemen over naar een data-analyse-modus. Waarin ze code genereren om de gegevens weer te interpreteren. En dit werkt uitstekend voor numerieke gegevens. Maar is natuurlijk veel minder effectief voor textuele inhoud in die spreadsheets. Audio en video vormen een nog grotere uitdaging. Sommige modellen zijn hier aanzienlijk beter in dan andere, maar de verwerking blijft complex en is nog volop in ontwikkeling. Deze verwerkingslagen betekenen een enorme vooruitgang in hoe we de AI, de chatbots, nu kunnen inzetten. Zonder deze extra software zouden taalmodellen beperkt blijven tot platte tekst. Nu kunnen we complexe documenten, beelden en datasets analyseren. Denk bijvoorbeeld aan een bedrijf dat jarenlang rapporten heeft verzameld en die dat nu in één keer kan laten analyseren. Of een marketingteam dat duizenden afbeeldingen automatisch kan laten beoordelen. Deze verbreding van toepassingsmogelijkheden maakt AI toegankelijker en relevanter voor steeds meer sectoren. Maar natuurlijk zijn er ook risico's en uitdagingen verbonden aan deze verwerkingslagen. Een groot probleem is het gebrek aan transparantie. Wij als gebruikers hebben vaak geen idee hoe je input wordt verwerkt. En dit kan leiden tot miscommunicatie. Bijvoorbeeld wanneer je een spreadsheet vol belangrijke grafieken uploadt, maar de AI alleen de kale getallen kan zien. Daarnaast brengen deze verwerkingslagen ook nieuwe beveiligingsrisico's met zich mee. De preprocessing software kan kwetsbaarheden bevatten die niet in het kernmodel aanwezig zijn. Neem bijvoorbeeld prompt injection aanvallen. Dat is een techniek waarbij kwaadwillende verborgen instructies in beelden of documenten kunnen verstoppen. En omdat de verwerkingslagen deze bestanden omzet naar tekst voordat het AI-model ze ziet, kunnen aanvallers commando's invoegen die het model niet zou mogen uitvoeren. Het is alsof iemand een geheime boodschap in een foto verstopt die alleen de AI kan lezen waardoor het model dingen doet die jij niet hebt gevraagd. Tot slot ontstaan er complexe verantwoordelijkheidsvragen. Want als een chatbot een fout maakt, wie draagt dan de verantwoordelijkheid? Is dat de schuld van het taalmodel of ligt het aan de verwerkingssoftware? Ik wil je een aantal praktische tips geven om effectiever met deze technologie te werken. Wees je bewust van hoe verschillende bestandstypen worden verwerkt. Bij een complexe spreadsheet met veel tekst kun je overwegen die tekst apart te kopiëren en direct in de chat te plakken. Voor pds met belangrijke visuele informatie beschrijf je de hoofdpunten in je bericht zodat het AI model begrijpt wat het mogelijk mist. Als het AI systeem je input verkeerd interpreteert probeer de informatie anders aan te leveren in een andere vorm. Soms maakt een kleine aanpassing een groot verschil. Vergelijk ook verschillende AI platforms. Want ze verwerken bestandstypes allemaal op een eigen manier. Wat bij het ene systeem werkt, werkt misschien niet bij het andere. Of juist andersom natuurlijk. We hebben vandaag een kijkje genomen in de verborgen wereld van software rondom AI modellen. Deze lagen van pre- en postprocessing maken AI veelzijdiger. Maar brengen ook hun eigen uitdagingen met zich mee. Door te begrijpen hoe deze processen werken kun je effectiever gebruik maken van AI technologie. En beter anticiperen op mogelijke problemen. Ik daag je uit om te experimenteren met verschillende soorten bestanden in je favoriete AI tool. Let op hoe verschillende inputs worden verwerkt. En pas je verwachtingen daarop aan. Maak aantekeningen over wat wel en niet werkt. En deel deze inzichten dan met anderen in je organisatie. En als laatste bedenk altijd goed, AI is niet de oplossing voor elk probleem, maar onmisbaar waar het past. Dankjewel weer voor het luisteren naar deze aflevering. Wil je geen aflevering missen? Abonneer je dan even via je favoriete podcast app. Tot de volgende keer!