De kunst van prompt engineering: tips van Claude en Advanced Voice

Hi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live, de korte aflevering. Mijn naam is Joop Snijder, CTO bij Aigency. Ik moest een keuze maken voor deze aflevering. Want aan de ene kant heeft het team van Anthropic, Claude, hele goede tips gedeeld in een YouTube film over promptengineering. Maar aan de andere kant hebben we op dit moment toegang bij OpenAI tot wat genoemd wordt Advanced Voice. Ik heb gekozen voor, laten we zeggen, een combinatie van beide. Een van de belangrijkste tips namelijk, uit dat Claude team, was dat je om goed promptengineering te doen, dat je iteratief je prompt gaat verbeteren. En wat betekent dat nou? Dat hoor je in deze aflevering. En ik heb bedacht, hoe leuk zou het nou zijn als je de stem hoort van Advanced Voice, van OpenAI. Dus je kan nu in de app, op het website, mits je een betaald account hebt, kan je daadwerkelijk een conversatie voeren in natuurlijke taal. Krijg je het ook gesproken terug. En hoe dat dan klinkt, dat ga ik je laten horen. Dus ik doe een interview met de Advanced Voice van OpenAI over het belang van iteratief ontwikkelen van je prompts. En dit gesprek heeft in real-time plaatsgevonden voor deze opname. Het leuke is, je kan zelf stemmen kiezen. Ik heb een van de Nederlandse stemmen gekozen. Maar er zijn mannenstemmen, vrouwenstemmen, kijk wat het beste bij je past. Je gaat nu horen het gesprek wat ik heb gevoerd over iteratief promptengineering. Kun je mij vertellen wat promptengineering is en hoe belangrijk het is dat je dit iteratief aanpakt? Natuurlijk. Promptengineering is het proces van het ontwerpen en aanpassen van invoeropdrachten om de uitvoer van taalmodellen, zoals GPT, te sturen. Denk hierbij aan het formuleren van vragen of opdrachten op een manier die het model aanspoort om nuttige en relevante antwoorden te geven. Het iteratief aanpakken van promptengineering is belangrijk omdat het helpt om de reacties van het model te verfijnen. Door steeds opnieuw de prompt aan te passen en de resultaten te evalueren, kun je de prestaties van het model optimaliseren en de meest effectieve, den bruikbare antwoorden verkrijgen. Is er een manier dat het taalmodel je erbij kan helpen in dit iteratieve proces? Zeker. Het taalmodel kan een waardevolle partner zijn in het iteratieve proces van promptengineering. Hier zijn een paar manieren waarop het kan helpen. Feedback op prompts. Je kunt het model vragen om feedback te geven op je prompts en suggesties voor verbeteringen. Dit kan je helpen om effectievere prompts te maken. Verschillende formuleringen testen. Door verschillende versies van een prompt aan het model voor te leggen, kun je zien welke formuleringen de beste resultaten opleveren. Amaliseren van output. Het model kan helpen om de gegenereerde output te analiseren en te verklaren waarom bepaalde prompts beter werken dan andere. Voorbeelden geven. Het model kan voorbeelden genereren van hoe een prompt kan worden verbeterd of aangepast om betere resultaten te krijgen. Door deze interactie met het model kun je je prompts steeds verder verfijnen en optimaliseren. Als ik de API gebruik, de programmeerinterface, kan ik natuurlijk ook settings aangeven bij het aansturen van het taalmodel. Iets als bijvoorbeeld de temperatuur. Helpt dat? Ja, dat klopt. Bij het werken met de API kun je verschillende instellingen aanpassen, waaronder de temperatuur. De temperatuurinstelling bepaalt hoe creatief of conservatief het model reageert. Hier zijn een paar details. Lage temperatuur, bijvoorbeeld 0,2. Het model zou voorspelbaardere en consistentere antwoorden geven. Het kiest meer voor de zekere woorden. Dit is handig als je nauwkeurigheid boven creativiteit waardeert. Ja, precies. Dat hebben we al eens een keer in een eerdere aflevering behandeld. Dus ik heb eigenlijk een andere vraag. Want bij dat iteratief hiermee bezig gaan, kan je dus ook deze instellingen klein beetje gaan aanpassen, toch? Exact. Tijdens het iteratieve proces kun je experimenteren met verschillende instellingen, zoals de temperatuur, om te zien hoe ze de output beïnvloeden. Door kleine aanpassingen te maken kun je ontdekken welke instellingen de meest gewenste resultaten opleveren voor jouw specifieke toepassing. Dit helpt je om een balans te vinden tussen voorspelbaarheid en creativiteit in de antwoorden van het model. Dat is best een goede tip. Maar wat zijn nou eigenlijk de drie belangrijkste tips voor het automatiseren van processen met prompt? Dus ik wil dit eigenlijk gebruiken in een geautomatiseerd proces voor het optimaliseren van mijn businessproces. Bij het automatiseren van processen met prompts zijn er drie belangrijke tips om in gedachten te houden. Duidelijke en specifieke prompts. Zorg dat je prompts helder en specifiek zijn. Vaagheid kan leiden tot inconsistente of ongewenste resultaten. Het is belangrijk om duidelijk te communiceren wat je van het model verwacht. Iteratief verbeteren. Automatisering met taalmodellen is een leerproces. Test je prompts en analyseer de output. Gebruik deze inzichten om je prompts te verfijnen en te verbeteren voor nauwkeurigere en betrouwbaardere resultaten. Gebruik van variabelen. Maak gebruik van variabelen in je prompts om hergebruik en aanpasbaarheid te vergemakkelijken. Dit stelt je in staat om dezelfde prompt te gebruiken voor verschillende situaties, wat tijd bespaart en consistentie in je geautomatiseerde proces bevordert. Het verschil tussen goed gespecificeerde en vaag gespecificeerde prompts is een ding. Kan je een voorbeeld geven van eerst een prompt die blijkbaar te vaag is en dan een verbeterde slag van hoe het er dan wel uit zou kunnen zien? Natuurlijk. Laten we eens kijken naar een voorbeeld. Te vage prompt. Vertel me iets over bomen. Deze prompt is vrij breed en laat veel ruimte voor interpretatie. Het model zou kunnen praten over soorten bomen, hun biologie, symboliek of andere aspecten, maar het is onduidelijk wat je precies wilt meten. Kun je me vertellen over de rol van bomen in het ecosysteem, met de focus op hoe ze zuurstof produceren? Deze versie is veel specifieker en geeft het model een duidelijkere richting. Het weet nu dat het zich moet richten op de ecologische rol van bomen en specifiek op zuurstofproductie. Duidelijk, maar ik heb toch nog wat vragen over de prompt engineering. Wat zijn nou de drie belangrijkste dingen die je juist niet moet doen bij prompt engineering? Goeie vraag. Bij prompt engineering zijn er ook valkuilen die je wilt vermijden. Hier zijn drie belangrijke dingen die je niet moet doen. Te vage prompts. Het geven van algemene of onduidelijke prompts dan leidt tot inconsistente of irrelevante antwoorden. Ja, die heb je net al genoemd bij de tips om het wel te doen. Maar wat zijn nou echt dingen die je absoluut niet moet doen? A. Begrepen. Hier zijn drie specifieke don'ts bij prompt engineering. Dubbelzinnigheid introduceren. Vermijd het gebruik van dubbelzinnige taal of vragen die op verschillende manieren geïnterpreteerd kunnen worden. Dit kan verwarring veroorzaken en tot ongewenste antwoorden leiden. Overladen met informatie. Het geven van te veel informatie of te lange prompts kan het model overweldigen en de relevantie van de antwoorden verminderen. Laten we even op dat laatste punt even doorgaan. Want uiteindelijk willen we veel informatie geven. Waarom kun je een taalmodel dan overweldigen met te veel context? Een te grote hoeveelheid context kan het taalmodel overweldigen om een paar redenen. Verlies van focus. Als er te veel informatie in de prompt staat, kan het model moeite hebben om te bepalen wat het belangrijkste is. Hierdoor kan het afdwalen van het hoofdonderwerp en minder relevante of off-topic antwoorden geven. Beperkte geheugenruimte. Het model heeft een gelimiteerde contextlengte die het in één keer kan verwerken. Als je prompt te lang is, wordt een deel van de informatie mogelijk afgeknipt, wat invloed kan hebben op de kwaliteit van de output. Verhoogde complexiteit. Te veel context kan de taak complexer maken voor het model, waardoor het moeilijker wordt om een coherent en accuraat antwoord te genereren. Het is daarom belangrijk om de juiste balans te vinden tussen het geven van voldoende context en het vermijden van overbelasting van het model. Ik kan me voorstellen dat het best wel een hele lastige vaardigheid is om die balans te vinden. Wat zouden we daarin kunnen doen? Ja, het vinden van de juiste balans kan een uitdaging zijn. Maar er zijn strategieën die je kunt gebruiken om deze vaardigheid te ontwikkelen. Experimenteren. Probeer verschillende hoeveelheden context in je prompts en analyseer hoe het model reageert. Door trial and error leer je wat voor jouw specifieke toepassing het beste werkt. Iteratieve aanpak. Begin met een basisprompt en voeg geleidelijk meer context toe, waarbij je telkens de reacties van het model evalueert. Zo kun je de impact van elke extra hoeveelheid informatie beter inschatten. Feedback van anderen. Vraag collega's of andere experts op je prompts en de output. Zij kunnen je nieuwe inzichten geven en je helpen om je aanpak te verbeteren. Gebruik van richtlijnen. Er zijn richtlijnen en best practices voor promptengineering beschikbaar die je kunt raadplegen om beter inzicht te krijgen in hoe je effectieve prompts opstelt. Door te oefenen en deze strategieën toe te passen, kun je je vaardigheden in promptengineering geleidelijk verbeteren. Oh mooi! Zou je nog iets willen toevoegen wat belangrijk is wat we besproken hebben vandaag? We hebben veel besproken over promptengineering vandaag. Om het samen te vatten, wees duidelijk en specifiek in je prompts. Experimenteer en iterateer om te leren wat werkt. En vermijd het over belasten van het model met te veel informatie. Promptengineering is een vaardigheid die je kunt verbeteren met oefening en geduld. Blijf nieuwsgierig en sta open voor leren. En je zult zien dat je steeds beter wordt in het sturen van taalmodellen. Super! Ik denk dat we best wel een heel goed beeld hebben gekregen van hoe er gesproken wordt. Je ziet ook dat je antwoorden kan interrumperen. Dat je het model kan vragen om specifieker te zijn. Ik vond het ontzettend leuk en leerzaam om zo met Advanced Voice even dingen uit te proberen. Ik zou zeggen, ga het ook uitproberen. Bedenk wel, de antwoorden die gegeven zijn heb ik uiteraard wel gecontroleerd en het klopt wat gezegd is. En blijf luisteren want in een volgende aflevering ga ik het hebben over alle tips die het Claw Team uiteindelijk gegeven heeft. Dank je wel weer voor het luisteren. Vergeet je niet te abonneren voor je je favoriete podcast te hebben, want dan mis je ook geen aflevering. Tot de volgende! [Muziek]