AI & AI-agents: de grote vragensessie

We hebben een bijzondere aflevering. We gaan vragen beantwoorden van een webinar die Ik gehad heb met een collega Wilco de Vries. Voor het verbond van verzekeraars. En we konden daar niet alle vragen behandelen. Dus we hebben gezegd. Daar maken we dan een mooie aflevering van. Want ik denk dat de vragen die gesteld zijn. Niet alleen interessant zijn voor verzekeraars. Sterker nog. Ik denk dat dat heel breed heel erg interessant is. Dus dat is eigenlijk het hele idee van vandaag. Lijkt me leuk toch? Allemaal vragen. Nou ja. Laten we maar meteen beginnen met de eerste toch? Ja. En we hebben ze niet gesorteerd. Dus we gaan gewoon op volgorde van boven naar beneden. Dus we gaan direct aan de slag met de eerste vraag. En die luidt als volgt. Wat zal er eerder gebeuren? Oeh, dat is al een mooie opbouw van de vraag moet ik zeggen. Dat AI agents in de verzekeringswereld ons helperclaims sneller af te handelen. Of dat ze zelf een schadeclaim indienen omdat wij ze te veel prompts geven. Te veel prompts? Ja, je dacht ergens heet. Ik zag er je ook. Ja, maar dat is eigenlijk van nog een keer. Dus eerst gaan de AI agents de verzekeringswereld helpen de claim sneller af te handelen. Oh ja. Of dat de AI agents zelf een schadeclaim indienen omdat wij ze te veel prompts geven. Ja, dat is een hele goede vraag. Dat is natuurlijk een beetje een kijkje in de toekomst. Dat is wat altijd een beetje lastig is. Maar ik denk op korte termijn dat het inderdaad kan helpen om je schadeclaims sneller af te handelen. Dus AI en of het nou agents zijn of niet. Dat maakt me niet zoveel uit. Kunnen je heel goed helpen bij allerlei standaardclaims. Maar wat er zeker gaat gebeuren. Is dat mensen persoonlijke agents gaan inzetten. Om claims in te gaan dienen. Dus als je met AI de drempel verlaagt. Om claims in te gaan dienen. Dan kan je het denk ik als verzekeraar. Maar ook als je een klantenservice hebt. Of wat dan ook. Dat klanten eerder geneigd zijn om contact met je te leggen, maar dan via een agent. Want daar is dan heel weinig moeite voor. Dus daar moet je je denk ik op gaan voorbereiden. Waarbij je dan nu misschien een chatbot hebt die van alles aan vragen voor jou afhandelt. Dat daar en grotere volumes op komen, misschien complexere vragen. En inderdaad denk ik meer claims. En hoe kan je je daarop voorbereiden? Ja, één is denk ik dat je moet gaan kijken naar, nu is voor heel veel bedrijven zijn website, is de plek waarin je mensen informeert, waar mensen van alles vinden. Dat je ook een versie moet hebben die dus goed te lezen is door agents. Dus bedenk dat je een ChatGPT onder steroids hebt. Of misschien wel juist ChatGPT, want die biedt uiteindelijk steeds meer mogelijkheden aan. Er komt ook een agentversie, dat je zelf agents in ChatGPT kan gaan bouwen. Is er al. Die is recentelijk live gegaan. AgentKit heet die volgens mij. Oh, nou hier, kijk. Dus met hele workflows, met acties die je erbij kan definiëren zonder code te schrijven, Kan je inmiddels aan elkaar ketenen. Ja, dus mensen gaan dat uiteraard doen. En dan is het handig dat dit soort tooling heel goed jouw website kunnen lezen. Maar die moeten dat wel kunnen lezen als een machine. Dus waar je het eerst zou structureren als mens. Zodat de mens het goed kan lezen. En heb je misschien mooie plaatjes bij. Maakt allemaal niet zoveel uit. Heb je dan te maken met een machine. Die kijkt niet naar de plaatjes. Die wil gewoon de tekst goed gestructureerd hebben. En daar snel kunnen vinden. Wat uiteindelijk. Hoe je een claim indient. Misschien ook juist uitsluit criteria. Dat de agent ook kan besluiten. Om juist niet de claim in te dienen. Dus dat je zorgt dat je communiceert. Voor een agent. Dus hopelijk dat ook de consumenten agents. Daarin rekening houden. Want het voldoet niet aan de voorwaarden. We hoeven geen claim in te dienen. Of niet een hele overload gaan krijgen. Bijvoorbeeld, ja. En er zal ook fraudedetectie. Zal hier ook wat extra werk hebben in de beginfase, verwacht ik zo. Van de schadeclaims die ingediend worden. Dat denk ik ook wel, ja. Ja, zeker. Dankjewel. Helder antwoord. Gaan we door naar de volgende vraag. En gaan we weer om de toekomst in kijken. Dus altijd met een korrel z'n zou natuurlijk. Als we vooruit kijken, zullen dan AI agents in de toekomst zelf risico's gaan inschatten? En verzekeringen gaan afsluiten voor mensen? Of worden ze eerder onze digitale collega's die ons gaan ondersteunen bij deze keuzes? Oh, er zit ook weer zowel aan de ondernemerskant als de consumentenkant. Laten we eens beginnen met vanuit je organisatie. Gaan agents risico-inschattingen maken? Ja, dat hangt natuurlijk van jezelf af. Maar vind je het, is het handig, helpt het, dan zou het kunnen. Je moet wel opletten dat je binnen de AI Act blijft. En zelfs, er zijn andere wetten, dat je niet zomaar geautomatiseerde besluiten mag nemen. Dus daar moet je heel goed naar kijken van wat mag wel, wat mag niet. En dan is het aan jezelf om te kijken van hoeveel autonomie, want daar gaat het denk ik hier over. Hoeveel autonomie wil je leggen bij een AI agent? Dat je dat zelf besluit. Dus hoeveel risico ben je zelf bereid om te nemen dat een AI agent het verkeerd heeft? Of dat hij wat ruimhartiger is dan dat je zou willen. Als je daar heel strikt in wil zijn, dan leg je natuurlijk minder autonomie bij zo'n agent. Dan als je daar minder strikt in wil zijn. Dus dat zijn ontwerpkeuzes. Dus daar kan je niet zomaar zeggen van ja of nee. Een andere deel van de vraag slaat een beetje terug op wat we eerder natuurlijk zeiden. Ja, daar gaan consumenten, gaan gewoon die agents inzetten. Ik denk dat je daar echt, daar moet je je gewoon nu al op gaan voorbereiden. Helder. De volgende vraag is, als AI agents, aangezien we toch die kant op zitten, Steeds autonome beslissingen nemen binnen het verzekeringsproces. Waar ligt de balans tussen automatisering en de menselijke verantwoordelijkheid? Dat is een beetje in de verlengde van de vorige. En hoe maak je dit transparant richting klanten en toezichthouders? En ik denk niet, dat speelt natuurlijk niet alleen in de verzekeringsmarkt, maar finance en overal waar toezicht natuurlijk essentieel is. Ja, de mate van autonomie, wat ik net al zei, is een ontwerpkeuze. Waarbij je wel het zodanig kan gaan aanpakken. Dat zou mijn advies zijn. Is dat je begint met weinig autonomie. Dus dat je eerst kijkt of de technologie helpt. Dat het werkt. En dat je hoe beter het gaat. Hoe meer autonomie je misschien gaat afgeven. Dat helpt ook in het vertrouwen. Zowel van jezelf als van de klant. En waar dan die grens ligt. Dat zijn allemaal keuzes. Dat kunnen ethische keuzes zijn. Dat kunnen technische keuzes zijn. Dat kan een adoptiekeuze zijn. Omdat je medewerkers het gewoon nog niet helemaal vertrouwen. Dus waar die grens ligt. Die zul je moeten gaan opzoeken. En ik denk dat die in de tijd verschuift. Dus wat ik zei. Je begint met weinig autonomie. En die autonomie kan je steeds verder verleggen. Dat het steeds autonomer is. Tot het moment dat het gewoon niet meer prettig is. En heb je een voorbeeld uit de praktijk waarin je dat hebt ervaren? Dat het zo doorgegroeid is naar steeds meer autonomie? Oei, dat vind ik wel een lastige. Uiteindelijk moeten we ook erkennen dat de stadia van de AI agents, dat we daar echt nog wel heel vroeg in zitten. Dus ik denk dat het antwoord nog nee is. Er zijn nog maar heel weinig organisaties die echt in bedrijfskritische processen AI agents hebben ingezet. Wat je ziet is dat in de marketing worden veel agents ingezet. Wij zetten natuurlijk agents in bij het coderen, dus bij het programmeren. Dat zijn de plekken waar nu agents echt toegevoegde waarde hebben. Dus ik heb nog niet uit een ander segment, zeker niet uit de verzekeringsbranche daar, een voorbeeld van. Dat is mooi toch? Dat is het eerlijke verhaal. Want iedereen spreekt erover alsof ze er allemaal al zijn. Ja, zeker. Nee, het valt niet mee. Het is natuurlijk ook wel een beetje lastig. Wanneer is het een AI agent? Dat verschilt qua terminologie ook nog wel. Misschien wel goed om even kort toe te lichten voor de luisteraars. Wanneer is het een AI agent? Ja, nee. Waar ik bang voor ben is dat zo direct alles een AI agent gaat heten. Dus als er maar een klein stukje AI in zit. Of dat we een prompt ergens tegenaan houden. Dat iets een AI agent heet. In mijn beleving is een AI agent een stukje software. Die kan waarnemen. Dus die kan de omgeving waarnemen. En de omgeving kan een data zijn die je krijgt. Maar dat kan ook dus user input zijn. En daar kunnen sensoren zijn uit de IoT. Van alles en nog wat ik kan waarnemen. Vervolgens kan er een plan worden gemaakt. Van wat ga ik nou doen? Dat wordt uitgevoerd. De plan wordt uitgevoerd. En daar kunnen allerlei tools ook voor gebruikt worden. En dat kan gewoon zoiets simpels zijn als van. Wat is de huidige datum? Is een bepaalde tool. Maar dat kan ook zijn dat je kan browsen. Dat kan een agent doen. en vervolgens kan die leren van de feedback en dat klinkt heel heftig maar dat kan zoiets zijn dat heb ik in dat webinar heb ik dat ook laten zien de meest eenvoudige vorm van mij van een agent is een slimme thermostaat die kan dus de omgeving waarnemen dus de temperatuur kijken die heeft de huidige tijd ook die heeft een plan namelijk ik moet een kamer Die moet ik op een bepaalde temperatuur krijgen of houden. En vervolgens bepaalt de slimme thermostaat. Die bepaalt of de verwarming moet aan worden gezet. Ja of nee. En die kan leren van patronen. Die zegt van. Oh ja maar door de week moet het misschien eerder aan dan in het weekend. Dat is eigenlijk de simpelste vorm van een agent. Er zit nog geen AI achter. Maar dat is eigenlijk wat een agent doet. Dus waarnemen, actie uitvoeren en op basis van feedback plannen aanpassen. Ja, om een doel te bereiken. Ja. Helder, helder. Dan gaan we een beetje door op de vorige vragen ook. En dat zit hem in transparantie. Hoe richt je transparantie in voor de verzekerden, ook in het kader van privacy? Maar als we hem even wat breder trekken. Hoe ga je om met transparantie bij AI en AI agents? Nou, en die transparantie zat ook al in de vorige vraag. Die had ik nog niet beantwoord. Transparantie is in die zin wel een lastig begrip. Van transparantie over wat. Dus je moet sowieso zo direct transparant zijn. Indat je met AI spreekt. Dus stel je hebt een chatbot. Die iets van klantenservice doet. Dan moet je je kenbaar maken volgens de AI Act. Zoals ik het begrepen heb. Dat je met een chatbot praat. Ook al heeft hij een menselijke verschijningsvorm. Een avatar of weet ik veel wat. Moet het duidelijk gewoon zijn. Dat je met AI of een AI agent spreekt. Dus dat is een vorm van transparantie. Maar je hebt natuurlijk ook transparantie over. Wat doet hij? En dat klinkt een beetje flauw. Maar dat zijn ook weer keuzes die je zelf maakt. Want je wil niet alles aangeven. Hoe jij je schadeclaims misschien afhandelt. Dan ben je denk ik transparant in de voorwaarden. En je bent transparant in hoe je het beoordeelt. Maar misschien niet helemaal. Tot het laatste stukje. Dat mensen precies weten. Als ik nou precies dit vraag of dit doe. Dat ik dan weet dat ik er wel doorheen kom. Dus ik denk dat je zo transparant mogelijk bent. En dan hebben we het echt over het gebruik. Dat is dan de transparantie. Als je het hebt over, misschien bij transparantie, ook uitlegbaarheid wordt gevraagd. Dat is iets wat je zelf moet gaan ontwerpen in je systemen. Dat je ook uitleg krijgt van je AI. Dat die komt tot een bepaald besluit. Maar dat is vaak een wat ander vakgebied. En weten welke data er allemaal gebruikt wordt om te komen tot een beslissing. Is dat dan transparantie? Of is dat explainability? Dus als je het hebt over aangeven wat je allemaal gebruikt hebt. Om tot bijvoorbeeld een afhandeling van een schadeclaim te komen. Dan is dat denk ik transparantie. Je zegt van ik heb dit allemaal in overweging genomen. Als je het hebt over de redenatie van het systeem. Over hoe de AI agent. Welke stappen die genomen heeft. Dan hebben we het over uitlegbaarheid. Helder. Heb je een voorbeeld. Of een verrassende of creatief gebruik. Van een AI agent. Die je de afgelopen tijd bent tegengekomen. Waar we van kunnen leren. Als inspiratie. Ja zeker. Wat ik een hele mooie vind. Misschien heb ik hem al een paar keer verteld. Ik weet eigenlijk niet eens of ik deze ook in de... Volgens mij had ik deze ook in de webinar zitten. Maar dat gaat over een AI agent die ingezet is bij Sensire. Daar schrijf ik ook over in mijn boek. Een heel mooi interview met de data scientist daar. En wat zij gedaan hebben, zij zijn een grote zorginstelling. Tenminste thuiswijkverpleging moet ik zeggen. En als je als wijkverpleger een aantal weken op vakantie bent geweest. dan is het echt wel heel veel tijd dat je moet gaan investeren in het teruglezen van alles wat er over jouw cliënten is gezegd. Dus je komt thuis, stel op maandag moet je beginnen en op zondagavond wat ze dan doen, is dat ze dus al die dossiers, bijvoorbeeld vijf of zes cliënten de volgende dag, moet je dus van vijf of zes van dit soort cliënten, moet je van al die diensten, Dus iedereen die dienst heeft gehad, die schrijft een stukje in dat dossier. En dat is niet erg als je dat de volgende dag moet lezen. Want dan heb je misschien vier stukjes van collega's. Maar dus na drie weken, nou ja, reken maar uit. Drie keer zeven keer vier. Dan heb je behoorlijk wat door te lezen. Plus dat zijn allemaal, niet alles is even relevant. Dus die mensen zijn heel lang bezig om up to speed te komen. Wat is er nou veranderd aan medicatie, aan mobiliteit van deze cliënten? Het is echt belangrijke zaken voor hun leven. Wat hebben zij nou gedaan? Ze hebben gezegd dat het wel raar is. We willen goed zijn voor onze werknemers. En die besteden dan dus vrije tijd om goed te zijn voor hun cliënten. Dus zij hebben dusdanige samenvattingen gemaakt. In een hele gestructureerde manier. Waarin juist de veranderingen, de echt wezenlijke veranderingen. Dat je die in een paar minuten kan lezen. Zij zijn van zondagavond laat gegaan. Na een paar minuten dat je kan inlezen. En ze hebben aangegeven, dat vind ik nog mooier namelijk. Dat ze nog een stapje zouden willen maken. Dat ze dan namelijk die samenvatting willen omzetten. Van tekst naar spraak. Zodat je in de auto op weg naar de cliënt. Dus helemaal geen eigen tijd meer. Dat je dat te horen krijgt. Dus je komt bij je cliënt aan. En je bent eigenlijk gewoon helemaal up to date. Je weet precies wat er veranderd is. En je kan de goede zorg leveren. Ik denk dat het zelfs kwaliteitsverhogend werkt. En het is werkdrukverlagend. En je bent minder vrije tijd kwijt. Als dat niet inspirerend is. Ik wou net zeggen. Die hebben gewoon eigenlijk een persoonlijke podcast. Om even weer op de spieker te raken. Dat klinkt heel erg fijn inderdaad. Heel mooi voorbeeld. Een praktische vraag. Met name denk ik. Tijdens de sessie van verzekeraars. Dat veel van de verzekeringen. En claims natuurlijk met behulp van foto's gebeurt. Als een AI agent. Foto's en documenten beoordeelt. Staan hier persoonsgegevens op. Dat zouden ze vaak gebeuren denk ik. Hoe ga je daarmee om? Ja, dat is een hele praktische vraag. Ja, een hele goede vraag. Nou ja, in principe hoeft het helemaal niet zo erg te zijn. Want je hebt natuurlijk gewoon te maken met doelbinding. Dus je hebt het denk ik ook nodig. Dat je weet dat het ook om de auto gaat. Of tenminste, ik ga even vanuit. Er is schade aan de auto. Laten we dat nemen. Er is schade aan de auto. En dan is het ook goed dat daar het kenteken op staat. dat je ook de juiste auto aan het beoordelen bent. Aan de andere kant kunnen mensen misschien foto's opsturen waarop persoonsgegevens staan die je niet nodig hebt. Die zul je daar op de een of andere manier af moeten halen. Dus als daar gezichten op staan van mensen. Dus in die zin is dat denk ik niet heel veel anders dan dat als mensen ook persoonsgegevens via de telefoon aan je melden die je niet nodig hebt. Je moet zorgen dat dat verwijderd wordt. Ik denk dat deze vraag vooral te maken heeft met wat nou als je AI tools van derde gebruikt. Hoe train je het model? Staat er als vervolgvraag? Ja, laten we daar zo direct op komen. Kijk, je kan niet zomaar deze foto's even opsturen naar ChatGPT en het daar doorheen gooien. Dus je hebt te maken met dat je deze systemen ook weer zelf moet ontwikkelen. Dat je kijkt naar doelbinding. Wat geef je het systeem? Wat kan je aan, als je wel een SaaS product gebruikt. Moet daar dan eerst de persoonlijke informatie afgehaald worden? ``` Of heb je het lokaal draaien? En kan je het wel? Dan heb je daar misschien wat minder last van. Ook hier geldt weer dat je heel goed moet kijken naar wat schrijft de wet voor. En wat zijn de voorwaarden als je zo'n SaaS product, een product van derde, als je die gebruikt. Wat doen zij met de data en welke afspraken heb je daar liggen. Zogenaamde retentie policies, dus hoe lang bewaren zij de data. Past dat binnen de wetgeving. Dat zijn allemaal vraagstukken, dat is heel vervelend. maar daar moet je induiken. En dat is niet per se een AI vraagstuk maar dat is gewoon hoe ga je met je data en je systemen om, want een foto via de website uploaden is niet anders dan het aan AI meegeven. Je moet alleen wel besef hebben dat die data ergens heen gaat. En waar gaat het heen en hoe dienen we er mee op te gaan? Daar zal je gewoon bij stil moeten staan. En dat zal een stukje IT support voor nodig zijn om daar misschien een systeem voor te bouwen. Ja, dus dat is niet zomaar even een vraag van als je dit doet dan zit je altijd goed. Nee. En dan de vervolgvraag erop van, dat heb je. maar hoe ga je je model trainen weten dat dit soort data er ook in zit stel je bent dus zelf een model aan het maken ga ik even naar dat de vraagsteller hier bedoelt hoe hou je daar rekening mee ja ik denk dat je er wordt heel snel gesproken over een model trainen laten we vooropstellen dat het hier niet gaat over een taalmodel trainen want daar heb je gewoon wat andere zaken voor nodig dat kost echt miljoenen en miljoenen dus daar ga ik even niet van uit als we het hebben over een machine learning model trainen ook daar moet je dus weer kijken wat mag wel, wat mag niet dus de wet schrijft gewoon hele duidelijke dingen voor, dat als jij noem maar opschrijft wat iemands afkomst is, dan mag dat vaak niet dus daar is denk ik genoeg over te vinden wat je daar wel aan, wat je daar niet in mag stoppen als we het hebben over een chatbot waarbij je data ter beschikking stelt, dat is niet echt trainen, dat is zogenaamde Retrieval Augmented Generation een RAG-system, daar geef je de extra context aan het taalmodel waarbij het taalmodel antwoorden kan geven. Dat is geen trainen is dat maar ook daar moet je dan weer zorgen dat dan als er geen doelbinding is, dat die privacygevoelige gegevens er gewoon niet in staan. Dus die moet je eruit filteren. En dat is niet anders wat jij net ook zei bij welk ander willekeurig geautomatiseerd systeem. Dus alles wat daar geldt, geldt hier ook. Ik denk zelfs dat er... Maar goed, ik ben hier geen jurist. Laat dat vooropstellen. Dat dat echt niet anders is dan welk ander geautomatiseerd systeem dan ook. Dat vermoeden heb ik ook. Maar ik ben ook niet juridisch onderwerp op dat vlak. Dus vraag dat zeker ook even na bij de juridische afdeling. En dat je er rekening moet houden is dus een feit. Ja, zeker. Hebben we zo de hele vraag beantwoord? Ja, dat verwacht ik wel. En anders, degene die de vraag gesteld heeft, neem alsjeblieft contact eens op. Daar gaan we graag verder op in. Een wel leuke vraag. Ik weet niet of we hem eigenlijk kunnen beantwoorden. Maar de vraag luidt als volgt. Als een agentic AI in de verzekeringswereld steeds meer zelfstandig beslissingen neemt. Wie wordt dan eigenlijk verzekerd? De klant? De AI agent die voor de klant handelt? Oh, dat is een grappige. Ja, ik denk... Dat is laatst ook niet lastig op de hand. Nou ja, en ik denk dat, weet ik veel, juristen zullen hier overheen gaan, maar dan doe ik het even vanuit mijn blik. Even de pragmatische blik. Ja, ik denk dat je als mens... Je sluit volgens mij als mens de overeenkomst. Dat zijn de twee partijen. Dus jij als verzekeraar en de verzekerde. Die sluit volgens mij de overeenkomst. En maakt het niet zoveel uit wat ertussen zit. We hebben het nu ook niet over of ik met een website de overeenkomst sluit, denk ik. Ik snap hem wel als het voelt als iemand die voor jou opereert. Maar ik denk dat het daar ook al in zit. Iemand die voor jou opereert. Je hebt iemand die eindverantwoordelijk is. Of die de actie of die de agent aanzet. En bepaalde doelen stelt. En ik denk dat daar goed gekeken moet worden. Wie stelt die doelen. En daar ook echt gewoon de eindverantwoordelijkheid blijft liggen. Ik wil niet zeggen dat omdat de agent dat doet. Het agent schuld is. Nee, er zit altijd iemand achter die verantwoordelijk is. Of de organisatie of de persoon die die agent aan het werk zet. Zeker. En ik neem aan dat je het ook gewoon nog steeds moet ondertekenen. Dat lijkt mij ook. Ja. Als agents onderling kunnen praten, is dat dan geen gevaarlijke ingang voor een hack? Is de vraag. Ja, het korte antwoord is ja, zeker. Maar laten we die even wat verder afkomen. Ja. Wat je in de agentic wereld veel ziet, is dat je een soort van hoofdagent hebt. Als ik hoofdagent zeg, dat is een soort van hoofdpiet. Dat is wel de periode weer. Dus je hebt een hoofdagent en die kan dan meerdere agents aansturen. Echt spreken doen ze niet met elkaar. Dus wat ze doen is data uitwisseling. En mogelijk, nou ja, spreken. Er kan een subdoel gegeven worden. Dus de hoofdagent kan een soort van hoofdplan hebben en delen van dat plan uitbesteden. En daar moet je dus rekening houden van wie, welke agent of sub-agent mag bij welke data, maar ook dus onder welke autorisatie mag dat. En als je daar fouten in maakt, ja nee zeker. Hier gaan daadwerkelijk problemen voorkomen. De eerste zijn er al geweest hoor. iemand toegang heeft gekregen tot een bepaalde agent. En die laat gewoon veel te veel data aan de buitenwereld zien, omdat die gewoon slim bevraagd is. Dus dat het hele vraagstuk van veiligheid wordt gewoon complexer als de systemen ook complexer worden. En in de wereld van agentic AI maak je hele complexe systemen. Ja. En daarmee wordt dus beveiliging. Alles wordt complexer. Ja, en je moet het echt al zien alsof je een medewerker of een applicatie of een systeem rechten geeft tot die data. En het ook zo gaan afhandelen. En daar dus inderdaad in je governance en beleid ook gewoon rekening mee houden en in te richten. Ja, zeker. Nou, en als we dan toch die vergelijking maken met medewerkers. Kijk, als jij één medewerker hebt, dan heb je één aanvalspunt. En als die niet thuisgeeft en alles goed beveiligd heeft, dan ben je heel snel klaar als hacker. Bij een grote organisatie heb je heel veel ingangen. En het is nou eenmaal, de ketting is zo sterk als de zwakste schakel. Dus als je ergens een ingang hebt, dan kan je wel makkelijker die agents foppen. En daarmee een grotere kans hebben dat je beveiligingslekken krijgt. Ja, en misschien een technische term, maar als luisteraar en je wil je even verdiepen, ga er toch eens even induiken. Prompt injection, dus met behulp van prompts toch data naar boven krijgen om weer bepaalde acties voor elkaar te krijgen bij agent. We hadden een tijdje terug een hele mooie kennissessie bij Info Support hierover. Die had ook de algemene voorwaarden online staan voor het annuleren van een auto die je ging huren. en door eigenlijk slim prompt injection toe te passen, had de AI agent toch gezegd van nou, je mag inderdaad toch annuleren. Voldeed niet aan de voorwaarden. Oh, en de volgende keer heb je ook nog 50% korting. Bij de volgende keer heb je dat. Oh ja, kijk. En is dat dan legal binding? Nou, daar mogen de juristen dan mee aan de slag, maar ik denk dat je daar als organisatie rekening moet houden dat dat soort zaken kunnen gebeuren. Dus hoeveel autonomie? Komen we terug op autonomie en transparantie? Hoeveel autonomie krijgt het? En wat mag het systeem wel? en wat mag het systeem niet? Precies. Ook een hele mooie vraag. Als jullie een AI agent één menselijke eigenschap kon meegeven, welke zou dat zijn en waarom? Ja, niet. Mag ik hem zo ook beantwoorden? Jazeker. Nee, ja. Ik heb echt, zelf heb ik echt moeite met dat vermenselijke van AI agents. We kunnen er echt fantastische dingen mee doen. Maar uiteindelijk is het technologie. Dus menselijke eigenschappen, nee. Ik denk dat we namelijk juist heel goed moeten kijken van waar is de technologie heel goed in? En waar is de mens heel goed in? En waar ik dan in geloof, is als je dan die samenwerking krijgt, dat dat een versterkend effect is. Dat we dan op zoek zijn naar 1 plus 1 is 3. Ik denk dat we er niet naartoe moeten dat wij als mensen technologisch gaan handelen. En daarom dus ook niet dat de technologie menselijke karaktertrekken zou moeten krijgen. Dus ik hoop dat die werelden echt wel gescheiden blijven. Maar ik ben er bang voor. Ik ben er ook bang voor. Ik ben wel voor een klein beetje vermenselijking. Maar dat is vanuit de menselijke kant om ermee samen te gaan werken. Ik werk liever met een stukje technologie die voor mij menselijk overkomt. Dan dat ik me zou moeten aanpassen de technologie. Maar eigenlijk zeggen we daar een beetje hetzelfde. Maar net een andere verwoording. En ik denk dat daar juist de persoonlijke kenmerken en eigenschappen van hoe wij acteren. Nodig zijn om mee te nemen in die agents. Ja. En het is al vaak lastig genoeg om met mensen te communiceren. Met allerlei... Ach, toen is technologie ook wel lekker. Verborgen agenda's. Miscommunicatie. weet ik het allemaal wat je je voor kunt stellen. Inderdaad. Een agent mag net zoveel fouten maken als een medewerker. Ja, dat was een stelling die wij, die hadden wij zelf bedacht, namelijk in de webinar. Dus verbaasd me dat hij als vraag de tussent, maar dat is wel heel erg leuk. Deze vraag ik vaker, ook waar ik spreek en zo. Want dat is natuurlijk wel, ja, dat is een grappige afweging. Als we AI agents inzetten, moeten we ervan uitgaan dat die ook fouten maakt. Het is inherent aan de technologie, omdat er een mate van willekeur in zit, gaan er dingen mis. Dus als jij op zoek bent naar een bepaalde workflow of afhandeling die altijd dezelfde regels volgt. En altijd dezelfde uitkomsten heeft. En altijd als ik hetzelfde instop, hetzelfde eruit krijg. Als dat nodig is, moet je geen AI agents inzetten. Dus agents maken fouten. Dus ik vind dat je na moet denken over hoeveel fouten mogen ze dan maken. En welke fouten mogen ze maken. Want hoe slim soms de technologie ook lijkt. Gaat het vaak juist op wat wij als mens hele simpele dingen vinden. Kan de AI fout op gaan. waar wij als mens op hele complexe dingen mis kunnen gaan, dan kan dan die AI agent weer heel goed. Kan die technologie weer heel goed. Dus je moet hier heel goed nadenken over, mag er iets fout gaan? En waar mag het dan fout gaan? En welke maatregelen hebben we dan als een agent een fout maakt? Kan ik in een soort van hoger beroep? Maar zijn er escalatiepaden? Als een AI agent fouten heeft gemaakt. Waar kan ik dan bijvoorbeeld als consument terecht. Om het te hebben over die fouten van die AI agent. Dus dat betekent dat je ook monitoring. Transparantie ingebouwd moet hebben. En als een organisatie als je een agent hebt. Dat je daar dus ook rekening mee moet houden. Dat je daar iets voor inricht. ``` Dat je die monitoring hebt. Maar er zou ook een bewijslast weer hebben. Waarom is het fout gegaan? Hoe komt dat? En daarop weer kunnen groeien. Hoe bouw je monitoring in dat soort systemen in? Dat lijkt me nogal complex. je kan het zo complex maken als dat je zelf wil, maar het begint natuurlijk met bij de agent dat je vastlegt wat de input is geweest, wat de output is geweest en ik vertelde al de agent kan ook tools aanroepen, met data die hij geeft dus die kan je allemaal vastleggen en daar zijn gelukkig ook standaarden voor dus je hebt met een heel moeilijk woord observability standaarden dat als je daarop aansluit, kun je eigenlijk zo'n beetje alles meten wat zo'n agent doet. Daar begint het mee. En dan kan je dus ook, stel je hebt allerlei test sets, waarvan je zegt, als ik dit geef aan de agent, dan verwacht ik eigenlijk ook dat hij het volgende uitvoert. Die kan je gewoon regelmatig draaien. Dan kijken van doet mijn agent nog steeds wat ik eigenlijk verwacht dat hij doet. Dus je krijgt er gewoon een percentage uit van zoveel heeft hij goed afgehandeld, zoveel heeft hij niet goed afgehandeld. Maar dat betekent wel dat je dit soort data moet verzamelen, vast moet leggen. Het is net een automatiseringsproject. Toch gewoon wat bekijken. Ja toch? Dus er zijn allerlei standaardmetrieken ook wel om ernaar te kijken van hoe goed doet je agent het ook. Ja, en we hebben het in de podcast wel vaak gehad. Je hebt ook het bijkomend voordeel als je dit soort tests goed inricht. Dat is als er weer een nieuw model uitkomt. Wat iedere zoveel week, iedere zoveel dagen, iedere zoveel maanden wel gebeurt. Dat je ook dat soort zaken kan afvangen. Doet het nieuwe model het net zo goed als het oude. En hou daar rekening mee. Want het hart van een AI agent is het taalmodel. Nee, dat is een hele goede die je aangeeft. En dat wordt heel vaak vergeten. We zijn nu van chat-GPT 4 naar 5 gegaan. Ja, 5 doet iets heel anders dan 4. En dat hoeft niet per se beter te zijn. Maar het is anders. En het feit dat het anders is, betekent dus ook dat de agent die gebaseerd is op dat taalmodel, ook anders reageert. Ik denk dat het heel belangrijk is. De luisteraars die snel omgeswitcht zijn, gaan nog even kijken of alles nog hetzelfde werkt. Volgens mij heb je een mooi positief verhaal gehouden. Want ze staan positief in het gebruik en toepasbaarheid van AI. Een AI agent wordt hier teruggeven als aanloop voor de vraag. Maar ze worstelen wel met nog de volgende vraag. Hoe zorgen we ervoor dat een AI-agent voldoet aan de AVG en de andere relevante wet- en regelgeving? Ja, dat doe je zelf. Maar dit zijn wel, zeker als je het inkoopt, er zijn natuurlijk allerlei manieren hoe je aan slimme technologie komt. Laten we eens beginnen met de inkoop. Zijn dit echt de vragen die je moet stellen? En laat je daar niet met een kluitje in het riet sturen. En als je het zelf maakt, en dat kan zijn dat je begint met een co-pilot studio of mensen beginnen met N1N, een manier om agents in elkaar te klikken. Ook daar, dan ben je zelf verantwoordelijk of je aan deze wetgeving voldoet. Als je een bedrijf inhuurt om voor jou op maatwerk iets te maken. Verplicht dan dat je dit, wat we dan noemen by design doen. Dus dat je vanaf het allereerste moment dat je begint. Kijkt ten opzichte van de wetgeving. Maar ook je interne compliance. Maar wat mij betreft ook de ethische waardes die je als bedrijf hebt. Dat je zegt vanaf dag 1 sluit je daarop aan. En jij als opdrachtgever bevraagt constant degene waarbij je het hebt ingekocht of die het voor jou maakt. En aan de andere kant vind ik dat degene die het maakt jou ook constant over informeert dat je op deze vlakken gewoon goed zit. Dus dat betekent gewoon hard werken, mouwen opstropen. Ja, zeker. Dat je dit goed implementeert. En wat ik zeg, als je het inkoopt, zorg dat je terms and conditions, de voorwaarden, algemene voorwaarden, privacy statements, policies, allemaal doorleest. Of dat je het laat doorlezen, in ieder geval door iemand die er verstand van heeft. Dat is echt superbelangrijk. Ja, dat is er niet zo zijn inderdaad. Ik heb het ingekocht, dus daar ben ik klaar. Dat is dus zeker niet het geval. Nee. Stel, de hele sector van verzekeringen waar je gesproken hebt is helemaal over. Ze zetten AI optimaal in. Op welke punten kun je dan nog onderscheiden als individuele verzekeraar? Lijkt de verzekeraars dan niet allemaal op elkaar door de inzet van AI? Mooi, goede vraag. Ik denk dat je uiteindelijk altijd verschil maakt in de benadering van hoe je je organisatie inricht, wat je wil, wat je doelstellingen zijn. En je zou kunnen zeggen dat ook iedere zorgverzekeraar hetzelfde zou kunnen zijn. Omdat er natuurlijk heel veel vastgelegd is wat bijvoorbeeld in de basiszorg zit. Maar uiteindelijk heb je zelf denk ik verschillende waardes. Maar heb je ook misschien verschillende verdienmodellen. Waar de één misschien zegt van ja maar ik ga volledig inzetten op de technologie. En ik word een volledig technologisch bedrijf. Waarbij er zo min mogelijk medewerkers zijn. is denk ik een hele andere insteek dan dat je zegt, ja maar ik wil een verzekeraar zijn die zo maximaal mogelijk mijn verzekerde ondersteunt die je altijd kan bellen en een persoon aan de lijn kan krijgen wat ook nog een optie ja bijvoorbeeld ik denk dat de technologie helemaal daar geen ja die trekt dat speelveld helemaal niet gelijk ik denk dat het juist de mogelijkheid is om je te onderscheiden en dat je dan kiest hoe je technologie inzet om dat onderscheidend vermogen juist uit te vergroten. Dus ik zou degene die de vraag heeft gesteld, vooral na laten denken over van, wat is dan dat onderscheidend vermogen? En hoe kan ik dat zo goed mogelijk ondersteunen? En of dat met AI is, ja of nee, dat maakt eigenlijk niet zoveel uit. Helder antwoord inderdaad. Het maakt juist mogelijk om je persoonlijke touch misschien juist meer te gaan geven, omdat de technologie het ondersteunt als je dat wil. Ja. Blijkbaar heb je een onderwerp in je sessie, niet behandeld, die wel gewenst was. Oh jeetje. Ik mis de belangrijkheid van de juiste prompt voor het succes. Oh, wat is de juiste prompt? De juiste prompt voor het succes. Ja, er is natuurlijk heel veel te doen om van wat zijn nou goede prompts. En ik zou haast zeggen van luister even de aflevering terug over context engineering. Want uiteindelijk context is namelijk veel belangrijker dan je prompt. Ik weet wel waar dit vandaan komt. Toen Chagipity net uitkwam in november 2022. Was het heel belangrijk, zeker voor die generatie aan taalmodellen. Om een hele goede prompt neer te zetten. En daar deed je eigenlijk al een beetje context engineering. Dus dan gaf je bijvoorbeeld een rol op. Waarin je het taalmodel in een bepaalde hoek ging drukken. En had je allerlei prompts frameworks. Je moet het doel opgeven. Er waren allerlei manieren om een hele goede prompt te maken. De taalmodellen zijn nu zo ver dat de prompt iets minder belangrijk wordt. De meeste van dit soort leveranciers hebben op de achtergrond zelfs... dat ze jouw prompt eigenlijk net iets al aan het verbeteren zijn. Zonder dat je dat ziet. Zodat de taalmodel je beter begrijpt. Maar wat belangrijker wordt, is omdat ze steeds meer data kunnen verwerken in één keer, is dat de context die je meegeeft, en daar kunnen bestanden zijn, wij geven heel vaak transcriptie mee van de podcast. Dus wat je meegeeft aan data, aan waar de taalmodel allemaal mee kan werken, is vaak belangrijker dan de prompt zelf. Wat ik zelf merk, is dat ik eigenlijk steeds meer vragen informeler stel. net zo goed als dat wij zouden praten dan in dat hele gestructureerde behalve als ik prompt automatiseer. Dus als we een proces hebben wat geautomatiseerd is, dan is het belangrijk dat ik nadenk over wat is de structuur die eruit komt, wat is de taal die eruit komt, in welke vorm wat moet er minimaal in zitten dus als je het wil automatiseren dan zit je nog in dat je heel goed na moet denken over als ik daar steeds verschillende data aan meegeef, doet die prompt dan nog steeds hetzelfde. En dat is vaak iteratief. Dus dat je herhalend kijkt van als ik dit nou doe, komt het eruit? Nee, wat moet ik dan verbeteren? Je kan vaak nu ook aan het taalmodel zeggen van ik heb deze data, deze prompt, maar ik verwachtte dit als uitkomst, maar ik heb dit gekregen, dat hij je zelfs kan helpen bij de prompt verbeteren. dus de relevantie van een super super goede prompt als je het zelf gebruikt is echt een heel stuk lager als je wat ik net zegt geautomatiseerd wordt het echt wel belangrijker dat je het strakker doet maar vooral komen we weer op de monitoring uit dat je dat monitort dat je kijkt van blijft die bij allerlei verschillende data goed doen het is een onderdeel van een keten die weer geautomatiseerd verder gaat. Dus daar wil je gewoon structuur en kwaliteit en consistentie eigenlijk hebben. En wat dan een goede prompt is, dat hangt dus van je context af. En wat ik zeg, gebruik dat echt. Dus je zegt van, ik heb deze data, dit komt er nu uit, ik had dit verwacht. Vraag gewoon het taalmodel, en ook precies het taalmodel dat je gebruikt trouwens, dat je die prompt laat verbeteren. Dus dan kan je AI inzetten om je daarin te helpen. Ja, zeker. En mijn persoonlijke ervaring met GIP T5 is inderdaad dat hij daar best wel goed in is. Dat die steeds kortere prompts, nog steeds zodra die in die context zit waar je hem wil hebben. En dat is wel echt even de eerste stap. Kan je vrij kort. Ik had zelfs met drie woorden. Nu deze service. De rest was eigenlijk, dat was mijn prompt. Maar omdat hij de context had, kon hij daar inderdaad zo verder. Om daar ook zaken voor uit te werken en uitschrijven. Ja, maar luister ook even de aflevering van de context-engineering, zou ik zeggen. Zeker. We zijn alweer bijna door de vragen heen. Dus ik wil eigenlijk gaan naar de afsluitende vraag van deze aflevering. En die luidt als volgt. AI-agents zijn er om ons te ondersteunen. Hoe kunnen wij AI-agent het best ondersteunen om er samen het maximale uit te halen? Zo, dat is een mooie vraag, ja. Ja, om daar een kort antwoord op te geven valt nog niet mee Dat begint bij dat je een agent in ieder geval afbakent Dat het niet een te ruime taak wordt die een agent moet gaan uitvoeren Dus om een agent goed te laten werken heeft hij een hele specifieke taak En wat ik bijvoorbeeld wel een hele mooie vind is wat wat vaker nu terugkomt Stel je moet aan compliance voldoen. Dat je ook zegt. We maken een agent. Die helemaal gespecialiseerd is. Om een compliance check uit te voeren. Maar die kan geen rapporten schrijven. Die kan niks anders. Die kan alleen maar. Die compliance checken. En zo kan je. Als je die agents klein maakt. Dan kunnen ze ook. Makkelijker met elkaar samenwerken. En maak je het de agent. Makkelijker om ons te ondersteunen. Want dan wordt het dus ook minder ambigu. Wat er gedaan moet worden. Dus als jij. Hele brede taken hebt. En op. We hebben net over die prompts gehad. Toch een doel krijgt. Wat misschien toch redelijk vaag is. Dan moet die uiteindelijk uitgesplitst worden. In allerlei taakjes. En hoe duidelijker het is. Welke agent. Welke taak uitvoert. Daarmee ondersteun je. De AI agents. helder. Dus je maakt het makkelijker om voor de agent, omdat hij een specifieke taak heeft, je maakt het voor de mens makkelijker om met de agent samen te werken. En het bijkomende voordeel is, je hebt een afgekaderd stuk waar je security en transparantie kan inbouwen en je monitoring op kan zetten. Zodat als er één agent niet lekker loopt, dat je die kan corrigeren en kan uitbreiden. Precies. En het ontwikkelen van de agent wordt ook eenvoudiger. Want je hebt met minder dingen rekening te houden. Dus het opknippen in stukjes, is gewoon makkelijk. Als je een gerecht moet maken en iemand die zegt gewoon zo out of the blue van hier, weet je, maak een bruidstaart Niels. Ja, dan is het toch ook wel handig dat je een heel stappenplan hebt, dat je eigenlijk in kleine stukjes op kan knippen. Ik mis al requirements hoor. Ja. Kan ook gewoon appeltaart worden. Dat. Nee, maar daar moet je helderheid in creëren inderdaad. En die kaders. Helder. Hopelijk hebben we hiermee ook alle vragen van de sessie behandeld. Mocht er toch nog iets een vraag overkomen of een vervolgvraag op zijn neem alsjeblieft met Joop of met mij contact op en dan zorgen we dat we weer een podcast gaan opnemen met al jullie vragen. Dus ook vanuit andere sectoren. Heb je vragen? Neem contact met ons op. Ja, en mocht je zelf... Ik ben trouwens wel heel benieuwd. Laat ons eens weten of je een aflevering als dit ook leuk en waardevol vindt. Dat helpt ons ook. Dus dat kan altijd via de socials. Dankjewel weer voor het luisteren. Tot de volgende keer. Tot de volgende keer.