Zo implementeer je AI Governance in code

Leuk dat je weer luistert naar de korte aflevering van AIToday Live, de podcast die praktische AI kennis deelt via toegankelijke verhalen. Mijn naam is Joop Snijder, Head of AI bij Info Support. Stel je dit eens even voor, je huurt een nieuwe medewerker in, iemand die snel werkt, nooit klaagt, maar wel altijd beschikbaar is. Je geeft deze medewerker geen functieprofiel, geen grenzen, geen toegangsrechten en geen toezicht. Je zegt alleen ga maar aan de slag. Dat klinkt toch als een recept voor problemen toch. En dat is wel precies wat er nu op veel plekken gebeurt met AI-agents. AI-agents zijn de afgelopen maanden in een stroomversnelling geraakt. Steeds meer organisaties bouwen agents die zelfstandig taken uitvoeren. Ze verwerken facturen, beantwoorden klantvragen, analyseren data. Van alles en nog wat. En dat gaat verder dan een chatbot die standaard antwoorden geeft. Dus deze agents nemen beslissingen, voeren acties uit en ze werken mogelijk zelfs wel samen met andere agents. En dat kan enorme waarde opleveren. Maar het roept ook een vraag op die lang onbeantwoord bleef. Namelijk, wie houdt deze agents eigenlijk in de gaten? Wat mag een agent wel en niet doen. En wat gebeurt er als het misgaat. OWASP. OWASP, de organisatie die bekend staat om haar Top 10-lijsten voor beveiligingsrisico's, publiceerde eind vorig jaar, eind 2025, voor het eerst een Top 10 specifiek voor AI-agents. En denk aan risico's zoals goal hijacking. En dat betekent waarbij iemand het doel van je agent kaapt. Of tool misuse. Waarbij een agent zijn beschikbare gereedschappen op een onbedoelde manier inzet. In een eerdere aflevering besprak ik al hoe prompt injection precies dit soort risico's blootlegt bij AI-browsers. Die kwetsbaarheden gelden minstens zo sterk voor AI-agents die in je bedrijfsprocessen draaien. En dan hebben we natuurlijk nog de regelgeving. De EU AI Act. Die treedt voor hoog-risicosystemen in werking in augustus 2026. Dus daar is het de klok gewoon tikt dat je hier iets mee moet. Op twee april publiceerde Microsoft een open-source toolkit die dit gat wil dichten, namelijk de Agent Governance Toolkit. Ik moet zeggen, toen ik daarin dook, werd ik echt heel erg enthousiast. Niet omdat het van Microsoft komt, maar omdat er nu eigenlijk iets ligt dat governance en security concreet implementeerbaar maakt. Juist specifiek voor maatwerk agents. Dus als je ze zelf bouwt. En de toolkit bestaat uit zeven pakketten die je los of samen kunt gebruiken. Ik lig er drie uit die het meest concreet maken. Wat agent governance in de praktijk betekent. En het eerste onderdeel is een soort van beleidsmotor en die heet het Agent OS. Vergelijk dat met de portier van een hotel. Elke keer als een gast, in dit geval je AI-agent, iets wil doen, checkt de portier of dat mag. Wil de agent een e-mail versturen, de portier kijkt naar wie, met welke inhoud en of dat dus past binnen de afspraken. Wil de agent een database raadplegen, de portier controleert welke database, welke gegevens en heeft deze agent daar ook toestemming voor. Het bijzondere is dat deze controle bij elke actie gebeurt. Dus niet achteraf, niet steekproefsgewijs. Maar vooraf elke keer. En het gaat zo snel, we praten over minder dan een tiende van een milliseconde, dat de agent er zou je kunnen zeggen, niks van merkt. Het voegt geen vertraging toe. Voor jou als gebruiker verandert er niks aan de snelheid waarmee de agent opereert. Maar onder de motorkap wordt elke stap getoetst aan de regels die jij hebt gesteld. En je definieert die regels in een heel simpel configuratiebestand. Dat kan zoiets zijn als deze agent mag alleen data lezen uit de klantdatabase, maar mag er niets in wijzigen. Of deze agent mag maximaal vijf e-mails per uur versturen. Vergelijk het met de huisregels die je voor een nieuwe medewerker opstelt, maar dan automatisch gehandhaafd. En het tweede onderdeel, Agent Mesh. Die lost een probleem op waar je misschien nog niet bij stil hebt gestaan. Je hebt bijvoorbeeld twee agents die samenwerken. En de ene verwerkt mogelijk, laten we zeggen, inkooporders. En de andere keurt betalingen goed. En die twee wisselen informatie uit. Maar hoe weet de betalingsagent dat hij praat met de échte inkoopagent en niet met een indringer die zich voordoet als die agent. In de fysieke wereld lossen we dit op met legitimatie. Je laat je paspoort of ID-bewijs zien. Agent Mesh doet hetzelfde voor AI-agents. Dus elke agent krijgt een digitale identiteit, een soort paspoort waarmee hij zich kan identificeren bij andere agents. En daar zit ook nog iets heel slims bij. Ze gebruiken namelijk een zogenaamde vertrouwensscore. Die score gaat omhoog als een agent zich netjes gedraagt, maar daalt als er vreemd gedrag wordt gesignaleerd. Net als een kredietwaardigheidscore, maar dan dus voor betrouwbaarheid. En waarom is dat zo belangrijk? Nou, omdat agents steeds vaker in ketens gaan samenwerken. Agent A vraagt iets aan agent B, die op basis daarvan iets doorstuurt naar agent C. En als één schakel in die keten niet te vertrouwen is, dan heb je een probleem dat zich door de hele keten verspreidt. Dit identiteitssysteem voorkomt dat. Het derde onderdeel, het laatste dat ik wil noemen, is de Agent SRE. En dat staat voor Site Reliability Engineering. Een term uit de softwarewereld die draait om het betrouwbaar houden van systemen. En wat deze module doet, is principes die al jaren bewezen zijn bij het draaien van grote websites en apps. En dat dan juist toepassen op AI-agents. En één zo'n principe, vond ik echt wel een mooie, is het foutbudget. Het idee is namelijk heel simpel: je bepaalt vooraf hoeveel fouten acceptabel zijn. Je zegt bijvoorbeeld, mijn agent mag in 99% van de gevallen het juiste antwoord geven. Dan heb je dus een foutbudget van 1%. Zodra je agent die grens bereikt, gaat er automatisch een rem op. En de agent wordt bijvoorbeeld tijdelijk teruggeschaald of er wordt een mens bijgehaald. 85 Het principe wat hiervoor gebruikt wordt, is de zogenaamde circuit breaker. 86 Dat werkt zoals de stoppen in je meterkast, als het te veel stroom op een stop gaat, dan slaat de stoppen uit voordat de brand ontstaat. 87 Bij AI agents werkt het hetzelfde. 88 Als een agent herhaaldelijk fouten maakt of vastloopt, wordt die dus automatisch uitgeschakeld voordat de schade zich verder verspreidt. 89 Nu hoor ik je misschien denken. 90 Ja, oké, weer een Microsoft ding. 91 En moet ik dan overal de Microsoft Cloud Azure voor gebruiken. 92 Het korte antwoord is nee. 93 Deze toolkit is namelijk volledig open source onder een MIT licentie en werkt onafhankelijk van Microsoft technologie. 94 Je kunt het draaien op elk platform. 95 Je wordt heel kort technisch. 96 Er zijn SDK's voor onder meer Python, TypeScript. 97 Rust, je kan ze gek niet verzinnen. 98 En integraties met frameworks zoals LangChain en CrewAI. 99 Dus je zit nergens aan vast. 100 En dat is een bewuste keuze die Microsoft heeft gemaakt. 101 Want ze zeggen zelf dat agent governance te belangrijk is om door één partij te worden beheerst. 102 Dus ze willen deze toolkit uiteindelijk ook onderbrengen bij een onafhankelijke stichting. 103 Dus dat vind ik wel echt heel heel goed nieuws. 104 Maar laten we nou ook de brug maken naar misschien jouw organisatie. 105 Want het klinkt misschien als iets voor grote techbedrijven. 106 Maar dat is het niet. 107 Veel organisaties worstelen namelijk met dezelfde vraag. 108 Hoe maak ik governance concreet? 109 Hoe voorkom ik dat het een papieren tijger wordt. 110 In mijn boek Doeltreffend met AI-agents, heb ik daar het onder andere het AI Governance Playbook voor ontwikkeld. 111 Dat is een praktisch raamwerk dat je helpt om governance niet als last te behandelen, maar juist als onderdeel van je ontwerpproces. 112 En een paar maanden geleden hebben we daarna ook nog de AI-agent vacature Canvas aan toegevoegd. 113 En dat is een canvas dat je dwingt om vooraf na te denken over wat je agent moet doen, wat hij mag en niet mag. 114 Welke data hij nodig heeft en wie er verantwoordelijk voor is. 115 Eigenlijk alles wat je nodig hebt om de antwoorden te formuleren die je vervolgens programmeert in een governance framework als dat van Microsoft. 116 En dat is juist de samenhang die ik zo waardevol vind. 117 Die toolkit van Microsoft biedt echt de technische handhaving. 118 Het Governance Playbook en het vacature Canvas helpen je om te bepalen wat je wil handhaven. 119 En de combinatie met de toolkit maakt governance echt werkbaar. 120 Van beleidsnotitie tot code, zou je kunnen zeggen. 121 Wat moet je hier nu mee als luisteraar. 122 Laat ik drie dingen noemen. 123 Ten eerste, als je al AI-agents bouwt of dat overweegt kijk dan echt naar deze toolkit. 124 Niet om morgen alles in productie te zetten, maar om te begrijpen welke governance lagen je nodig hebt. 125 Die OWASP Agentic AI Top 10 is echt een goed startpunt om in ieder geval je risico's in kaart te brengen. 126 Ten tweede, start ook met de menselijke kant. 127 Voordat je een governance framework implementeert, moet je weten wat je agent wel en niet mag doen, governance begint uiteindelijk bij een gesprek en niet bij de code. 128 En derde, wacht niet op augustus. 129 De EU AI Act verplicht organisaties hun AI-systemen in kaart te brengen en te classificeren. 130 Dat geldt ook voor agents. 131 En hoe eerder je mee begint, hoe minder haastwerk je straks hebt. 132 Het leuke nieuws is dat de komende afleveringen gaan we vaker in gesprek met gasten over AI governance. 133 Het is een onderwerp wat gewoon nu heel erg op de kaart staat. 134 Da gaan we nog veel dieper op in. 135 Dus mis die niet. 136 En bedenk AI is niet de oplossing van elk probleem, maar onmisbaar waar het past.