Alle afleveringen
S08E05 - Geef AI-governance een kans
S08E05

Geef AI-governance een kans

Seizoen 8 11 min Hosts: Joop Snijder & Niels Naglé
0:00

Wat leer je in deze aflevering?

In de podcast AIToday Live staat deze aflevering in het teken van AI governance. Traditionele governance wordt vaak gezien als een rem op innovatie, met trage processen en eindeloze vergaderingen die projecten vertragen.

Het alternatief is een AI Governance Playbook met vooraf gedefinieerde patronen en risicoclassificaties, waardoor teams sneller kunnen handelen binnen veilige kaders.

Deze aanpak transformeert governance van obstakel naar versneller, met duidelijke voorwaarden en grenzen die teams helpen navigeren zonder vast te lopen in bureaucratie.

01
Definitie van AI governance
02
Problemen met traditionele governance
03
AI Governance Playbook en zijn voordelen
04
Risicoclassificatie van AI-toepassingen

Kernbegrippen

AI Governance
Stelsel van regels, processen en structuren voor veilige, wettelijke en ethisch verantwoorde inzet van AI-technologie.
Governance Playbook
Vooraf gedefinieerde patronen voor AI-implementaties met vastgestelde voorwaarden en risicoclassificaties.
Risicoclassificatie
Indeling van AI-projecten naar risiconiveau om bepaald welk controleniveau nodig is.
Escalatiemechanisme
Procedure om complexe situaties door te verwijzen naar menselijke beoordeling of hogere autoriteit.

Wat er gezegd wordt

Het probleem is dat we dat vangnet vaak zo fijnmazig proberen te maken dat niemand er nog doorheen kan bewegen.

Joop Snijder

Er is een betere manier: een manier waarbij governance niet vertraagt maar juist versnelt.

Joop Snijder

Transcript

Hoi, leuk dat je weer luistert naar de korte aflevering van AIToday Live. Vandaag gaan we het hebben over governance. Het is een woord dat bij veel organisaties direct associaties oproept met bureaucratie, vertraging en frustratie. Teams die maanden wachten op goedkeuring, innovaties die doodlopen in procedures en enthousiasme dat verdampt terwijl juridische compliance en risicoafdelingen hun zegje doen. Maar dat kan anders. Maar voordat ik dat gaan vertellen, laten we eerst eens even kijken, wat is governance nou eigenlijk. In de kern, namelijk is het stelsel van regels, processen en structuren waarmee organisaties ervoor zorgen dat technologie wordt ingezet op een manier die veilig, wettig en ethisch verantwoord is. Het bepaalt wie welke beslissingen mag nemen, welke waarborgen moeten worden ingebouwd en hoe risico's worden beheerst. Governance is het vangnet dat voorkomt dat je door de grond zakt wanneer dingen misgaan. Het probleem is dat we dat vangnet vaak zo fijnmazig proberen te maken dat niemand er nog doorheen kan bewegen. Dus tijd voor een gesprek over hoe je dit in kan zetten niet als rem, maar juist als versneller. Kijk, er is wel een probleem met traditionele governance. Dit is hoe het nu vaak gaat. Een team heeft een idee voor bijvoorbeeld een AI-agent. En ze schrijven een voorstel en sturen dat naar de IT-afdeling. Die stelt dan vragen en stuurt het door naar legal. Legal heeft zorgen en wil input van compliance. Compliance wil weten wat risk ervan vindt, risk wil dat security meekijkt. Security vindt dat dataprivacy betrokken moet worden. Zo gaat het maar door, drie maanden later zit zo'n team in de zevende vergadering en is er nog steeds geen besluit. Ondertussen is de concurrentie al live gegaan met iets vergelijkbaars, enthousiasme verdwenen, project sterft een stille dood. Dit is niet omdat mensen niet willen meewerken. Het is omdat elk van die afdelingen een eigen perspectief heeft, eigen zorgen terecht ook met eigen criteria. En omdat niemand de verantwoordelijkheid neemt om te zeggen. Dit is goed genoeg voor nu laten we het proberen. Er is een betere manier: een manier waarbij governance niet vertraagt maar juist versnelt. En hiermee wil ik het AI governance playbook introduceren. Stel je voor dat je organisatie herkenbare patronen heeft gedefinieerd, juist voor dit soort AI-implementaties. Niet eindeloze regels, maar juist praktische categorieën waar de meeste projecten in passen. Een klantenservice-agent die bijvoorbeeld vragen beantwoordt uit een kennisbank of monitoring-agent die afwijkingen detecteert en waarschuwt. Content-agent die informatie verzamelt en samenvat. Van elk van deze patronen kan dan een multidisciplinair team vooraf bepalen onder welke voorwaarden ze veilig kunnen worden ingezet. Welke waarborgen er moeten zijn, welke risico's acceptabel zijn, welke grenzen er gelden. Dit is het concept van zo'n AI governance playbook. Het is dan een levend document dat teams helpt navigeren door governance zonder vast te lopen in procedures. Het mooie is: als je project binnen zo'n patroon valt, hoef je dus niet meer langs alle afdelingen. Want die voorwaarden zijn dus vooraf al goedgekeurd. En je kunt dus aan de slag. Het is waar traditionele governance maanden duurt, kan dit proces worden teruggebracht tot weken, dagen, misschien zelfs kort in ieder geval. En voor laag risico toepassingen die precies binnen een patroon passen, kan je het misschien echt super snel doen. Niet alle AI-agents zijn even risicovol. Dus een interne kennisassistent die alleen openbare documentatie doorzoekt, is iets heel anders dan een agent die kredietwaardigheid beoordeelt. Maar wat je ziet, is dat traditionele governance behandelt ze vaak hetzelfde. En een goed governance playbook maakt dus ook onderscheid. Dus het classificeert patronen op basis ook van hun risicoprofiel. Welke data verwerkt de agent, heeft hij beslissingsbevoegdheid? Wat is de impact als het misgaat? En laag risicopatronen krijgen daarom dan ook een versneld proces. Mediumrisicopatronen krijgen meer aandacht, maar binnen vooraf bepaalde kaders. En hoog risico toepassingen, die krijgen dan de grondige beoordeling die ze ook gewoon verdienen. En dit is niet laks zijn met risico's. Nee, dat is slim omgaan. Gewoon met governance capaciteit. Je besteedt je energie daar waar het echt nodig is. Hoe richt je dit nou in? Voor elk patroon leg je vooraf vast onder welke voorwaarden het veilig kan worden ingezet. Dit zijn je vangrails, de grenzen waarbinnen teams vrijheid hebben om te bewegen. Voorbeeld voor een klantenservice-agent kunnen de voorwaarden zijn. De agent moet duidelijk aangeven dat het AI is. Het mag dan alleen informatie verstrekken, geen transacties uitvoeren. Alle antwoorden moeten altijd gebaseerd zijn op goedgekeurde kennisbronnen. Er moet een escalatiemechanisme zijn voor complexe vragen, zodat de mens wordt ingeschakeld. En laten we zeggen periodieke steekproeven van gesprekken zijn verplicht. Dit zijn dan hele concrete toetsbare criteria. Dus een team kan voor zichzelf checken bij ieder nieuwe use case of ze hieraan voldoen. En die voorspelbaarheid is dan waardevol. Teams kunnen plannen en ze weten wat er van ze verwacht wordt. Hoe zou het in de praktijk eruit kunnen zien. Stel, een financiële dienstverlener wil een klantenservice-agent implementeren die vragen over producten beantwoordt. Het team opent het AI governance playbook en ze herkennen hun use case in het patroon ondersteuning voor de klantenservice. Ze lopen de checklist met voorwaarden en vullen een simpel formulier in, waarin ze aangeven welk patroon ze volgen, wat de risicoclassificatie is en hoe ze aan de voorwaarden voldoen. Binnen een week hebben ze goedkeuring. Niet omdat het niet goed gekeken is, maar omdat de voorwaarden al zijn gevalideerd door alle relevante disciplines. Legal heeft al gezegd dat dit acceptabel is, compliance heeft groen licht gegeven, risk is akkoord gegaan. En het team bouwt de waarborgen in die in de checklist staan. Ze implementeren de monitoring die verplicht is. Volgen de patronen die bewezen zijn. Zo kan je heel snel van een eerste idee naar live gaan. En niet ondanks governance, maar juist dankzij governance. Wat nog belangrijk is. Een goed playbook legt niet alleen vast wat is toegestaan, maar maakt ook expliciet wat niet mag. Dus in de klantenservice agents voorbeeldpatroon. Kan je stellen van die mag geen volledig autonome beslissingen nemen, of een monitoring agent mag niet ingezet worden voor prestatiebeoordeling van medewerkers. Door deze rode lijnen helder te documenteren weten teams precies wanneer hun project uit het patroon valt. En die duidelijkheid bespaart frustratie. Want niemand vindt het leuk om weken te werken aan een voorstel om dan te horen dat het sowieso niet was toegestaan. Zo'n playbook is nooit af. Het is niet een document dat je één keer schrijft en dan vergeet. Het is een levendig systeem dat meegroeit als het goed is met je organisatie. Er komen nieuwe patronen bij als teams nieuwe toepassingen vinden. Bestaande patronen worden aangepast als we meer leren over risico's of nieuwe technologie beschikbaar komen. Daar wordt het slimmer naarmate je er meer mee werkt binnen de organisatie en de feedback ook gewoon verwerkt. Zo'n implementatie van zo'n playbook gaat uiteraard niet vanzelf. Dus de eerste valkuil bij het opstellen van zo'n playbook is de balans tussen specifiek en algemeen. Als patronen te specifiek zijn, dekken ze uiteindelijk te weinig use cases. En als de patronen te algemeen zijn, dan bieden ze gewoon te weinig houvast. Het tweede valkuil is vaak weerstand tegen standaardisatie. Sommige teams kunnen het playbook zien als een beperking van hun vrijheid. Daarom is de communicatie hierover belangrijk. Dus laat zien hoe het playbook juist je teams sneller maakt en deel daarmee succesverhalen. Het derde uitdaging is toch wel snel veranderende regelgeving. De oplossing is dan niet streven naar perfectie. Richt een proces in voor snelle updates, zodat wijzigingen in regelgeving snel worden vertaald naar aangepaste patronen. Het opstellen van zo'n playbook is eigenlijk een uitnodiging. Want als je organisatie worstelt met governance rondom AI-agents, dan weet je dat je niet alleen bent, bijna iedereen kampt hier mee. De vraag is niet of je governance nodig hebt. De vraag is meer hoe je governance inricht zodat het helpt in plaats van hindert. Een AI Governance Playbook is niet de enige oplossing. Maar het is wel een praktische start. Het is een manier om de conversatie te verschuiven van wat mag niet, hoe kunnen we dit mogelijk maken. In die zin geef governance een kans. Niet de bureaucratische versie die we allemaal wel kennen en die willen, maar juist een moderne, wendbare vorm die teams juist helpt sneller te bewegen, terwijl ze verantwoord werk blijven leveren. Want uiteindelijk is dat natuurlijk wel waar het om gaat. Innoveren met AI en AI-agents op een manier die zowel snel als veilig is. Nou trouwens, het AI Governance Playbook en alles wat je moet weten over AI-agents vind je in mijn nieuwe boek, Doeltreffend met AI-agents. En de link vind je in de shownotes. Dank je wel weer voor het luisteren en vergeet je niet te abonneren via je favoriete podcast app. Dan mis je geen aflevering. Tot de volgende keer.