Wat leer je in deze aflevering?
Menno van de Lagemaat, AI Governance Officer bij Alliander, beoordeelt dagelijks AI-systemen die de elektriciteitsinfrastructuur van miljoenen Nederlanders raken. Als een AI-systeem netcongestie verkeerd voorspelt, brandt een kabel door en valt de stroom uit. Hij laat zien hoe je Responsible Artificial Intelligence in de praktijk toepast: van risicoclassificatie tot het structureren van ethische gesprekken met drie vaste vragen.
Hij heeft zelf een systeem tegengehouden, en legt uit hoe de AI Act hem daarin concreet helpt, ook als ethische argumenten niet landen.
Morgen kun je beginnen met één stap: maak een lijst van AI-systemen in je organisatie en stel per systeem de vraag of het überhaupt AI is in de zin van de wet.
Kernbegrippen
- Risicoclassificatie
- Indeling van AI-systemen in categorieën (minimaal, hoog, onacceptabel risico) op basis van impact op veiligheid en grondrechten.
- Impact Assessment Mensenrechten en Algoritmes (IAMA)
- Ethische toetsing waarin business, techniek, juridische en ethische kennis samenkomen rond noodzaak, middel, doel en waarden.
- Kritieke infrastructuur
- Systemen waarvan uitval directe gevolgen heeft voor publieke veiligheid, zoals elektriciteitsnetwerken of waterbeheer.
- AI-register
- Centraal overzicht van alle AI-systemen in een organisatie met naam, team, risicocategorie en herzieningsdatum.
Wat kun je morgen doen?
- 1 Begin een AI-governance gesprek met drie vragen: noodzaak, middel, doel. Voeg als vierde vraag toe welke waarden worden geraakt. Kost 60 minuten, voorkomt maanden aan verkeerde implementatie.
- 2 Leg elk AI-systeem vast in een register met naam, team, risicocategorie en herzieningsdatum. Een spreadsheet volstaat als tussenoplossing.
Interview: Menno van de Lagemaat
Kun je ons meenemen in een concreet moment bij Alliander waarop je voor het eerst echt voelde hoe AI governance anders wordt geïmplementeerd binnen kritieke infrastructuur?
Wat uniek is aan Alliander, is dat we direct onder de AI Act vallen vanwege onze rol in kritieke infrastructuur. De AI Act heeft concrete eisen over wat onder hoog risico valt, en een daarvan gaat specifiek over veiligheidscomponenten van kritieke infrastructuur. Niet kritieke infrastructuur op zich, maar echt het veiligheidscomponent-stukje. Dat is iets wat wel uniek is aan Alliander en andere netbeheerders in Nederland. Een goed voorbeeld: we kijken bijvoorbeeld naar systemen die kunnen voorspellen wanneer er netcongestie dreigt. Netcongestie betekent dat de kabel kan doorbranden als er te lang te veel stroom doorheen staat. Als je een AI-systeem hebt dat daarmee te maken heeft, dan moet je daar volgens de AI Act rekening mee houden. Dat maakt onze situatie heel specifiek.
Wat maakt het beoordelen van AI-systemen binnen kritieke infrastructuur dan anders dan andere hoog-risico systemen?
De nadruk ligt ergens anders. Als je bijvoorbeeld een hoog-risico systeem hebt dat CV's en vacatures matcht, dan is dat heel erg spannend omdat het invloed heeft op of mensen een baan krijgen of niet. Maar wat ik net noemde over kritieke infrastructuur heeft invloed op of mensen toegang tot elektriciteit kunnen krijgen. Dat is nogal wat. Daarom moet alles goed op orde zijn. De vragen waar je mee te maken krijgt zijn daardoor anders dan bijvoorbeeld met zo'n HR-toepassing. Ik ben veel meer bezig in termen van veiligheid. En ook als het gaat om bias. Stel, je zou een AI-systeem hebben dat rekening houdt met verschillende type wijken. Dan wil je scherp zijn dat je bijvoorbeeld niet een wijk die qua elektriciteit al voorloopt op andere wijken – bijvoorbeeld omdat er allemaal laadpalen staan omdat er relatief rijke mensen wonen – niet voortrekt ten opzichte van wijken waar dat niet zo is. Daar wil je rekening mee houden. Dit zijn de scenario's die we gaan bespreken als we kijken naar de AI Act.
Met wie bespreek je dit soort ethische vraagstukken? Wie zit er aan tafel bij zo'n assessment?
Het verschilt per casus, maar je past hier de IAMA toe – dat is de Impact Assessment Mensenrechten en Algoritmes. Daarbij ga je precies dit soort spannende vragen rondom met name ethiek onder de loep nemen. Ten eerste heb je de business nodig – de mensen die iets willen en die AI als een middel zien om dat te bereiken. Dit kunnen mensen zijn met een beetje technische kennis, een teamleider, een manager of een specifieke medewerker die verantwoordelijk is voor procesverbetering. Ten tweede heb je mensen nodig die op technisch vlak goed onderlegd zijn, die echt goed kunnen uitleggen hoe het systeem werkt. Maar je hebt ook iemand nodig die op ethisch vlak de juiste vragen weet te stellen. Dat is tegenwoordig nog een wat zeldzamere skill – het komt een beetje uit de filosofiehoek. In dit soort gesprekken heb je juist iemand nodig die weet te prikken op de juiste momenten, die af en toe net een beetje vervelend door weet te vragen van: hé jongens, zetten we dit nou echt in om de kwaliteit met z'n allen te verbeteren, of zetten we dit eigenlijk in om vooral efficiëntie te behalen en tijdwinst? Dus je hebt de business nodig, de technische mensen, maar ook mensen die op ethiek er scherp op kunnen zijn en op juridisch vlak, omdat mensenrechten ook een rol spelen.
Wat is jouw specifieke rol in die gesprekken?
Een beetje van allemaal, en dat houdt mijn werk heel leuk. Mijn rol is vooral het gesprek leiden. Wat ik meestal doe met mijn collega is dat een van ons het gesprek leidt en de ander de aantekeningen maakt. Dat raad ik ook aan als mensen dit ooit zouden doen, want als je allebei gaat doen, dan zit je te veel in je hoofd met netjes opschrijven wat die ene persoon zei, in plaats van heel scherp op de specifieke woorden te letten die iemand gebruikt. Mijn rol is een combinatie van zorgen dat het gesprek qua tempo een beetje blijft lopen – het gaat veel te veel uitweiden als je daar niet scherp op bent. Je wilt ook rekening houden met dat het niet acht uur gaat duren, maar soms heb je gewoon die tijd simpelweg nodig. De ethische vragen laat ik, als bijvoorbeeld een ethicus erbij zit, het liefst door hem oppakken, omdat hij heel specifiek daarop kan focussen.
Per 2 augustus 2026 wordt alles rondom hoog risico geactiveerd in de AI Act. Hoe bepalen jullie of een systeem hoog risico is? Kun je iets over dat proces vertellen?
Het proces kan ik prima vertellen. Uiteindelijk is de kernvraag: je pakt de AI Act erbij, je kijkt wat de AI Act zegt over wanneer iets hoog risico is, en dan ga je jouw specifieke casus daar langs leggen. Specifics over welke tool we hebben opgesteld mag ik helaas niet vertellen, maar een beetje hoog-over kan ik wel een beeld geven. Je wilt gewoon van alles weten aan AI binnen je organisatie. Ten eerste: is het überhaupt AI? Je zou verrast zijn hoe vaak dat niet het geval is en het gewoon uiteindelijk wiskunde is. Als tweede wil je gaan checken welk risico het volgens de AI Act heeft. Dat kan alles zijn, van simpelweg vragen: raakt dit systeem bijvoorbeeld het toewijzen van taken aan mensen? Die staat gewoon heel expliciet in de act als hoog risico. Maar je kunt ook bredere vragen stellen over of bepaalde ethische waarden geraakt worden. Volgens de letter van de wet zijn er concrete voorbeelden die je gewoon kunt toetsen, maar je wilt ook wat verder kijken dan dat. Want als je een beetje grensgeval hebt, dan wil je wel rekening houden van: ja, het is misschien niet formeel hoog risico, maar als we dit niet goed inrichten, dan is het qua – ik weet niet – gelijkheid of iets dergelijks, allemaal niet zo fijn. Die wil je alsnog weten te pikken. Dus je wilt het liefst iets van een tool hebben dat zowel de letter van de wet oppakt, als ook dat bredere verhaal van: los van die letter van de wet, vinden we dit een spannend systeem?
Benader je zo'n grensgeval dan ook als een hoog-risico systeem?
Het idee is dat daar een classificatie uitkomt. Als we van een specifiek systeem zeggen dat er minimaal risico, hoog risico of onacceptabel risico is, dan neem je de juiste acties. Stel je zegt dat iets hoog risico is, dan ga je de AI Act erbij pakken en kijken wat nodig is vanuit de AI Act.
Leg je de uitkomsten van jullie risicoanalyse vast in een centraal register, zoals bij de overheid ook van toepassing is?
Het ligt inderdaad allemaal vast in één centraal register of systeem, hoe je het ook wilt noemen. Als je dat bijvoorbeeld nog niet hebt als organisatie, zou ik zeggen: gewoon simpel beginnen. Ik weet dat helemaal in IT-land niemand houdt van spreadsheets en dergelijke, maar soms heb je ze gewoon even nodig als een soort tussenoplossing. We hebben het bij ons wel wat uitgebreider aangepakt, maar je moet ergens beginnen. Je wilt het gewoon allemaal geregistreerd hebben.
Wat zijn volgens jou de belangrijkste zaken die je vast moet leggen in zo'n risicoanalyse?
Ten eerste gewoon de naam van het systeem op zich. Het team en welke afdeling erbij hoort, zodat je een beetje beeld hebt bij de verantwoordelijkheden. Wat is je conclusie: minimaal, hoog, onacceptabel of überhaupt geen AI – dat is ook een goede check. Verder ligt het een beetje aan de organisatie. Je kunt bijvoorbeeld ervoor kiezen om elke één à twee jaar even opnieuw te kijken of dit nog steeds klopt. Als er bijvoorbeeld grote ontwikkelingen zijn geweest, kan in twee jaar best wel een heleboel veranderen. Misschien wordt een bepaalde casus toch een stuk spannender. Dus dan kun je bijvoorbeeld registreren van: hé, we hebben het op deze datum afgenomen en we gaan dit nu nog een keertje doen, bijvoorbeeld één à twee jaar later.
Hoe krijg je mensen mee in het belang van governance zonder dat je in angstcommunicatie vervalt?
Daar raak je een kern van waarom mijn job interessant is. Hoe je mensen daarin meeneemt, is door – naar mijn persoonlijke mening – het spanningsveld vooral te accepteren en daarin te gaan bewegen. Kijk, compliance kost tijd. En ik kom uit een engineering-achtergrond – ik was data-analist en ik heb een jaartje bij NS gewerkt op een best wel harde IT-functie. Wat ik daar heel erg heb geleerd is dat de meeste IT'ers niet zo blij worden van heel lang wachten op dingen. Ik denk dat jullie dat misschien kunnen bevestigen uit jullie achtergrond. Maar sommige dingen moeten gewoon. En dat is precies dat spanningsveld: sommige dingen moeten, maar aan de engineering-kant willen mensen niet altijd. Het belangrijkste voor mij, wat werkt en wat ik zoveel mogelijk probeer te doen, is om die grens te zoeken van: oké, hier moet het gewoon en moeten we gewoon wachten, punt, dat is wat het is. Maar als ik hier en daar net door het ene mailtje wat sneller te sturen, of mensen toch nog even een keertje uit te leggen waarom jullie moeten wachten – nou, omdat het gewoon zo staat in de wet. En waarom staat het zo in de wet? Omdat we bijvoorbeeld willen dat bij taaktoewijzing – stel, engineers, jullie hebben het allemaal hartstikke goed ingericht en dergelijke – maar jullie moeten wel realiseren dat hoe taken worden toegewezen aan mensen, dat kan raken wat voor ervaringsopdoen ze in hun werk hebben. En wat voor ervaringsopdoen in hun werk kan keer naar wat voor toekomstig baanperspectief ze hebben, want dan kunnen ze sommige dingen wel of niet op hun CV zetten. Dit is ook de logica van de AI Act. En als ik mensen daarin meeneem, dan vind ik het wel heel mooi bij Alliander: je merkt wel dat er heel veel mensen zijn die houden van de techniek, maar als je dit aan ze uitlegt, dan zitten ze van: ja, oké, maar je hebt eigenlijk gewoon hartstikke gelijk. Dat stukje goed uitleggen helpt vaak een heleboel bij mensen, maar ook soms een strakke lijn moeten trekken van: nee jongens, zo moet het helaas.
Is er wel eens een systeem geweest dat je hebt tegengehouden, waarbij je achteraf ook gelijk had?
Ja, er is één voorbeeld – details moet ik even laten voor wat het is, helaas. Maar het is wel een casus die duidelijk hoog risico was volgens de AI Act. Dan moet je heel erg gaan kijken van: oké, er zijn mensen die dit systeem wilden. En op zich is die noodzaak niet erg in het kader van tijdsefficiëntie en dat soort zaken. Maar het werd daar nog spannend op ethisch vlak, na een tijd dat we ons echt gingen afvragen: oké, ethisch is het best wel spannend, deze mensen lijken het niet helemaal door te hebben. De leverancier was ook een beetje – op technisch vlak was ook alles niet helemaal lekker. Het voelde aan een aantal verschillende kanten gewoon niet helemaal lekker. Dus zulke spannende gevallen komen wel eens voor, inderdaad.
Hoe groot is dan de weerstand die je krijgt in zo'n situatie?
Dat is extreem persoonsafhankelijk. Houdt het ook wel interessant. Het liefst heb je gewoon dat iedereen allemaal – net zoals bijvoorbeeld ik – erin staat. Ik ben best wel veel bezig met een soort huiskamer-filosofie in mijn vrije tijd. Dan denk ik: nou jongens, wat is nou goed om te doen? En heel veel mensen hebben dat gewoon niet. Degenen die dat wel hebben, die gaan vaak wel met me mee. Als ik ze uitleg: hé jongens, het is best wel een spannende casus. Maar je hebt ook mensen die een stuk meer praktisch en concreet zijn. Die zijn gewoon van: joh, ik heb gewoon een baan om dit en dit gedaan te krijgen, een job. En AI kan hierin versnellen. En nu wordt het allemaal tegengehouden, terwijl ik ook gewoon iets goeds probeer te doen. Ja, dan krijg je inderdaad wel eens weerstand. En dat is tricky, want dan moet je denk ik leren diegene zijn taal een beetje te spreken. Ik kan een heel betoog houden over filosofie en dat soort dingen, maar als het gewoon niet landt bij die persoon, dan niet. Dus dan moet je gaan kijken: oké, nou, je wilt dus en zo doel bereiken met jezelf, of in ieder geval met je team, met je afdeling, daar voor je verantwoordelijkheid voor. Heb je ook door dat – bewijs van – je hebt een heel spannend systeem, dat dit en dit ook de gevolgen zijn?
Is het voor jou persoonlijk moeilijk om die stap te nemen om nee te zeggen?
Soms wel. Dat is ook iets waar ik zelf heel graag in wil groeien. Omdat ik uit een achtergrond kom waar ik vooral heb geleerd dat aan de technische kant het heel frustrerend kan zijn om je project of je feature vertraagd te zien, dan moet ik heel bewust eigenlijk ingaan tegen wat ik daar heb geleerd. Want ja, soms moet ik gewoon – als jij een engineer was bij Alliander – tegen jou zeggen: ja, sorry, dat wordt toch twee maanden ben ik bang. En dat is persoonlijk nog wel eens pittig inderdaad. Want ik kan aan de ene kant graag rekening houden met andere mensen en daar ook redelijk in blijven. Maar als het gaat om dingen als rechtvaardigheid en gelijkheid – dat je echt voor wil zorgen dat mensen de baan krijgen die ze verdienen te krijgen, en waar een AI-systeem als het een beetje spannend is en niet helemaal netjes vacatures en CV's zou matchen in theorie – dan moet je wel echt die harde lijnen gaan trekken. En dat is best wel spannend.
Wat heb je de afgelopen tijd geleerd om toch vanuit je technische achtergrond die andere perspectieven mee te kunnen nemen? Hoe kun je je daar als professional in ontwikkelen?
Ik zit er nog middenin, dus ik zal delen wat ik kan. Het belangrijkste voor mij daarin is iets wat je wel vaker hoort in dit soort dingen: gewoon dat andere perspectief leren te begrijpen. Kijk, ik heb nu een andere functie dan engineering. AI Governance Officer is meer een compliance-functie dan dat het een technische functie is, ook al heb ik technische kennis nodig. Maar het klinkt wel dat die achtergrond helpt, in ieder geval dat je in de schoenen van de ander kunt gaan staan. Honderd procent. Als ik alleen maar een filosofie-achtergrond had, dan kon ik een dondersgoed ethisch gesprek voeren, maar had ik geen idee wat mensen zouden zeggen als: ja, we hebben een neuraal netwerk getraind met dit en dit. En als ze beginnen over backpropagation-algoritmes, dan houdt het snel op als je de kennis niet hebt. Om terug te komen naar je vraag over hoe je dat vuur in jezelf naar boven haalt als je verder moet kijken dan de techniek: ten eerste is het echt heel scherp voor jezelf houden van waar doe ik dit nou echt voor. Bij mij van nature moet ik wat leren om dat vuur wat meer ruimte bij me te geven. Wat ik specifiek doe: ik heb een collega waarmee ik het heel goed kan vinden. En dan bespreken we onderling van: oké Lizzy, ik word niet zo snel boos, maar ik heb dat wel soms nodig om dat vuur te vinden. Dus kun je met mij een soort oefening doen om te kijken waar word ik nou boos? Dat is misschien een beetje een aparte manier om het te benaderen, maar ik denk dat iets als woede aan de ene kant gevaarlijk is als je het te veel de overhand laat nemen. Maar woede kan wel de eerste vonk zijn om verandering door te brengen. Stel, ik heb een casus die heel spannend is en ik heb allemaal engineers die het allemaal niet zo uitmaakt hoe dat zit met die ethiek en die gewoon door willen – omdat ze willen scoren bij hun manager, of omdat ze heel betrokken zijn en denken: hé, we hebben met z'n allen een energietransitie te fixen, we moeten gewoon door. Dan moet ik toch een soort van die – aanhalingstekens – woede naar boven zien te halen, omdat dat weer een bron is van dat vuur. En als ik dat heb, dan heb ik de stevigheid om te zeggen: nee jongens, we gaan dit gewoon niet zo doen.
Stel dat er geen AI Act geweest zou zijn, had je dan nog genoeg tools in handen om nee te kunnen zeggen?
Dan zou mijn werk veel moeilijker worden. Het ding met de AI Act dat ik echt heel erg fijn vind, is dat het – het komt echt toch wel neer op – de wet is gewoon de wet. We hebben met z'n allen in de maatschappij – kijk, even los van hoe iedereen individueel politiek in staat – op dit moment een Europese Unie, en daar worden gewoon dit soort beslissingen genomen. Dan kun je het natuurlijk mee eens of oneens zijn, op zich in een democratie, dus dat debat is denk ik prima. Maar als het nu de wet is, kan ik gewoon tegen mensen zeggen: nee jongens, sorry, dit staat gewoon in de wet. En als we de wet niet aanhouden, dan komt er een Autoriteit Persoonsgegevens of een Rijksinspectie Digitale Infrastructuur langs die gaat zeggen: jongens, dit is de wet, waarom hebben jullie dit niet op orde? Dus dat helpt mij gewoon heel erg om eigenlijk heel makkelijk wat urgentie bij mensen naar boven te halen. Stel de AI Act er was niet, dan wordt het een heel stuk ingewikkelder. Een onderwerp als ethiek wordt heel snel gezien als iets dat een beetje extra erbij is. Je bent een organisatie, je hebt in de basis een bepaald doel – of het nou commercieel is of niet. Je hebt een product te leveren of een dienst te leveren, dat is uiteindelijk de kern. En ethiek kan helemaal op hoog niveau – heb ik wel eens gehoord, hoewel bij Alliander valt het best wel mee vind ik – maar je merkt soms dat die urgentie gewoon minder wordt gevoeld. Ethiek is leuk en wel interessant, maar dat levert niet echt waarde op. Als je gewoon een heel hard-stevige iemand hebt in je organisatie die zit van: hé jongens, sorry, maar gewoon, wij zijn een bedrijf, wij leveren dit gewoon punt, en ethiek zal allemaal wel – die ga je niet kunnen overtuigen door een heel mooi ethisch verhaal. Zo'n AI Act is fijn om die urgentie ook voor dat soort mensen gewoon heel duidelijk te hebben van: nee, zo is het nou helemaal gewoon. Want zonder wordt zo'n verhaal een heel stuk moeilijker. Dan moet je echt ethiek gaan inzetten als meer een middel om problemen op te lossen, om dan toch diegene aan te kunnen spreken op wat wel uitmaakt voor een directeur.
Heb je een voorbeeld waar je vanuit governance gestuurd hebt en dat dat ook een succes is geworden, waardoor het echt veel beter is geworden?
Er is één casus waar ik mee bezig ben geweest waar, toen ik zo'n gesprek had gedaan over ethiek, mensen ook achteraf wel zeiden: ondanks dat het best wel veel tijd kost, bedankt. We hadden zelf nog niet zo nagedacht over deze vragen. Zo'n simpele vraag – mensen zijn niet gewend, dat snap ik allemaal, om in termen van waarden te denken. Dat leer je eigenlijk alleen maar als je filosofie studeert in Nederland of zo. Dus als je dat doet, dan kan het mensen wel snel activeren. En dan gaan ze inderdaad zeggen van: weet je, dat wat we allemaal bespraken, dat vind ik eigenlijk hele goede vragen. Laten we er wel mee doorgaan. En dan denk ik: perfect, want nu heb ik mensen aangewakkerd. En nu gaan we – het traject rondom dit systeem naar product brengen verandert daardoor. Ze wilden snel door, gewoon even een feature aanzetten en knallen, maar met deze vragen erbij werd ineens heel duidelijk: oké, hier moeten we goed mee omgaan.
Zou je drie openingsvragen kunnen geven voor mensen die dit gesprek willen gaan voeren over AI-systemen?
Ik hou hem even heel simpel. Als je gewoon echt een beginner-beginner bent hierin en je denkt: ik wil spannende vragen rondom AI aankaarten, dan zou ik zeggen: hou aan allereerst noodzaak-middel-doel. Ten eerste: wat is de noodzaak dat we dit AI-systeem willen inzetten? Ten tweede: wat weten we over het middel om dit in te zetten? En dat is eigenlijk gewoon het technische gedeelte. Ten derde: wat is het doel dat we hiermee willen bereiken? Je begint met die drie. Noodzaak geeft iemands onderliggende intentie – dat kan bijvoorbeeld aangeven: doe je dit vanwege besparingen waar je iets mee wilt doen, gaat het over kwaliteitsverbetering, enzovoort. Middel geeft je een beeld bij gewoon technisch: snappen we echt goed hoe dit systeem werkt, of weten we het een beetje? En doel geeft aan wat is echt het ding dat we willen bereiken, waarvan we denken dat AI het juiste middel kan zijn. En dan de vierde die ik nog had beloofd: je kunt gewoon heel plat zeggen: ik heb hier een lijstje met waarden. En misschien is het een beetje ongewoon om hierover in gesprek te gaan, maar denk ik wel belangrijk. Raakt dit een van deze waarden? Dan kun je gewoon letterlijk googlen op waarden: gelijkheid, rechtvaardigheid, heerlijkheid, enzovoort. En daar kun je het over hebben van: speelt dat een rol hier ergens?
Wat zou het meest concrete advies zijn dat je mee zou willen geven aan een startende AI Governance Officer?
Mijn werk raakt iets van vijf, zes onderwerpen, dus om het even te scopen: als ik toch een nummer één zou moeten geven – stel, je bent beginnend AI Governance Officer – dan zou ik toch zeggen: begin bij de wet, ondanks dat ethiek echt net zo belangrijk is als de wet. Als je toch ergens moet beginnen: de AI Act is genoeg houvast voor je om het even goed door te nemen en te denken: oké, dit is wanneer een systeem hoog risico of onacceptabel risico is. Daar moet je gewoon beginnen. Ik zou zelfs nog kunnen zeggen: stap 0 is welke AI heb je überhaupt als organisatie, want als je dat niet hebt, dan gaat het sowieso niet lukken. En als dat je stap 0 is, dan is je stap 1: is dit minimaal, hoog of onacceptabel risico? Daar moet je gewoon echt vanuit beginnen.
Je hebt nu al een paar keer aangegeven: is het wel AI? Kun je aangeven waar dat verschil zit en waarom het zo belangrijk is?
We hebben een plaat gemaakt bij Alliander. Ik weet hem niet uit mijn hoofd helaas, anders zou het misschien wel leuk geweest zijn. Waarom het belangrijk is: je hebt soms heel grensgevallen. Bijvoorbeeld, stel je hebt een team dat qua natuurkunde ijzersterk is, hartstikke ingewikkelde modellen heeft. En je zit zo te kijken van: dit is zo ingewikkeld, dit zou wel AI moeten zijn. Alleen dan ga je met ze in gesprek – hier heb je dus die technische kennis voor nodig – en dan komt het eigenlijk kijken van: ja, ze hebben wel een soort statistisch model, maar het is niet machine learning. Er gaat niet data in waarop wordt getraind. Uiteindelijk komt het vooral neer op natuurkundige formules. En dat wordt dan een model genoemd, dus je hebt een spraakverwarring. Dus je moet technisch een beetje weten van: is het machine learning of niet? En wordt er iets gedaan met training op basis van data? Of is het zo dat als je bijvoorbeeld één input geeft, er altijd dezelfde output uitkomt omdat het gewoon wiskundige regels zijn? En soms krijg je van teams: maar dit is toch helemaal geen AI, waarom worden wij benaderd over de AI Act? En dan zitten we: oh ja, jullie hebben gelijk inderdaad, het is al geen AI. Want de AI Act houdt een definitie aan van AI en daar hangt alles aan vast. Maar soms kom je erachter: het is heel cool en ingewikkeld, maar het is geen AI. Dus dan is het allemaal niet relevant.
Maar zijn dan de governance-vraagstukken nog wel relevant bij zo'n systeem?
Die zou ik zeggen nog van wel, ja. We hebben ook wel eens teams die dan aangeven: het is misschien geen AI, maar dit is wel een dusdanig bedrijfskritisch of belangrijk systeem dat we wel de juiste maatregelen op moeten voeren. Dan kom je echt uit bij het duidelijke rollen-verantwoordelijkheden-onderscheid. Want als ik dit zelf zou gaan oppakken, dan ga ik dingen doen die niet AI zijn, terwijl ik AI Governance Officer ben. Dan kun je wel kijken of je bijvoorbeeld nog contacten hebt. Binnen Alliander is er een EX Office – eigenlijk Ethics Office. We kunnen kijken: zijn er mensen daar die eventueel nog kunnen aansluiten of helpen? Ik ga ervan uit dat de gemiddelde MKB'er dat misschien niet heeft, maar in ons geval is het echt kijken: zijn er collega's die dit dan kunnen oppakken, ondanks dat het geen AI is? Daar probeer je ze ook behulpzaam mogelijk in te zijn.
Hoe zou jij dit vakgebied AI Governance zich zien ontwikkelen de aankomende jaren?
Dat is een vraag waar mijn collega en ik ons best wel vaak mee bezighouden. Want stel, het lukt om alles AI Act-compliant te krijgen, wat natuurlijk de bedoeling is – waar gaat je werk dan heen? Want stel dat proces loopt allemaal lekker, iedereen zijn rollen en verantwoordelijkheden zijn duidelijk, waar gaat de functie dan heen? Dat is eerlijk gezegd een vraag waar we zelf nog wel mee bezig zijn. Het kan de kant opgaan dat, omdat agents steeds meer een ding worden, je dan een stuk meer daarmee bezig bent. Als je kijkt van: oké, elke agent die iemand zou opspinnen of uitzetten – hoe zorgen we ervoor dat die automatisch compliant zijn met alles qua AI Act en dergelijke? Dan wordt je werk een stuk meer kijken naar dat gedeelte, die zijn ook technischer. Waar kun je bijvoorbeeld in de pipeline standaard inbouwen dat bepaalde checks zijn gedaan? Het kan naar die agent-kant gaan. Er kan over een half jaar weer een van de big tech-bedrijven zijn die weer iets helemaal nieuws aankondigen waar je wat mee moet. Het is eerlijk gezegd best onvoorspelbaar om te weten waar de functie precies heen gaat. Voor nu is het AI Act-compliance en bezig zijn met ethiek. Stel AI Act-compliance lukt, dan is het kijken: gaat het misschien de agent-kant op? Het kan zo zijn dat over twee jaar ik me afvraag: volgens mij heb ik mijn bijdrage wel geleverd. Maar het kan ook zijn dat we ineens met een team van vijf zitten, want er zijn allemaal spannende ontwikkelingen geweest. Kernpunten en praktische adviezen Begin bij de wet: Voor startende AI Governance Officers is de AI Act het beste uitgangspunt. Bepaal eerst welke AI-systemen je hebt en classificeer ze volgens de risico-categorieën (minimaal, hoog, onacceptabel). Check eerst of het wel AI is: Veel systemen die complex lijken, zijn uiteindelijk gewoon wiskunde of natuurkundige formules zonder machine learning. Dit voorkomt onnodige compliance-trajecten. Vier openingsvragen voor ethische AI-gesprekken: 1) Wat is de noodzaak om dit AI-systeem in te zetten? 2) Wat weten we over het middel (techniek)? 3) Wat is het doel dat we willen bereiken? 4) Raakt dit systeem bepaalde waarden zoals gelijkheid, rechtvaardigheid of heerlijkheid? Zorg voor de juiste mensen aan tafel: Een goede IAMA (Impact Assessment Mensenrechten en Algoritmes) vereist input van de business, technische experts, ethici en juridische adviseurs. Verdeel de rollen: één persoon leidt het gesprek, een ander maakt aantekeningen. Accepteer het spanningsveld: Compliance kost tijd en dat botst met de wens van engineers om snel te innoveren. Leer beide perspectieven te begrijpen en communiceer helder waarom bepaalde eisen nodig zijn. Leg alles centraal vast: Registreer minimaal: naam van het systeem, verantwoordelijk team/afdeling, risicoclassificatie, en datum van beoordeling. Plan herbeoordelingen in (bijvoorbeeld elke 1-2 jaar). De AI Act geeft urgentie: Zonder wetgeving wordt ethiek snel gezien als "nice to have". De AI Act helpt om concrete urgentie te creëren, zelfs bij mensen die vooral gefocust zijn op efficiency en tijdswinst. Ontwikkel je ethische kompas: Voor mensen met een technische achtergrond: leer denken in waarden en ethische vragen. Oefen met collega's om je "vuur" te vinden – soms heb je een zekere mate van professionele woede nodig om verandering door te voeren. Kritieke infrastructuur vraagt extra aandacht: Bij systemen die de veiligheid van kritieke infrastructuur raken (zoals elektriciteitsnetwerken), ligt de nadruk op veiligheid én op het voorkomen van bias tussen verschillende wijken of bevolkingsgroepen. Begin klein met registratie: Als je nog geen uitgebreid systeem hebt, begin dan gewoon met een spreadsheet. Het belangrijkste is dat je ergens begint met vastleggen en van daaruit kunt professionaliseren. AIToday Live is een podcast die zich richt op de nieuwste ontwikkelingen in AI en de impact ervan op verschillende sectoren. In elke aflevering spreken hosts Niels Naglé en Joop Snijder met experts uit het veld om inzicht te krijgen in de mogelijkheden en uitdagingen van AI-technologie. Luister via je favoriete podcast app: Spotify, Apple podcasts, YouTube Music, en meer.
Over de gast
Menno van de Lagemaat is AI Governance Officer bij een grote Nederlandse netbeheerder, waar hij zich bezighoudt met risicoclassificatie, impact assessments en de praktische toepassing van de AI Act. Hij heeft een achtergrond in engineering en data-analyse, wat hem helpt om zowel de technische als de ethische kant van AI-vraagstukken te begrijpen. Zijn werk richt zich op het beoordelen van AI-systemen binnen kritieke infrastructuur, waarbij de inzet van AI directe gevolgen kan hebben voor de stroomlevering aan miljoenen mensen.
Bekijk gastprofielTranscript
Nu spreken met Menno van de Lagemaat, AI Governance Officer bij Alliander. Alliander beheert het elektriciteitsnetwerk waarover het licht bij miljoenen Nederlanders thuis brandt. Dat maakt de vraag hoe je AI daar verantwoord inzet, alles behalve theoretisch. Want als een AI-systeem netcongestie voorspelt en de kabel dreigt door te branden, val je onder de hoogste risico-categorie van de AI Act. Menno werkt dagelijks aan risico-classificatie, impact assessments en de praktische vertaling van de AI Act. En hij heeft zelf een systeem tegengehouden dat ethisch niet deugde. Hoe doe je dat als je zelf uit de engineering komt? Joop: Leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Joop: en we zijn bij het AI Governance congres van Alliander moet ik zeggen. Joop: En we hebben de gast, dat is wel echt heel erg leuk, een van de sprekers, namelijk Menno van de Lagemaat. Joop: En Menno is AI Governance Officer bij Alliander, een van de grootste netbeheerders van Nederland. Joop: En Alliander beheert de infrastructuur, waarover het licht bij miljoenen Nederlanders thuis brandt. Joop: Dat is wel fijn, toch. Joop: Maar dat maakt wel de vraag hoe je AI daar binnen verantwoord inzet, alles behalve theoretisch. Joop: En ja, Menno werkt aan de praktische kant, risico classificatie, impact assessment en de AI Act. Joop: Dat is zijn dagelijks werk. Joop: Dus we zijn echt super benieuwd naar zijn inzichten. Niels: Dankjewel, Menno, dat je bij ons te gast wilde zijn, kan je ons meenemen een concreet moment bij Alliander, waarop je voor het eerst echt voelde hoe AI governance anders geïmplementeerd werd en vooral voor de kritische informatie en huishouding. Niels: Dus hoe bij Alliander specifiek het anders wordt ingezet op andere, vooral de kritische infrastructuur gedeelte, wat natuurlijk van essentieel belang is, stroom leveren aan iedereen in Nederland. Menno: Ja, precies. Menno: Wat wel uniek is inderdaad in Alliander, is dat voor de luisteraars die het misschien niet uit hun hoofd weten. Menno: De AI Act, die heeft concreet te eisen wat onder hoge risico valt. Menno: En eentje gaat over veiligheidscomponenten van kritieke infrastructuur. Menno: Dus niet kritieke infrastructuur aan zich, maar echt als veiligheidscomponent stukje. Menno: En dat is iets wat ik zou zeggen wel uniek is aan al die anderen, inderdaad. Menno: Er is bijvoorbeeld een voorbeeldje dat we iets doen van kijken, kunnen we bijvoorbeeld zien over hoeveel tijd ervoor netcongestie is, voor je dat niet weten, netcongestie betekent even heel plat dat de kabel door gaat branden als het te lang stroom staat. Menno: En bij een AI Act, stel, je hebt een AI-systeem, dat kan daar dan wat mee. Menno: De details sla ik even dan moet je daar wel rekening mee houden qua AI Act. Menno: Ik zou zeggen dat dat wel een uniek voorbeeld is aan Alliander, maar eigenlijk ook aan heel netbeheer in Nederland. Niels: Wat maakt het dan anders? Menno: Dan andere risico. Menno: Ik denk dat de nadruk ergens anders op ligt. Menno: Kijk, stel, je hebt bewijs van een hoog risico systeem dat gaat over iets met gewoon even los uit mijn hoofd. Menno: Je gaat bijvoorbeeld CV's en vacatures matchen. Menno: Dat is heel erg spannend, omdat het invloed heeft op of mensen een baan krijgen of niet. Menno: Maar wat ik net noem over die kritieke infrastructuur heeft invloed misschien op of mensen toegang tot elektriciteit kunnen krijgen, dat is nogal wat is nogal wat inderdaad, dus daarom moet het allemaal goed op orde hebben. Menno: Dus de vragen waar je daarmee te maken krijgt, die zijn daardoor anders dan bijvoorbeeld met zo'n HR-toepassing als ik als voorbeeldje gebruik. Menno: Ik ben veel meer bezig in termen van veiligheid. Menno: En ook wel als het gaat om bias. Menno: Bewijs van ook even gewoon los uit mijn hoofd hoor. Menno: Stel, je zou op een bepaalde manier een AI systeem hebben dat dus rekening houdt met verschillende type wijken. Menno: Dan wil je de scherp op zijn dat je bijvoorbeeld niet een wijk die qua elektriciteit al voorloopt op andere wijken. Menno: Bijvoorbeeld er staan er allemaal laadpalen, want er zijn mensen die relatief rijk zijn die daar wonen. Menno: Je wil niet dat die in zo'n systeem in theorie voorgetrokken zouden worden, ten opzichte van wijken waar dat niet zo is. Menno: Dus daar wil je rekening mee houden. Menno: En ik zeg niet dat Alliander zo'n systeem heeft hoor, maar dit zijn wel de scenario's die we gaan bespreken met z'n allen als we kijken naar de AI Act en jongens, hoe houden we hier allemaal rekening mee. Niels: En je zegt dat gaan we bespreken, dat ben ik benieuwd. Niels: Wie bespreek je dat dan binnen binnen Alliander of binnen de organisatie of misschien wel breder? Menno: Verschilt wel echt bij casus. Menno: Je gaat hier toe naar het toepassen van de IAMA. Menno: Dus IAMA is impact assessment mensenrechten en algoritmes. Menno: Wat je daar nu doet, is je gaat precies dit soort spannende vragen rondom met name ethiek. Menno: Die ga je onder loop nemen met z'n allen. Menno: Wie erover spreekt, is één de business, noem ik het even. Menno: De mensen die willen wat en die zien AI als een middel om dat wat te bereiken. Menno: Dus dit kan zijn mensen die een beetje technische kennis hebben, het kan een teamleider zijn, een manager of de specifieke medewerker die bijvoorbeeld verantwoordelijk is voor naar een proces verbeteren of zo. Menno: Dus één, je hebt de business moet je erbij hebben. Menno: Twee, je hebt mensen nodig die op technisch vlak goed onderlegd zijn, die echt goed kunnen uitleggen hoe het systeem werkt. Menno: Je hebt ook iemand nodig die op ethisch vlak weet de juiste de vraag te stellen. Menno: En dat is dan. Menno: Het is tegenwoordig nog wat zeldzamere skill om te hebben, het komt een beetje uit de filosofiehoek. Menno: Maar in dit soort gesprekken heb je juist iemand nodig die weet je wat de prik op de juiste momenten die af en toe net een beetje vervelend door weten te vragen en zo zit van hé jongens, maar zetten we dit nou echt in om de kwaliteit met z'n allen te verbeteren of zetten we dit eigenlijk in om vooral efficiëntie te behalen, tijd winst enzovoort en zo. Menno: Dus de business heb je nodig, je hebt de technische mensen nodig, maar je hebt ook mensen die op ethiek er scherp op kunnen zijn. Menno: Maar ook op juridisch vlak omdat mensen rechten ook daar een rol spelen. Niels: Wat is jouw rol daarin? Menno: Een beetje van allemaal. Menno: Dat hou ik me werk heel leuk. Menno: Mijn rol in zo'n gesprek is vooral het gesprek leiden. Menno: Wat ik meestal doe met mijn collega, is dat dan een van ons het gesprek leidt en de andere dan de aantekening maakt, raad ik ook aan als mensen dit ooit zouden doen. Menno: Want als je allebei gaat doen, dan zit je te veel in je hoofd met netjes opschrijven wat die ene persoon zei in plaats van heel scherp op de specifieke woorden letten die iemand gebruikt. Menno: Mijn rol is een combinatie van zorgen dat het gesprek qua tempo ook een beetje blijft lopen. Menno: Het gaat veel te veel uitweiden als je daar niet scherp op de tijd bent. Menno: Je wil ook een beetje rekening houden met dat het niet acht uur gaat duren met z'n allen, maar soms heb je gewoon die tijd simpelweg nodig. Menno: Ik zou zeggen dat het voornaamste ding is. Menno: Bijvoorbeeld de ethische vragen laat ik als bijvoorbeeld een ethicus erbij zit het liefst oppakken, omdat hij gewoon heel specifiek daarop kan focussen. Joop: Per 2 augustus 2026 dit jaar gaat het alles rondom hoog risico wordt geactiveerd van de AI Act. Joop: Zo moet ik het gezegd geloof ik. Joop: Hoe bepalen jullie of een systeem hoog risico is, kan je iets over dat proces vertellen? Menno: Proces kan ik prima vertellen. Menno: Dus wat je voor moet stellen is, kijk, uiteindelijk is de kernvraag, je pakt de AI Act erbij, je kijkt wat de AI Act zegt over wanneer iets hoge risico is. Menno: En dan ga je dan je specifieke casus ga je daar langsleggen. Menno: Specifics rond welke tool we het hebben opgesteld en zo mag ik helaas niet vertellen. Menno: Maar een beetje hoog over kan ik een beeld geven. Menno: Je wil gewoon van alles weten aan AI binnen je organisatie. Menno: Eén, is het überhaupt AI, je zou verrast zijn hoe vaak dat niet het geval is dat het gewoon uiteindelijk wiskunde is. Menno: Als tweede wil je gaan checken. Menno: Dus welk risico is volgens de AI Act. Menno: Dus dat kan alles zijn van simpelweg vragen. Menno: Raak dit systeem bijvoorbeeld het taken toewijzen aan mensen. Menno: Die staat gewoon heel expliciet in de act als is hoge risico. Menno: Maar je kan ook iets bredere vragen stellen over worden de bepaalde ethische waarde geraakt. Menno: Volgens de letter van de wet zijn er concrete voorbeelden die je gewoon kan toetsen. Menno: Maar het liefst wil je ook wat verder kijken dan dat. Menno: Want als je een beetje grensgevalletjes hebt, dan wil je wel rekening mee houden van ja, het is misschien niet formeel hoog risico. Menno: Maar als we dit met z'n allen niet goed inrichten, dan is het bijvoorbeeld qua ik weet niet gelijkheid of iets dergelijks. Menno: Is het allemaal niet zo fijn, die wil je alsnog uitweten te pikken. Menno: Dus je wil het liefst iets van een tool hebben dat zowel de letter van de wet oppakt, als ook dat bredere verhaal van los van die letter van de wet vinden we dit een spannend systeem. Joop: Ja, benader je 'm dan als hoog risico systeem. Joop: Is dat dan het idee? Menno: Het idee is dat daar inderdaad een classificatie uitkomt. Menno: Dus als we van een specifiek systeem zeggen, er is minimaal risico of hoog of onacceptabel. Menno: En dat je dan de juiste acties dan neemt. Menno: Dus bijvoorbeeld stel je zegt iets is hoger risico. Menno: Dan ga je de AI erbij pakken en kijken wat nodig is vanuit de AI Act. Niels: En leg je dat dan vast in een algoritme register, zoals bij de overheid ook van toepassing is, hoe doen jullie dat? Menno: Het ligt inderdaad allemaal vast in één centraal register, systeem, hoe je het ook kan noemen. Menno: Als je dat bijvoorbeeld nog niet hebt als organisatie, zou ik zeggen, gewoon simpel beginnen. Menno: Ik weet dat helemaal in IT-land niemand houdt van spreadsheet en dergelijke, soms heb je ze gewoon even nodig als een soort van tussenoplossing. Menno: We hebben het bij ons wel wat uitgebreider aangepakt dan dat. Menno: Maar je moet ergens beginnen. Menno: Je wil wel het gewoon allemaal geregistreerd hebben. Niels: En allemaal wat zijn de belangrijkste zaken die je echt vanuit jouw ervaring vast moet leggen van de risicoanalyse die we gedaan hebben. Niels: Heb je daar een beeld voor? Niels: Ja wat leg je dan vast? Niels: Wat zet je daarin? Menno: Eén gewoon de naam van het systeem aan zich. Menno: Het team. Menno: Welke afdeling hoort erbij, zodat je een beetje beeld hebt bij de verantwoordelijkheden. Menno: Wat is je conclusie? Menno: Minimaal hoog, onacceptabel of überhaupt geen AI. Menno: Dat is ook wel goede check. Menno: En verder is ligt een beetje aan de organisatie. Menno: Je kan bijvoorbeeld ervoor om te denken. Menno: we gaan elke één à twee jaar even opnieuw kijken of dit nog steeds klopt. Menno: Als ik bijvoorbeeld grote ontwikkelingen zijn geweest, dan kan in twee jaar best wel een heleboel veranderen. Menno: Misschien wordt een bepaalde casus toch een stuk spannender. Menno: Dus dan kun je bijvoorbeeld registreren van hé, we hebben het op deze datum afgenomen en dat gaan we nu nog een keertje doen bijvoorbeeld één à twee jaar later. Menno: Dit soort zaken zeggen. Joop: Hoe krijg je nou mensen mee rondom het belang van governance zonder dat je in angstcommunicatie vervalt. Menno: Oeh, kijk, daar raak ik een kern op waar mijn job interessant is. Menno: Hoe je mensen daarin meeneemt, is door mijn persoonlijke mening, het spanningsveld vooral te accepteren en daarin te gaan bewegen. Menno: Kijk, compliance kost tijd. Menno: En ik kom uit een engineering achtergrond, als die voor data analist en ik heb een jaartje bij NS gewerkt op een best wel harde IT-functie. Menno: En wat ik daar heel erg leren is dat de meeste IT'ers niet zo blij worden van heel lang wachten op dingen. Menno: Ik denk dat jullie dat misschien kunnen bevestigen uit jullie achtergrond. Menno: Maar sommige dingen moeten gewoon. Menno: En dat is precies dat spanningsveld. Menno: Sommige dingen moeten, maar aan de engineering kant willen mensen niet altijd. Menno: Het belangrijkste voor mij werkt en wat ik zoveel mogelijk probeer te doen, is om die grens te zoeken van oké, hier moet het gewoon en moeten we gewoon wachten punt, dat is wat het is. Menno: Maar als ik bijvoorbeeld hier en daar net door het ene mailtje wat sneller te sturen, of mensen toch nog even een keertje uit te leggen van de reden dat jullie moeten wachten, is omdat het gewoon zo staat in de wet. Menno: En waarom staat het zo in de wet nou, omdat we bijvoorbeeld willen dat stel, je hebt een casus over taaktoewijzing, engineers, je hebt het allemaal hartstikke goed ingericht en dergelijke, maar jullie moeten wel realiseren dat hoe taken worden toegewezen aan mensen dat kan raken. Menno: Wat voor ervaringsopdoen in hun werk. Menno: En wat voor ervaringsopdoen in hun werk kan een keer naar wat voor toekomstig baan perspectief te hebben. Menno: Want dan kunnen ze sommige dingen wel of niet op hun cv zetten als de taaktoewijzing ergens dan bij wijzen van op basis van iets van een persoonlijk iets van jou is. Menno: Dit is ook de logica van de AI-Act. Menno: En als ik mensen daarin meeneem, dan vind ik wel heel mooi bij al die anderen. Menno: Je merkt wel dat er heel veel mensen zijn die houden van de techniek. Menno: Maar als je dit aan ze uitleggen, dan zit ze van. Menno: Ja, oké, maar je hebt eigenlijk gewoon hartstikke puntje of gelijk. Menno: Dat is vooral het stukje goed uitleggen helpt vaak een heleboel bij mensen, maar ook soms een strakke lijn moeten zeggen van nee jongens, zo moet het helaas. Joop: En is er wel eens iets dat je hebt tegengehouden, waarbij je achteraf ook gelijk had. Menno: Ja, er is één voorbeeldje details moet ik even laten voor wat het is, helaas. Menno: Maar het is wel een casus die wel echt hoog risico duidelijk was, volgens de AI-Act. Menno: En dan moet je heel erg gaan kijken van oké, er zijn dus mensen die dit systeem wilden. Menno: En aan zich is die noodzaak niet erg, denk ik in het kader van tijdsefficiëntie en dat soort zaken. Menno: Maar het werd dus daar nog spannend op ethisch vlak na een tijd dat we ons echt gingen afvragen, ben je van oké, ethisch is het best wel spannend. Menno: Deze mensen lijken het niet helemaal door te hebben. Menno: Leverancier was ook een beetje op technisch vlak was ook alles niet helemaal lekker. Menno: Het voelde aan een aantal verschillende kanten gewoon niet helemaal lekker. Menno: Dus zulke spannen gevallen komen wel eens voor, inderdaad. Joop: En hoe groot is dan de weerstand die je krijgt. Menno: Oh, dat is extreem persoonlijksafhankelijk. Menno: Houd het ook wel interessant. Menno: Het liefst heb je gewoon dat iedereen allemaal net zoals bijvoorbeeld ik erin staat, ik ben best wel veel bezig met een soort van huis en keuken filosofie en vrije tijd. Menno: Dan denk ik bij van nou jongens, wat is nou goed om te doen? Menno: En heel veel mensen hebben dat gewoon niet. Menno: Degen die dat wel hebben, die gaan vaak wel met me mee. Menno: Als ik ze uitleg, hé, jongens, het is best wel ontspannen casus. Menno: Maar je hebt ook mensen die zijn een stuk meer van praktisch concreet. Menno: Het is gewoon van joh, ik heb gewoon een baan om dit en dit gedaan te krijgen, een job. Menno: En AI kan hierin versnellen. Menno: En nu wordt het allemaal tegenhouden, terwijl ik ook gewoon iets goeds probeert te doen. Menno: Ja, dan krijg je inderdaad wel eens weerstand toe, inderdaad. Menno: En dat is tricky, want dan moet je denk ik leren diegene zijn taal een beetje te spreken. Menno: Ik kan een heel betoog houden over filosofie en dat soort dingen en zo. Menno: Maar als het gewoon niet landt bij die persoon dat gewoon niet. Menno: Dus dan moet je gaan kijken, oké, nou, je wil dus en zo doel bereiken met jezelf. Menno: Of in ieder geval met je team, met je afdeling, daar voor je verantwoordelijkheid voor. Menno: Heb je ook door dat bewijs van je hebben ze een heel spannend systeem, dat dit en dit ook de gevolg zijn. Joop: Is het voor jou dan persoonlijk moeilijk om die stap te nemen om nee te zeggen. Menno: Soms wel. Menno: Dat is ook iets waar ik zelf heel graag in wil groeien. Menno: Ik zijn net al, omdat ik uit een achtergrond kom waar ik vooral heb geleerd dat aan de technische kant het heel frustrerend kan zijn om je project of je feature vertraagd zien. Menno: Dan moet ik heel bewust eigenlijk ingaan tegen wat ik daar heb geleerd. Menno: Want ja, soms moet ik gewoon aan bewijs van joop als jij een engineer was bij Alliander tegen jou zeggen, ja, sorry. 187 Menno: Dat wordt toch twee maanden ben ik bang. 188 Menno: En dat is persoonlijk nog wel eens pittig inderdaad, ja. 189 Menno: Want ik kan aan de ene kant graag rekening houden met andere mensen en daar ook redelijk in blijven. 190 Menno: Als het gaat om dingen als rechtsvaardigheid en gelijkheid. 191 Menno: Dat je echt voor wil zorgen dat mensen bij wijzen van de baan krijgen die ze verdienen te krijgen. 192 Menno: En waar een AI-systeem als het bewijs van een beetje spannend is en niet helemaal netjes vacatures en cv's zou matchen in theorie. 193 Menno: Dan moet je wel echt die harde lijnen gaan trekken. 194 Menno: En dat is best wel spannend. 195 Joop: Dat snap ik helemaal. 196 Niels: Ik ben wel benieuwd inderdaad, wat heb je de afgelopen tijd dan wel al geleerd voor jezelf om toch zo'n misschien voor mezelf zie ik zo'n mental voice dan af overkomen die dan tegen je zeggen van hé, maar bekijk het ook van dit perspectief. 197 Niels: Wat voor middelen heb je voor jezelf ingezet om vanuit die techniekkant toch die andere perspectieven mee te kunnen nemen. 198 Niels: Misschien hebben de luisteraars daar ook inderdaad een beeld bij hoe kunnen ze zelf daar stappen in maken. 199 Menno: Ja, dus als ik zo Niels dus leer je verder kijken dan die techniek, om toch, hoe zou ik even noemen van die kracht tot vuur naar boven te halen om toch af en toe te zeggen nee. 200 Menno: Is zit er nog middenin? 201 Menno: Dus ik was het al delen wat ik kan in ieder geval. 202 Menno: Wat het belangrijkste voor mij daarin is, is iets wat je wel vaker hoort in dit soort dingen, gewoon dat andere perspectief leren te begrijpen. 203 Menno: Bijvoorbeeld, kijk, is het nu een andere functie dan engineering. 204 Menno: En jou governance officer is meer een compliance functie dan dat het een technische functie is. 205 Menno: Ook al heb ik technische kennissen nodig. 206 Joop: Maar het klinkt wel dat die achtergrondje helpt, in ieder geval dat je in de schoenen van de ander kan gaan staan. 207 Menno: Honderd procent inderdaad. 208 Menno: Als ik alleen maar filosofie achtergrond had, dan kon ik een dondersgoed ethisch gesprek voeren, maar had ik geen idee wat mensen zouden zeggen als ja, we hebben een neuraal netwerk getraind met dit en dit en zo. 209 Menno: En als ik nou een tijd ook van wat ja, we hebben backpropagation algoritme, dan houdt het snel op als je de kennis niet hebt. 210 Menno: Even niets terug naar je vraag van hoe neem je hoe haal je dat vuur in je naar boven als je verder moet kijken dan de techniek. 211 Menno: Eén is echt heel scherp voor je houden van waar doe ik dit nou echt voor. 212 Menno: Bij mij van nature moet ik wat leren om dat vuur wat meer ruimte bij me te geven. 213 Menno: En denk dat ik er specifiek doe, is collega van mij, daar kan ik het heel goed mee vinden. 214 Menno: En dan bespreken ik dus ook onderling mee van oké. 215 Menno: Lizzy, ik word niet zo snel boos. 216 Menno: Maar ik heb dat wel soms zo denk ik nodig om dat vuur te vinden. 217 Menno: Dus kun je met mij een soort oefening doen om te kijken van waar word ik nou boos. 218 Menno: En dat is soort van misschien een beetje een aparte manier om het te benaderen. 219 Menno: Maar ik denk dat iets als woede is aan de ene kant denk ik gevaarlijk als je het te veel de overhand laat nemen. 220 Menno: Maar woede kan wel de eerste vonk zijn om verandering door te brengen. 221 Menno: Dus stel, ik heb een casus die heel spannend is en ik heb allemaal engineers die bewijzen van het allemaal niet zo uitmaakt hoe dat zit met die ethiek en die willen gewoon door, omdat ze ja, ik weet niet. 222 Menno: Of als ik een beetje pessimistisch ben, gewoon willen scoren bij hun manager. 223 Menno: Of die wel betrokken zijn, maar zit ze hey, we hebben met z'n allen een energietransitie te fixen. 224 Menno: We moeten gewoon door, snap ik ook wel. 225 Menno: Dan moet ik toch een soort van die aanhalingstekens woede naar boven zien te halen, omdat dat weer een bron is van dat vuur. 226 Menno: En als ik dat helemaal heb, dan heb ik de stevigheid om te zeggen van nee jongens, zo ga dit gewoon niet doen. 227 Niels: Ja, zeker, mooi inderdaad, dat je ook de conversatie met je collega's en hierover hebt. 228 Niels: Want dat is echt wel de menselijke kant van hoe gaan we dit soort technologie inzetten. 229 Niels: Dus dankjewel voor het delen inderdaad. 230 Joop: En denk je dan, stel dat er nou geen AI-act geweest zou zijn, had je dan nog genoeg tools in handen om nee te kunnen zeggen. 231 Menno: Dan zou mijn werk doen, dat is veel moeilijker worden. 232 Menno: Het ding met de AI-act dat ik echt heel erg fijn vind, is dat het, het komt echt toch wel neer op de wet is gewoon de wet. 233 Menno: We hebben met z'n allen maatschappij, kijk, even los van hoe iedereen individueel politiek in staat. 234 Menno: Op dit moment hebben we een Europese Unie. 235 Menno: En daar worden gewoon dit soort beslissingen genomen, dan kun je het natuurlijk mee eens oneens zijn, op zich in een democratie, dus dat debat is denk ik prima. 236 Menno: Maar als het nu het helemaal de wet is, kan ik gewoon tegen mensen zeggen. 237 Menno: Nee, jongens, sorry, dit staat gewoon in de weg. 238 Menno: En als we de wet niet aanhouden, dan komt er een autoriteit persoonsgegevens of een rijksinspectie digitale infrastructuur langs die gaat zeggen: jongens, dit is de wet waarom hebben jullie dit niet op orde. Menno: Dus dat helpt mij gewoon heel erg om eigenlijk heel makkelijk wat urgentie bij mensen naar boven te halen. Menno: Stel de AI-act er wat niet, dan wordt het een heel stuk ingewikkelder. Menno: Een onderwerp als ethiek, dat wordt heel snel gezien als iets dat een beetje extra erbij is. Menno: Weet je wel, van je bent een organisatie, je hebt in de basis een bepaald doel of het nou commercieel is of niet. Menno: Je hebt bijvoorbeeld bewijs van stel je zou een commerciële organisatie pakken, je hebt gewoon een product te leveren of je hebt een dienst te leveren, dat is uiteindelijk de kern. Menno: En ethiek, dat kan helemaal op het hoge niveau heb ik wel eens gehoord, merk ik ook soms, maar bij al die anderen valt best wel mee vind ik. Menno: Merk je soms dat die urgentie gewoon minder wordt gevoeld. Menno: Ethiek is leuk en wel interessant en zo, maar dat levert niet echt waarde op, weet je wel. Joop: Ik heb wel eens iemand in mijn omgeving gehad, professioneel. Joop: En die zei ik geloof niet in ethiek. Joop: En dan ben ik heel benieuwd hoe die zijn hele leven over. Joop: Maar dat geeft wel iets van een mindset aan. Joop: Nee, precies. Menno: Kijk, als je gewoon een heel hardstevig iemand bent of hebt in je organisatie, die zit gewoon een beetje van hé jongens, sorry, maar gewoon, wij zijn een bedrijf, wij leveren dit gewoon punt en ethiek en zo, dat zal allemaal wel. Menno: Maar gewoon een beetje optimistisch van, ik heb gewoon zoveel medewerkers waar ik voor moet zorgen en gewoon waarde die moet geleverd worden, we moeten gewoon geld verdienen. Menno: Zo werkt het nou eenmaal. Menno: Die ga je niet kunnen overtuigen door een heel mooi ethisch verhaal eraan te hangen van ja, maar bewijs van stel de directeur heet Jan Jan. Menno: Denk niet naar over hoe het gelijkheid en zo raakt dan ga je iemand echt niet mee bereiken. Menno: En zo'n AI Act is fijn om die urgentie ook voor dat soort mensen gewoon heel duidelijk te hebben van nee, zo is het nou helemaal gewoon. Menno: Want zonder wordt zo'n verhaal een heel stuk moeilijker. Menno: Dan moet je echt ethiek gaan inzetten als meer een middel om problemen op te lossen, om dan toch diegene aan te kunnen spreken op wat wel uitmaakt voor een directeur. Joop: Heb je misschien een voorbeeld van waar je vanuit de governance gestuurd hebt en dat dat ook een succes is geworden juist waardoor het echt veel beter is geworden. Menno: Succesverhaal, ja, ik zou zeggen. Menno: Er is één casus waar ik mee bezig ben waar toen ik helemaal zo'n gesprek had gedaan over ethiek, mensen ook achteraf wel zeiden van ondanks dat het best wel veel tijd kost, men nou bedankt. Menno: We hadden zelf nog niet zo nagedacht, eigenlijk over deze vragen. Menno: Dus zo'n simpele vraag als mensen zijn niet gewend wat ik allemaal snap om in termen van waarden te denken, dat leer je eigenlijk alleen maar doen als je filosofie studeert. Menno: Nederland of zo. Menno: Dus als je dat doet, dan activeert dat kan het mensen wel snel activeren. Menno: En dan gaan ze inderdaad zeggen van weet je maar, dat is gewoon wat we allemaal bespraken en zo, dan vind ik eigenlijk hele goede vragen. Menno: Laat u wel het mee doen. Menno: En dan ga ik kijkt, perfect, want nu heb ik mensen aangewakkert. Menno: En nu gaan we inderdaad, is het traject rondom dit systeem al niet naar product brengen, verandert daardoor. Menno: Ze wilden snel door gewoon even feature aanzetten en knallen, maar met deze vragen erbij werd ineens heel duidelijk oké. Joop: Hier moeten we goed mee omgaan, zou je een soort van drie openingsvragen kunnen geven voor mensen die dit gesprek willen gaan voeren. Menno: Of zien drie openingsvragen. Menno: Oké, ik zal niet flauw doen en zeggen, oh, lees de AI-act vraag. Joop: Om even over die AI Act, want die AI Act is echt wel heel groot. Joop: Dus het is wel om het gesprek te openen, zou het wel handig zijn om ook daar klein te beginnen. Joop: Je zeiden straks ook klein beginnen. Joop: Ik denk dat het beginnen van een gesprek het belangrijkste is. Joop: Jazeker, heel graag zelfs. Menno: Ik hou mij dan hou ik hem even heel simpel. Menno: Als je gewoon echt een beginner beginner bent hierin en je denkt ik wil spannende vragen rondom AI aangaankaarten, dan zou ik zeggen, hou aan allereerst noodzaak middeldoel. Menno: Eén, wat is de noodzaak dat we dit AI-systeem in willen zetten. Menno: Twee, wat weten we over het middel om dit in te zetten? Menno: En dat is eigenlijk gewoon het technische gedeelte. Menno: En drie, wat is het doel dat we hiermee willen bereiken? Menno: Dus je begint met die drie. Menno: Wat noodzaak je geeft, is iemands onderliggende intentie. Menno: En dat zegt, dat kan bijvoorbeeld aangeven, doe je dit vanwege besparingen waar je iets mee wil doen, gaat het over kwaliteitsverbetering enzovoort. Menno: Middel geef je een beeld bij gewoon technisch, snappen we echt goed hoe dit systeem werkt, of weten we het een beetje. Menno: En doel geeft aan wat is echt het ding dat we willen bereiken, waarvan we denken dat AI het juiste middel kan zijn. Menno: En dan de vierde die ik nog had beloofd, dat is kun je gewoon heel plat zeggen van, ik heb hier een lijstje met waarden. Menno: En misschien is het een beetje ongewoon om hierover in gesprek te gaan, maar denk ik wel belangrijk. Menno: Raakt dit een van deze waarden. Menno: En dan moet je gewoon je kan gewoon letterlijk googlen op waarden, gelijkheid, rechtvaardigheid, heerlijkheid enzovoort. Menno: En daar kun je het over hebben van speelt dat een rol hier ergens. Niels: Wat mij in één keer doet, inderdaad, is die eerste drie, die raken echt de oplossing en hoe je daar naartoe gaat wat je wil bereiken. Niels: En voor mij was de vierde een hele mooie toevoeging, als ik hem voor mezelf zie, is eigenlijk dat je weer de helikopterview pakt van hé, maar buiten de oplossing raakt het nog andere zaken. Niels: Dus hoe pak je hem breder? Unknown: Precies mooi. Joop: Wat zou het meest concrete advies zijn dat je mee zou willen geven aan een startende AI governance officer? Menno: AI governance officer. Menno: Ja, kijk, mijn werk raakt iets van 5, 6 onderwerpen, dus om het om eens te scopen, nadenken. Joop: Mogen er meer zijn, net als dat je dat net hebt gedaan. Menno: Precies dankje. Menno: Als ik toch een nummer één zou moeten geven. Menno: Stel, je bent beginnend AI governance officer. Menno: Dan zou ik toch even het plaats beginnen bij de wet, ondanks dat ethiek echt net zo belangrijk is als de wet als je toch ergens moet beginnen. Menno: De AI-act is genoeg houvast voor je om het even goed door te nemen en te denken oké, dit is wanneer een systeem hoog risico of onacceptabel risico is, daar moet je gewoon beginnen. Menno: Ik zou zelfs nog kunnen zeggen van oké, stap 0 is welke AI heb je überhaupt als organisatie, want als je dat niet hebt, dan gaat het sowieso niet lukken. Menno: En als dat je stap 0 is, dan is je stap 1. Menno: Is dit minimaal hoog of onacceptabel risico? Menno: Ja, dan moet je gewoon echt vanuit beginnen. Joop: Je hebt nu al een paar keer aangestipt van is het wel AI. Joop: Ik denk dat dat best wel een hele belangrijke is, zou je zou je kunnen aangeven waar dat verschil zit. Niels: En waarom het belangrijk is. Menno: Ja, dit is wel een leuke. Menno: We hebben een plaat gemaakt bij Alliander. Menno: Ik weet hem even niet uit mijn hoofd helaas, anders dan zou het misschien wel leuk geweest zijn. Menno: Waarom het belangrijk is, is dat je soms heel grensgevallen hebt. Menno: Bijvoorbeeld, stel, je hebt een team dat is gewoon qua in ieder geval bij al die anderen. Menno: Bijvoorbeeld qua natuurkunde ijzersterk, hartstikke ingewikkelde modellen. Menno: En zit je zo te kijken van zo, dit is zo ingewikkeld, dit zou wel AI moeten zijn. Menno: Alleen dan ga je met je in gesprek, hier heb je dus die technische kennis voor nodig. Menno: En dan komt het eigenlijk kijken van ja, ze hebben wel een soort van een statistisch model, maar het is niet machine learning of zo, er gaat niet data in waarop wordt getraind. Menno: Uiteindelijk komt het vooral neer op natuurkundige formules. Menno: En dat wordt dan een model genoemd, dus ik heb een spraakverwarring van. Menno: Dus je moet technisch een beetje weten van eigenlijk plaat, is het machine learning of niet. Menno: En wordt er iets gedaan met training op basis van data? Menno: Of is het zo dat als je bijvoorbeeld één input geeft er altijd dezelfde output uitkomt, omdat het gewoon wiskundige regels zijn. Menno: En soms krijgen van het teams zitten. Menno: Maar dit is toch helemaal geen AI. Menno: Waarom worden wij benaderd over de AI-act en hebben het erover en dan zitten we. Menno: Oh, ja, jullie hebben gelijk inderdaad, het is al geen AI. Menno: Want dan kom je uit bij de AI-act houdt een definitie aan van AI en daar hangt alles dan aan vast. Menno: Maar soms kom je erachter van het is heel cool en ingewikkeld, maar het is geen AI. Menno: Dus dan is het allemaal niet relevant. Joop: Precies. Joop: Maar zijn dan de governance vraagstukken nog wel relevant? Menno: Die zou ik zeggen nog van wel, ja. Menno: Dus we hebben ook wel eens teams die dan aangeven. Menno: Het is misschien geen AI, maar dit is wel een dusdanig bedrijfs... Menno: Ik weet even niet een voorbeeldje uit mijn hoofd, maar daar nog belangrijk systeem. Menno: Dat we wel de juiste maatregelen op moeten voeren. Menno: En dan kom je echt uit bij het duidelijke rollenverantwoordelijkheden onderscheid. Menno: Want als ik dit zelf zou gaan oppakken, dan ga ik dingen doen die niet AI zijn, terwijl ik AI governance officer ben. Menno: Dan kun je wel kijken of je bijvoorbeeld nog contacten hebt. Menno: Binnen Alliander is er een EX office. Menno: We kunnen kijken, zijn er mensen daar die eventueel nog kunnen aansluiten of helpen. Niels: EX office. Menno: Ja, dat is een soort van aparte groep die dan zich met ethische vraag bezig in al die andere. Menno: Ik ga ervan uit dat de gemiddelde MKB'er dat misschien niet heeft, maar in ons geval dan is het echt kijken: zijn er collega's die dit dan kunnen oppakken, ondanks dat het geen AI is. Menno: Daar probeer je ze ook behulpstaan mogelijk in te zijn. Niels: En FX staat dan voor, anders dan kan ik niet slapen vannacht. Niels: Oh FX. Menno: Nee, je hebt de ethiek. Menno: En in het Engels is dat ethics. Joop: Oh ethics, sorry. Joop: Even wekker. Joop: Super bedankt. Joop: Hoe zou jij dit vakgebied zien zich ontwikkelen de aankomende jaren om daarmee af te sluiten? Menno: Als in het vakgebied AI governance. Menno: Dat is een vraag waar mijn collega en ik ons best wel vaak mee bezighouden, nog namelijk. Menno: Want stel, het lukt alles om alles AI-act compliance te krijgen, wat natuurlijk de bedoeling is. Menno: Waar gaat je werk dan heen? Menno: Want stel dat proces loopt allemaal lekker, iedereen zijn rollen en verantwoordelijkheden zijn, duidelijk, waar gaat de functie dan heen. Menno: Dat is eerlijk gezegd een vraag waar we zelf nog wel mee bezig zijn. Menno: Het kan de kant op gaan dat omdat agents steeds meer een ding worden, dat je dan een stuk meer daarmee bezig bent. Menno: Dus als je kijkt van oké, elke agent die iemand zou opspinnen of uit zou zetten. Menno: Hoe zorgen ervoor dat die automatisch compliant zijn met alles qua AI-acten en dergelijke. Menno: Dus dan wordt je werk een stuk meer kijken naar dat gedeelte. Menno: Die zijn ook technischer, waar kun je bijvoorbeeld in de pipeline standaard inbouwen dat bepaalde checks zijn gedaan. Menno: Dus het kan een stuk meer naar die agent kant aangaan, er kan over een half jaar weer een van de big tech bedrijven zijn die weer iets helemaal nieuws aankondigen waar je wat mee moet. Menno: Het is eerlijk gezegd best onvoorspelbaar om te weten waar de functie precies heen gaat. Menno: Voor nu is het AI echt compliance en BSM met ethiek. Menno: Stel AI is compliance dat lukt, dan is het kijken, gaat het misschien de agent kant op. Menno: Het kan zo zijn dat over twee jaar ik me afvraag van volgens mij heb ik mijn bijdrage wel geleverd. Menno: Maar het kan ook zijn dat het we zitten in één keer met een team van vijf. Menno: Want er zijn allemaal spannende ontwikkelingen geweest. Joop: Mooie afsluiting. Joop: En dankjewel voor dit openhartig gesprek. Joop: En ik denk dat we een heel mooi kijkje in de keuken hebben gekregen. Joop: Super bedankt. Menno: Bedankt hier. Joop: Leuk dat je weer luisterde naar deze aflevering van AIToday Live. Joop: Vergeet je niet te abonneren via je favoriete podcast-app. Joop: Dan mis je geen aflevering. Joop: Tot de volgende keer tot de volgende keer.