Bron: https://aitodaylive.nl/afleveringen/s09e01-toezicht-op-ai-wat-de-autoriteit-persoonsgegevens-al-mag-en-wat-nog-komt/ S09E01 # Toezicht op AI: wat de Autoriteit Persoonsgegevens al mag en wat nog komt Seizoen 9 18 oktober 2026 48 min Hosts: Joop Snijder & Niels Naglé [SS Sven Stevenson](https://aitodaylive.nl/gasten/sven-stevenson/) ## Wat leer je in deze aflevering? Sven Stevenson, directeur toezicht en coördinatie op AI en algoritmes bij de Autoriteit Persoonsgegevens, ziet organisaties twijfelen over wat er nu al geldt voor Artificial Intelligence. De AI-act is deels van kracht, maar de handhaving en de standaarden die de wet praktisch maken laten nog op zich wachten. Hij legt uit dat toezicht nu draait om uitleg en dat je ethiek kunt toetsen door grondrechten tegen elkaar af te wegen. Bij AI in werving en selectie ligt de lat hoger: een systeem dat leert van wie eerder is aangenomen, bootst dat plaatje na en moet daarom een of twee keer per jaar worden gecontroleerd op nauwkeurigheid en discriminatie. Ook systemen die je als gewoon algoritme beschouwt kunnen onder de wet vallen. Deze week kun je al je AI- en algoritme-toepassingen op een rij zetten en per toepassing vastleggen welke grondrechten in het geding kunnen komen. 01 Toezicht in voorbereiding De AI-act is Europese regelgeving die stapsgewijs in werking treedt. Verboden AI-toepassingen en transparantieregels gelden al, maar Nederland heeft nog een wet nodig om toezicht te mogen houden. 02 Standaarden maken regels toepasbaar Concrete standaarden, vergelijkbaar met NEN-normen in de bouw, vertalen de wet naar de praktijk. Voorbeeld: menselijk toezicht ziet er anders uit bij een AI-systeem dat leerlingen beoordeelt dan bij een AI-agent in een organisatie. 03 Ethiek is toetsbaar Toezichthouders kijken of organisaties afwegingen hebben gemaakt op basis van grondrechten, zoals recht op onderwijs en non-discriminatie. 04 AI en algoritmes niet scheiden Wie een systeem onterecht als algoritme behandelt in plaats van als AI, volgt de verkeerde kaders. AI is bovendien breder dan chatbots en omvat ook machine learning van 10 tot 20 jaar geleden. ## Kernbegrippen AI-act : Europese verordening die AI-systemen reguleert en stapsgewijs in werking treedt, met verboden toepassingen en risicogebaseerde verplichtingen. Hoog risico AI : AI-toepassingen die aanzienlijke impact hebben op grondrechten of veiligheid, zoals AI bij werving en selectie, en periodieke controle vereisen. Algoritmeregister : Overzicht van algoritmen en AI-systemen die een organisatie inzet, waarmee transparantie en bewuste keuzes over AI-gebruik worden bevorderd. AI-geletterdheid : Kennis en vaardigheden van medewerkers over de werking, risico's en juist gebruik van AI-systemen binnen een organisatie. ## Wat kun je morgen doen? 1. 1 Leg je AI-systemen vast in een register, zoals overheidsorganisaties doen in het algoritmeregister. Dat dwingt tot bewuste keuzes over waar je AI wel en niet inzet. 2. 2 Bepaal per systeem of het hoog risico is, bijvoorbeeld bij werving en selectie, en plan periodieke controles in. 3. 3 Start een AI-geletterdheidsprogramma, ook zonder boetedreiging: het verhoogt efficiëntie en veiligheid. ## Interview: Sven Stevenson **Sven Stevenson** Directeur Toezicht en Coördinatie AI / Algoritmes bij Autoriteit Persoonsgegevens [Bekijk gastprofiel →](https://aitodaylive.nl/gasten/sven-stevenson/) Kun je jezelf kort voorstellen en vertellen wat je bij de Autoriteit Persoonsgegevens doet? Ik ben Sven Stevenson en ik ben directeur van de directie toezicht en coördinatie op AI en algoritmes. Dat doe ik bij de AP, de Autoriteit Persoonsgegevens. We zijn daar druk bezig met de voorbereiding op het toezicht op AI, bovenop het werk dat we al deden. Daarnaast houden we al toezicht op algoritmes. Die twee werelden komen steeds dichter bij elkaar. Welke reacties krijg je als je buiten je eigen vakgebied vertelt wat je doet? Dat verschilt heel erg, afhankelijk van met wie je praat. Elke dag sla ik de krant open en in het weekend valt de krant ook nog fysiek op de deurmat. Dan houd ik een lijstje bij van alles wat speelt en waar we eigenlijk ook iets mee zouden moeten doen. De ontwikkelingen gaan namelijk razendsnel. Ik durf te zeggen dat ze nog veel harder gaan dan we de afgelopen jaren hadden verwacht, en onze verwachtingen waren al heel hoog. Wij proberen dat als toezichthouder in goede banen te leiden. Dat doen we door te bevorderen wat allemaal mogelijk is en door te helpen, maar ook door bij te sturen waar dat nodig is. In een land als Nederland doen we alles zorgvuldig. Het tempo waarin wij duidelijkheid scheppen en reguleren ligt daardoor niet in lijn met het tempo waarin de technologie zich ontwikkelt. Dat maakt het een mooie uitdaging. Waarom heb je het over voorbereiden op toezicht? Houden jullie nog geen toezicht, of komt dat door de wet die eraan komt? De ongemakkelijke waarheid is dat we eind 2023 in Europa regelgeving hebben afgesproken die specifiek over AI gaat. Er bestond al veel regelgeving. Denk aan wat wij bij de AP doen met privacytoezicht op de AVG. Bij de ACM hebben we bijvoorbeeld consumentenbescherming, en er is cybersecuritywetgeving. Maar AI brengt nog meer met zich mee. Die nieuwe regelgeving is er, en zoals het bij goede regelgeving hoort, treedt die stapje voor stapje en zorgvuldig in werking. We zitten nu midden in die fase. Vorig jaar is nog besloten om een extra jaar te nemen om ons voor te bereiden. We zitten dus nog in de voorbereidingsfase, en de wetgeving die ons echt bevoegd maakt is zelf ook nog in voorbereiding. Zijn er naast jullie nog andere toezichthouders betrokken bij de AI-act? Zeker. AI raakt alle facetten van onze samenleving. Het gaat van speelgoed en auto's tot en met hoe de politie AI inzet, hoe de rechtbank AI inzet, hoe het in het onderwijs gaat, en zelfs de impact van AI op verkiezingen. We hebben dus één stuk regelgeving dat zowel over speelgoed als over verkiezingen gaat. Dat is nogal breed. Daardoor zijn in Nederland, net als in veel andere landen, uiteindelijk heel veel toezichthouders betrokken. Bij ons komt het uit op ongeveer tien toezichthouders. Sommige hebben een heel specifiek onderdeel. De Nederlandse Voedsel- en Warenautoriteit houdt bijvoorbeeld al toezicht op speelgoed en neemt straks de AI-component in dat speelgoed mee. Er zit best veel speelgoed met AI op de markt, en daar spelen onze kinderen weer mee. Dat is dus best risicovol. Onze collega-toezichthouder met wie wij het toezicht in Nederland coördineren is de Rijksinspectie Digitale Infrastructuur. Samen zijn wij de coördinatoren, maar de AP heeft zelf een serieuze rol met behoorlijk veel onderdelen. Hoe maak je toezicht houden tastbaar? Wat houdt het concreet in? Dit is gloednieuwe regelgeving. De hoofdlijnen zijn duidelijk. De Europese wet heet de AI-act. Dat is juridisch gezien een verordening, wat betekent dat die direct in heel Europa van toepassing is en we hem niet in Nederland hoeven door te vertalen. Maar de vertaalslag naar de praktijk is groot. Een bedrijf dat AI ontwikkelt of gebruikt moet weten wat de regels voor hem betekenen. Een belangrijke vertaalslag is het ontstaan van zogenaamde standaarden. Die ken je bijvoorbeeld uit de bouw, waar je bij een verbouwing allerlei NEN-standaarden tegenkomt die precies uitleggen hoe iets gedaan moet worden. Zo kun je compliant zijn met bepaalde regelgeving. Dat soort standaarden komt er ook voor AI. Ze maken alles veel tastbaarder, omdat ze precies zeggen wat jij als organisatie moet doen. Kun je een voorbeeld geven van hoe zo'n standaard iets concreet maakt? Een heel belangrijk principe bij AI is dat er altijd een vorm van menselijk toezicht is. Wat dat inhoudt, verschilt per systeem. Bij een AI-systeem waarmee je leerlingen toetst in het onderwijs speelt de leraar een duidelijke rol. Het systeem moet leerlingen niet zomaar beoordelen, dus laat er een leraar naar kijken. Dat is heel anders dan bij een AI-agent die voor een organisatie proactief allerlei dingen regelt. Daar kun je niet dezelfde vorm van toezicht inrichten, want dan zou telkens een mens naar elke handeling moeten kijken. In de wet staat dus één generieke bepaling, en de standaarden maken de vertaalslag per type systeem. We zitten nog in de fase waarin die standaarden worden afgerond, samen met toezichthouders, het maatschappelijk middenveld en bedrijven. Daarna gaan wij organisaties uitleggen en voorlichten. In het begin ligt de focus dus heel erg op de helpende hand. Welke kennis heb je als toezichthouder nodig om dit toezicht goed uit te voeren? Het is een mix. Het is zeker niet alleen harde juridische kennis. Je hebt ook veel maatschappelijke en sociale kennis nodig, om te begrijpen hoe verschillende sectoren werken en wat daar belangrijk is. Daarnaast heb je een serieus stuk ethische kennis nodig: wat vinden we oké en wat zouden we moeten vinden. Je hebt grondrechtenkennis nodig, en daarnaast veel technische kennis. Die technische kennis is nodig om de vertaalslag te maken: hoe werken die systemen in de praktijk? Dat is nodig om uit te leggen hoe je het op de goede manier doet, maar ook om te kunnen uitzoeken waar het misgaat. Een belangrijk onderdeel van toezicht is namelijk ook dat je naar boven haalt waar het verkeerd gaat. Daarvoor heb je weer verschillende vormen van technische kennis nodig, bijvoorbeeld cybersecuritykennis. Waarom heb je ethische kennis nodig voor het toezicht? Omdat wij onder andere toezicht houden op de vraag of organisaties, zowel bij de ontwikkeling als bij de inzet van hun AI, de juiste ethische afwegingen hebben gemaakt. Ethiek klinkt vaak als iets wat je vooral moet doen: veel denkwerk, zorgvuldige overwegingen, goed nadenken. Maar het is tastbaarder en harder dan dat. Hoe kun je als toezichthouder bepalen of iemand anders voldoende ethische afwegingen heeft gemaakt? Door te kijken naar grondrechten. In Nederland denken we dan aan de Grondwet, maar wij houden toezicht vanuit Europese wetgeving. Daar heb je het Europees handvest voor de grondrechten, en je hebt de universele rechten van de mens. Dat zijn kaders waarin vaak dertig tot veertig grondrechten staan, die je best helder en serieus kunt afwegen. Die afwegingen moet een organisatie maken en wij willen ze op papier zien. Als een systeem in het onderwijs wordt gebruikt, kijk je welke impact dat heeft op het recht van kinderen om onderwijs te krijgen. Kan het zijn dat het stimuleren van het ene grondrecht een ander grondrecht negatief raakt? Ja, dat is precies de afweging. We hebben een recht op onderwijs, een recht om niet gediscrimineerd te worden, en mensen met een beperking hebben recht op gelijkwaardige behandeling. Dat wil je allemaal tegelijk. Bij AI gaat het juist vaak mis doordat een systeem het ene heel goed kan, terwijl het bij het andere soms misgaat. Welke misverstanden zie je over wat jullie doen en wanneer het toezicht begint? Er wordt soms gedaan alsof het toezicht al volledig draait. Deels is het al zover. Bepaalde vormen van AI zijn verboden, en die verbodsbepalingen zijn al in werking sinds februari 2025. Maar wij kunnen daar nog geen toezicht op houden. Wij worden wel de toezichthouder, maar dan hebben we in Nederland eerst een wet nodig die dat voor ons regelt. Daar wordt aan gewerkt. Hetzelfde geldt voor transparantie, de laatste tijd echt een hot topic. Daarvoor zijn sinds augustus allerlei bepalingen in werking getreden. Je leest veel over watermarking, waarbij grote AI-ontwikkelaars in hun modellen moeten mogelijk maken dat AI-gegenereerde content herkenbaar is. Zij hebben tot en met december om dat in te richten. Aan de andere kant is er het labelen, zodat jij als individu ziet dat iets met AI is gemaakt. Ook die bepalingen zijn in werking getreden, maar daar kunnen wij nog geen toezicht op houden. Hoe zit het met de verwachtingen rond AI-geletterdheid? Je ziet dat het soms als stok wordt gebruikt om trainingen te verkopen. Er is op een gegeven moment een mogelijkheid dat er een boete volgt, maar dat gaat niet zomaar gebeuren. Er zijn meerdere stappen voordat het zover is. AI-geletterdheid wordt voor ons als toezichthouder vooral relevant als puntje bij paaltje komt. Als we met een AI-systeem aan de slag gaan waar iets mee aan de hand is, dan is het een verzwarende factor als je ook nog nooit iets hebt gedaan aan je AI-geletterdheid. Dat is niet oké. Verder benaderen we dit vanuit een positieve en stimulerende houding. We monitoren bijvoorbeeld in hoeverre in de overheid, als goed afgebakende sector, concreet werk wordt gemaakt van AI-geletterdheid. Zijn er programma's opgesteld en bieden organisaties iets aan? Wij geven ook zelf het goede voorbeeld binnen onze eigen organisatie. Het belangrijkste is dat iedereen in een organisatie ermee aan de slag gaat. Is er nog een misverstand dat je graag uit de wereld zou helpen? Het AI-toezicht en algoritmetoezicht is een ander speelveld dan het privacywerk van de AP. Dat is voor onszelf nog een stukje promotie. Een ander groot misverstand is dat algoritmes en AI als gescheiden werelden worden gezien. Daar hebben we een harde dobber aan. Veel mensen vinden algoritme en AI hetzelfde. Kun je uitleggen wat het verschil is? Een algoritme is alleen maar een stukje code. Dat kan iets heel simpels zijn. Maar je gaat dat algoritme inzetten, je zet het systeem aan, en dan gaat het iets doen. Dan wordt het een algoritmisch systeem. Als dat systeem voorspellende mogelijkheden heeft, dus uit iets wat je erin stopt iets nieuws kan genereren, dan heb je ongeveer de overgang naar AI. Je moet het dus niet als twee gescheiden werelden behandelen. AI is ook niet per se iets superingewikkelds, en het is niet alleen de chatbot of generatieve AI. Wat wij als AI beschouwen, en dat doet ook de regelgeving, is een veel breder veld. Het gaat ook terug naar de machine learning van tien, twintig jaar geleden, die nog steeds veel wordt toegepast. Wat is het risico als organisaties algoritmes en AI wel gescheiden zien? Als een organisatie iets onterecht ziet als een algoritme en niet als AI, hebben we een lastige situatie. Wij zeggen dan dat het wel AI is, maar dat betekent dat die organisatie zich niet op de goede manier heeft voorbereid. De kaders die voor AI bestaan zijn dan niet gevolgd. In de AI-act staat een definitie van AI, maar die is niet makkelijk toe te passen. Hoe bepaal je waar de grens ligt? Dat wordt in de toekomst steeds makkelijker. Er zijn best wat tools in ontwikkeling, vanuit officiële instanties en vanuit ondersteunende particuliere partijen. Die zullen steeds meer naar elkaar toe convergeren, en wij geven daar ook een helpende hand in om het te verduidelijken. Nu zit er nog een grijs gebied waar twijfelgevallen ontstaan. Elke keer dat we over één twijfelgeval helderheid scheppen, wordt het uiteindelijk duidelijker. Het is een technische discussie. De technologie ontwikkelt zich razendsnel en wetgeving gaat trager. Wat betekent dat voor het toezicht? Als samenleving moeten we AI niet beschouwen zoals traditionele technologieën, die zich stapsgewijs of lineair ontwikkelen. De ontwikkelingen gaan heel hard. Neem de opkomst van AI-agents en agentic AI, de afgelopen één à twee jaar. Dat past in het raamwerk van de AI-act, maar het roept veel nieuwe uitdagingen op, ook door de manier waarop het kan worden ingezet en door wie. We moeten steeds kijken of alle risico's binnen de bestaande regelgeving worden afgedekt. We komen een heel eind, maar het roept ook nieuwe vragen op, waardoor we alweer moeten nadenken over de volgende set regels. We zijn dus volop bezig met het implementeren van de huidige regelgeving en het toezicht, en tegelijk moeten we nadenken over de volgende generaties. Je noemde AI-companions als nieuw risico. Wat zijn dat en waarom zijn ze zo riskant? Dat zijn vriendschaps-apps voor AI: jouw digitale vriend of partner in je mobiele telefoon. In bepaalde vorm zitten ze ook in de grote generieke chatbots, die mensen gebruiken als een soort digitaal maatje of digitale hulp. Er zitten enorme risico's aan. We hebben daar in het verleden naar gekeken en die risico's blootgelegd, en dat moeten we weer inpassen in de regelgeving. Toen we er twee jaar geleden voor het eerst indoken, hebben we stilgestaan bij de vraag waarom het opeens zo populair werd. Het is een combinatie van factoren. We hebben sinds tien, vijftien jaar een mobiele telefoon die we altijd bij ons hebben. Daar zijn nu LLM's bijgekomen die hartstikke goed zijn in het genereren van tekst, beelden en video's, en we zijn gewend geraakt aan chatten. Gooi je dat in één grote mix, dan krijg je AI-companions die extreem verslavend en extreem populair zijn. Welke lessen kunnen we van social media meenemen naar AI-companions? Aan de ene kant is dit een extreme vorm van social media, aan de andere kant juist weer anders. Bij social media zie je dat iedereen met hetzelfde geconfronteerd wordt, ook al wordt gesproken over filterbubbels. Chatbots zijn juist hypergepersonaliseerd. Wat we wel leren, is dat er brede consensus is dat we er bij social media veel te laat bij waren. Europa is nu gekomen met een voorstel voor een zogenaamde kidsact. Die richt zich op het verder reguleren van hoe bijvoorbeeld social media aan kinderen wordt aangeboden, met een bepaalde leeftijdsgrens en een fasering waarin modellen moeten komen die de leeftijd van kinderen goed kunnen inschatten. In dat wetsvoorstel zijn nu ook AI-companions en chatbots meegenomen, omdat ze risico's opleveren. In de cybersecurity bestaat de OWASP top 10. Is er in jullie voorbereiding al zoiets aan te wijzen voor AI? De werelden convergeren wel een beetje, het denken vanuit cybersecurity slaat over naar AI. Maar het zijn nog verschillende werelden. Cybersecurity is makkelijker omdat je met een heel specifiek, tastbaar vraagstuk bezig bent. Bij AI is het ingewikkelder omdat het zo divers is. De zaken waar je druk over maakt bij AI in het onderwijs zijn op sommige punten echt anders dan bij AI voor het beheer van onze nationale kritieke infrastructuur, bij AI in de rechtspraak, of bij generatieve AI en transparantie. Je zou dus per subdomein moeten kijken wat de grootste risico's zijn. Wat je wel ziet opkomen, binnen het subveld van AI-veiligheid, zijn de risico's rondom de nieuwste ontwikkelingen. Daar ontstaat langzaam consensus over de grootste zorgen. Maar het is een beladen debat, omdat er zoveel verschillende wereldbeelden achter zitten. Er zit dus ook een filosofisch debat achter. Waar gaat dat over? Het gaat erover of je AI beheerst door de organisatie die een AI-systeem ontwikkelt aan banden te leggen en daar de verantwoordelijkheid te leggen. Het hele Europese kader gaat daarvan uit: als organisatie ben jij verantwoordelijk voor wat je maakt. Maar je ziet ook een beweging die benadrukt dat AI bewustzijn zou krijgen en dat we dat bewustzijn moeten indammen en sturen. Er zit dus ook een component in over hoe we naar AI moeten kijken. We moeten druk maken over de risico's die we nu moeten beheersen, maar ook toewerken naar wat er de komende vijf jaar gebeurt. Welke rol speelt Europese samenwerking, bijvoorbeeld met het Europese AI Office? Het Europese AI Office speelt een belangrijke rol. Tijdens de onderhandelingen over de AI-act kwam de doorbraak van de grote taalmodellen. Daardoor is erbij gekomen dat we niet alleen toezicht moeten houden op de systemen en toepassingen, maar ook op de modellen die eronder liggen. Dan gaat het vooral over de heel grote modellen, die in veel gevallen de basis zijn van wat in AI-systemen terugkomt. Daar is op Europees niveau toezicht op, en dat is ook verstandig. Het zijn universele modellen die overal op dezelfde manier worden gebruikt. Je reguleert op Europees niveau wat je op Europees niveau moet reguleren. Dat moet zich nog verder opbouwen, en daar werken wij veel mee samen. Ons toezicht is ook ingericht vanuit het Europese perspectief. Als in een ander land iets aan banden wordt gelegd, nemen wij dat in beginsel voor Nederland over, tenzij wij heel iets anders zien. We hoeven dus niet al het werk over te doen. Nationaal werken we daarnaast steeds samen met alle andere toezichthouders, want er is veel bestaande regelgeving die ook van toepassing is. Stel dat je vijf jaar vooruit mag kijken. Wat verwacht je dan? Dat is natuurlijk onze taak: vooruitkijken. We verwachten dat we nog steeds in de beginfase van deze technologie zitten. Een realistische inschatting zoals wij die hebben gemaakt, is dat er over vijf jaar een vertienvoudiging is van de hoeveelheid AI in Nederland. Daar hebben we als hele samenleving mee te dealen, niet alleen als toezichthouder. De mogelijkheden van de technologie zullen alleen maar toenemen. Terugkijkend naar eind 2022, toen ChatGPT uitkwam als een soort doorbraak, waren de verwachtingen torenhoog. Nu kunnen we zeggen dat datgene wat is gerealiseerd nog meer is dan wat we toen hadden gedacht. Het grootste risico is dan ook dat we de impact op de samenleving onderschatten. Gebruiken jullie als toezichthouder zelf ook AI? Ja, dat zal wel moeten. Er komt een hele maatschappelijke verandering op ons af, want onze samenleving is een samenspel van wat wij allemaal als personen en organisaties doen. Het toezicht en de regelgeving richten zich vooral op organisaties en bedrijven. Een goed voorbeeld is werving en selectie. Dat is een hoogrisicotoepassing, want daar kan veel misgaan. Een AI-systeem kan discrimineren als het bijvoorbeeld is getraind op basis van de historische groep mensen die is aangenomen. Als jij een bepaalde achtergrond hebt, maak je dan veel minder kans. Je kunt er zeker AI voor inzetten, maar we leggen de lat hoger om zeker te weten dat het veilig en goed gebeurt. Het moet periodiek gecheckt worden, bijvoorbeeld één keer per jaar of één keer per twee jaar, om te zien dat het accuraat is en niet discrimineert, en als het fout is moet tijdig worden ingegrepen. Hoe ga je om met het scheve evenwicht dat ontstaat als burgers wel vrij AI gebruiken en organisaties aan strenge regels gebonden zijn? Dat is een belangrijk punt. Mensen die solliciteren gebruiken massaal AI voor hun sollicitatiebrieven, en daar kunnen we niets aan banden leggen. Zo werkt het niet. We leggen om goede redenen een hoge lat voor organisaties die AI gebruiken in hun wervingsproces, maar ondertussen worden diezelfde bedrijven geconfronteerd met sollicitanten die AI inzetten. De manier waarop je voorheen mensen liet solliciteren werkt dan niet meer. Een ander voorbeeld zijn klachten en bezwaren. Organisaties worden overspoeld in hun klantenservice, omdat iemand AI heeft gevraagd hoe hij een zo streng mogelijke brief schrijft waarin staat dat hij recht heeft op reparatie van een apparaat. Het ironische is dat organisaties chatbots zijn gaan aanbieden om zo min mogelijk menselijke communicatie te krijgen, en dit moet op een bepaalde manier weer in evenwicht komen. Het belangrijkste is dat het zo in evenwicht komt dat wij allemaal nog het gevoel hebben dat wij als mensen de touwtjes in handen hebben. Hoe bereiden we als maatschappij ons voor? Wat gaat goed en wat kan beter? We kunnen niet onderschatten hoe groot deze maatschappelijke verandering is. Educatie is superbelangrijk. Mensen moeten goed worden ontwikkeld om AI te begrijpen en met vertrouwen in te zetten. Anders krijgen we een tweedeling in de samenleving. Het is een ongelijke strijd als de ene persoon wel AI inzet en de andere niet. De samenleving moet echt gaan uitvinden wat onze maatschappelijke normen en waarden zijn voor hoe we AI gebruiken in ons onderlinge contact. Hoe blijf je zelf bij in dit snel veranderende veld? Als het je baan is, zie je dag in dag uit de ontwikkelingen. Maar dat kunnen we niet van iedereen vragen. Het belangrijkste is nieuwsgierig zijn. We moeten allemaal willen weten wat hier gebeurt, wat er op ons afkomt, hoe het werkt en waarom een bepaalde ontwikkeling plaatsvindt. We kunnen ook niet verwachten dat iedereen alles bijhoudt, maar we kunnen er wel met elkaar over praten en eerlijke verhalen delen. Die conversatie moet plaatsvinden. Lig je ergens 's nachts wakker van rond deze technologie? Het is een grote opgave, en het vraagstuk wordt alleen maar groter. Waar je wakker van kunt liggen, is of de urgentie duidelijk genoeg is. Dat geldt voor ons allemaal als samenleving. Het heeft ermee te maken dat de technologie zich non-lineair of exponentieel ontwikkelt, en daar zijn wij als mensen niet goed in om ons op voor te bereiden. Denk aan COVID: we weten allemaal hoe dat ging in maart 2020. Sommige mensen zagen het aankomen en wisten begin februari al dat we er over zes of acht weken zouden zitten als het in China gebeurde. Bij AI gaat het niet alleen om de technologie, maar ook om hoe wij die gebruiken. De generatieve AI-tools kennen de snelste adoptie van alle technologieën ooit. De wetenschap meet het percentage mensen dat AI gebruikt, en per drie maanden zie je gewoon procentpunten stijgen, over alle leeftijdsgroepen. Jong nog steeds veel meer dan oud, maar het gaat heel hard. Wie houdt toezicht op de AI van jullie als toezichthouder? Juridisch gezien valt dat nog wel mee. Maar het is een goede vraag. Nederland loopt voorop met het algoritmeregister, dat ook een AI-register is. Overheidsorganisaties registreren daarin de AI en de algoritmes die ze gebruiken. Dat is een mechanisme waarmee je transparant bent. Je moet duidelijk zijn over wat je gebruikt. Welke technologische capaciteiten heb je nodig om toezicht te houden op de nieuwste AI? Als je toezicht houdt op de nieuwste vormen van AI en algoritmes, moet je daar ook toegang toe hebben. Een van de grootste uitdagingen voor het komende jaar is dat we de rekenkracht krijgen om ook grote modellen te draaien. Als we modellen willen testen om te kijken of ze bijvoorbeeld in strijd handelen met verboden, hebben we die capaciteit nodig. Een van de verboden vormen van AI is dat AI niet mag manipuleren of misleiden en geen kwetsbaarheden van mensen mag uitbuiten. Daar komen we alleen achter door signalen die binnenkomen, maar ook doordat we zelf modellen af en toe op de pijnbank moeten leggen. Daarvoor hebben we de technologische mogelijkheden nodig. Je bent al een aantal jaren op de World Summit AI. Welke veranderingen zie je hier terugkomen? Er zijn een paar tenten bijgekomen en het is nog wat groter geworden. Het aantal AI-bedrijven met een stand neemt toe, en de industrie groeit. Ik vind het hartstikke goed dat we dat hier in Nederland hebben. Je ziet ook een overgang van consultancy over hoe we AI inzetten naar bedrijven die echt iets aanbieden. Een paar jaar geleden was de showcase dat je generatieve AI kon koppelen aan de data van je eigen organisatie. Nu gaat het over workflows en agents: hoe kun je je processen automatiseren met AI. Dus je ziet een beweging van technologie naar toepassing. Waar kijk je als toezichthouder naar uit? Een belangrijk onderdeel waar wij naar uitkijken is de sandbox die we gaan opzetten. Dat is een omgeving waarin ontwikkelaars van AI-systemen samen met ons als toezichthouder zitten, en met degenen die uiteindelijk de regelgeving uitleggen. We gaan dan samen kijken hoe we nieuwe systemen in lijn kunnen brengen met wat de best practices zijn uit de AI-regelgeving. Dat is een heel innovatieondersteunend traject. Wij geloven dat de regelgeving en de duidelijkheid die dat geeft juist aanjagend kunnen werken voor effectieve toepassingen, vooral als je dat vroegtijdig kunt uittesten. Kunnen grenzen en regels de innovatie juist helpen? Dat is mijn overtuiging, en die van ons. Zonder grenzen ga je ook niet op zoek naar de limitaties. Die grenzen helpen om te innoveren en creatief te zijn, omdat je weet waar je staat en wat er van je verwacht wordt. AIToday Live is een podcast die zich richt op de nieuwste ontwikkelingen in AI en de impact ervan op verschillende sectoren. In elke aflevering spreken hosts Niels Naglé en Joop Snijder met experts uit het veld om inzicht te krijgen in de mogelijkheden en uitdagingen van AI-technologie. Luister via je favoriete podcast app: Spotify, Apple podcasts, YouTube Music, en meer. ## Over de gast Sven Stevenson Directeur Toezicht en Coördinatie AI / Algoritmes bij Autoriteit Persoonsgegevens Sven Stevenson is directeur van de directie toezicht en coördinatie op AI en algoritmes bij de Autoriteit Persoonsgegevens. Hij bereidt de organisatie voor op het toezicht op AI en op algoritmes, in samenwerking met andere toezichthouders. Daarbij combineert hij juridische, technische en ethische kennis om de impact van AI op de samenleving te beoordelen. [Bekijk gastprofiel](https://aitodaylive.nl/gasten/sven-stevenson/) ## Transcript Joop en Niels spreken met Sven. Stevenson. Sven is directeur van directie toezicht en coördinatie op AI en algoritmes bij de autoriteit persoonsgegevens. In deze aflevering vertelt hij wat toezicht op AI concreet inhoud en waarom ethiek meer is dan goed nadenken. Je hoort waarom AI en algoritmes niet in aparte hoekjes passen. En hij vertelt waarom het underschatten van de impact van AI het grootste risico is. Joop: Leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Joop: Mijn naam is Joop Snijder, Head of AI bij Info Support. Niels: Mijn naam, Niels Naglé, Area Lead Data & AI bij Info Support. Joop: En we zitten nog steeds op de World Summit AI, dus nog steeds in de meterkast. Joop: En we zijn heel erg blij met onze gast. Joop: Sven, zou je jezelf eerst even willen voorstellen. Sven: Ik ben Sven Stevenson en ik ben directeur van de directie toezicht en coördinatie op AI en algoritmes. Sven: Dat doe ik bij de AP, de Autoriteit Persoonsgegevens, waar we druk bezig zijn om voor te bereiden op het toezicht op AI in aanvulling op waar we al druk mee bezig zijn en toezicht op algoritmes. Joop: Ja, daar is een hoop om te doen. Joop: Wat zijn zo de reacties die je krijgt als je dit als je dit buiten ons hokje vertelt? Sven: Dat verschilt heel erg met wie je praat. Sven: Want kijk, laten we er wel wezen. Sven: Elke dag als ik de kranten opensla en in het weekend dan valt de krant ook nog echt fysiek bij mij op de deurmat. Sven: Dus in het weekend kan ik altijd volop over de werk lezen en alles zo. Sven: Dus daar hou ik altijd een lijstje bij van ja, dit speelt ook nog. Sven: Hier moeten we nu eigenlijk ook wat gaan doen. Sven: Dus de ontwikkelingen gaan zo razend hard. Sven: En ik denk het durfde wil te zeggen dat de ontwikkelingen nog veel harder gaan dan dat we de afgelopen jaren misschien hadden verwacht en onze verwachtingen waren al heel erg hoog. Sven: En wij proberen dat natuurlijk als toezichthouder in goede banen te gaan leiden. Sven: En dat willen we in goede banen leiden door te bevorderen, wat allemaal mogelijk is te helpen, maar ook wel door bij te sturen waar dat nodig is. Sven: In een land zoals Nederland waarin we leven, waarin we alles zorgvuldig proberen te doen, gaat het tempo waarin we het proberen te reguleren en die duidelijkheid proberen te scheppen, gaat niet in hetzelfde tempo als de technologie zich ontwikkelt. Sven: Dus het is een mooie uitdaging. Joop: Zou je de microfoon iets dichterbij misschien wat hoger kunnen houden dan hebben we wat minder last van de akoestiek. Niels: Ja, je zei voorbereid op toezicht. Niels: Waarom voorbereid op toezicht? Niels: Denken dat we nog geen toezicht houden of is dat vanwege de wet die eraan zit te komen. Sven: Dus ik denk de ongemakkelijke waarheid. Sven: Is dat we in Europa in eind 2023 regelgeving afgesproken over AI. Sven: Echt specifieke regelgeving voor AI. Sven: We hebben natuurlijk al heel veel bestaande regelgeving. Sven: Denk ook aan wat we bij de AP doen met privacy toezicht op de AVG. Sven: Maar ja, alles rondom AI brengt natuurlijk nog wel wat meer met zich mee. Sven: We hebben natuurlijk bij de ACM bijvoorbeeld consumentenbescherming. Sven: We hebben cybersecurity regelgeving. Sven: Dat is er allemaal nog wel natuurlijk allemaal al. Sven: Maar AI is gewoon nog veel meer. Sven: Nou, die regelgeving is er. Sven: Zoals het bij goede regelgeving betaamt treedt dan stapje voor stapje, zorgvuldig in werking. Sven: Dus we zitten nu midden in de fase dat dat in werking treedt. Sven: Dus vorig jaar ook nog besloten van misschien moet het nog even een jaartje extra nemen om ons voor te bereiden. Sven: Dus ja, het is nog de voorbereidingsfase. Sven: En de wetgeving die ons ook echt bevoegd maakt, is dus ook nog in voorbereiding. Joop: Dat wist ik niet. Joop: En hebben jullie dan ook nog een afbakening erin. Joop: Want ik had begrepen dat er nog meer vanuit de AI-act andere toezichthouders zijn, of ben ik daar verkeerd geïnformeerd? Sven: Nee, nee, nee, dat is zeker zo. Sven: Dus AI raakt alle facetten van onze samenleving. Sven: En dat gaat dus om de extreme te nemen. Sven: Het gaat van speelgoed en auto's. Sven: T en met hoe de politie AI inzet, hoe de rechtbank AI zet, hoe het in het onderwijs gaat, maar ook de impact van AI op onze verkiezingen. Sven: We hebben één stuk regelgeving, dat gaat zowel over speelgoed als over de verkiezingen. Sven: Dat is nogal breed. Sven: Dus dat betekent ook dat we in Nederland en in veel andere landen zie je dat het daarop neerkomt, dat heel veel verschillende toezichthouders er uiteindelijk op een of andere manier bij betrokken zijn. Sven: Dus in Nederland krijgen we uiteindelijk 10 toezichthouders die hier bezig zijn. Sven: Maar sommige van die toezichthouders hebben echt een heel specifiek onderdeeltje. Sven: Dus denk bijvoorbeeld de Nederlandse Voedsel en Warenautoriteit. Sven: Die neemt en die houden al toezicht op speelgoed. Sven: Die nemen straks de AI-component in die speelgoed. Sven: En er is best wel veel speelgoed waar AI in zit. Sven: En daar spelen dan onze kinderen weer mee. Sven: Dus het is best wel risicovol. Sven: Dat nemen zij mee in hun toezicht. Sven: Onze collega toezichthouder. Sven: Die samen met ons gaat coördineren is, ja, we doen de deur dichter. Sven: Is de Rijksinspectie Digitale Infrastructuur. Sven: En samen met hun zijn wij echt zijn wij de coördinatoren van dit hele toezicht in Nederland. Sven: Maar mijn club, de Autoriteit Persoonsgegevens, wij hebben echt wel een serieuze rol behoorlijk behoorlijk veel onderdelen bij ons gekomen te zitten. Niels: Toezicht houden. Niels: Hoe is dat tastbaar te maken? Niels: Hoe zien we dat terug? Niels: Wat houdt dat nou in toezicht houden? Sven: Ja, nou hierbij geldt ook, dit is gloednieuwe regelgeving. Sven: En de hoofdlijnen zijn duidelijk, dat staat dan niet, zo'n Europese Europese wet. Sven: Die wet die heet de AI-act. Sven: Dat is dan heel juridisch. Sven: Dat is een verordening. Sven: Dus dat stukje wetgeving is gelijk in heel Europa van toepassing, hoeven we niet in Nederland door te vertalen. Sven: En dat ziet er al drie, vier jaar hetzelfde hetzelfde uit. Sven: Maar de vertaalslag naar wat dan in die regelgeving staat, naar de praktijk, waar gewoon een ondernemer, een bedrijf die AI ontwikkelt of die AI gebruikt en hoe die daarmee te maken krijgt, daar zit een hele vertaalslag om. Sven: Belangrijke vertaalslag die daar wordt gemaakt, is dat er zogenaamde standaarden komen. Sven: Dat zijn standaarden zoals je ze kent, bijvoorbeeld in de bouw. Sven: Of je moet iets uitzoeken voor de verbouwing van je woning, dan kom je allemaal van die NEN-standaarden tegen. Sven: Die echt precies uit van zo en zo gedaan worden. Sven: Dat is een hele concrete vertaalslag van dit is wat we in Nederland hebben afgesproken, zo ben je dan compliant met die en die regelgeving. Sven: Dat soort standaarden komen er ook voor AI en die maken het allemaal veel tastbaar. Sven: Die zeggen gewoon precies van wat moet jij als organisatie nou precies doen. Sven: Om een voorbeeld te noemen. Sven: Een heel belangrijk principe bij AI is dat er altijd een vorm van menselijk toezicht is. Sven: En wat dat menselijk toezicht inhoudt, dat verschilt natuurlijk weer heel erg van systeem. Sven: Je kan je voorstellen dat een AI-systeem dat je gebruikt om leerlingen te toetsen in het onderwijs. Sven: Daar kan je een andere vorm van menselijk toezicht in zit. Sven: En daar zit natuurlijk een hele duidelijke rol in voor de leraar. Sven: Dat is AI-systeem moet niet zomaar die leerlingen beoordelen. Sven: Laten we nog een leraar naar kijken. Sven: Dat is natuurlijk heel anders dan dat je bij een AI-agent kan inrichten die voor een organisatie proactief allerlei dingen gaan regelen. Sven: Dus daar kan je niet dezelfde vorm van toezicht. Sven: Dat alles dat telkens een leraar naar moet gaan kijken. Sven: Het verschilt van type systeem systeem. Sven: Dus één generieke bepaling die staat dan in die wet en die standaarden maken heel erg de vertaalslag. Sven: Nou, wij zitten nu dus nog heel erg in de fase dat we dat die standaarden worden afgerond. Sven: Dat is iets vanuit toezichthouders, vanuit het maatschappelijk middenveld, vanuit bedrijven daarin werken wij samen. Sven: En wij gaan straks een belangrijke rol voor ons om dat uit te leggen, organisaties daarover voor te lichten. Sven: Dus in het begin ligt de focus heel erg op de helpende hand. Niels: De educatie daarvan. Niels: Wat voor kennis is er dan in de organisatie nodig? Niels: Want het is een heel breed veld. Niels: Welke expertise hebben jullie om dan die toezicht te kunnen houden? Sven: Bij ons als toezichthouder, dus dat is een mix wat we nodig hebben. Sven: Het is zeker niet een noodzakelijk onderdeel, maar het is zeker niet alleen maar harde juridische kennis. Sven: Het is ook heel veel maatschappelijke en sociale kennis. Sven: Dus gewoon begrijpen hoe verschillende sectoren werken, wat daar belangrijk is, wat er ook gebeurt. Sven: Je hebt ook heel veel, je hebt toch ook wel echt een serieus stukje ethische kennis nodig. Sven: Wat vinden we eigenlijk oké, wat zouden moeten vinden, je heb grondrechten kennis nodig. Sven: En daarnaast natuurlijk heel veel technische kennis. Sven: En die technische kennis is ook om die vertaalslag te maken. Sven: Hoe werken die systemen nou in de praktijk? Sven: Zowel voor het bevorderen en uitleggen hoe je het op de goede manier doet, maar ook natuurlijk om af en toe. Sven: Een belangrijk onderdeel van de toezicht is natuurlijk ook gewoon naar boven halen van waar het verkeerd gaat om te gaan spitten in van dit gaat niet goed. Sven: En dan krijgt hele verschillende vormen van technische kennis, die ook weer heel verschillend is tussen bijvoorbeeld cybersecurity kennis. Joop: Ik onderbreek je even van anders gaan we iets te ver. Joop: Want jij noemde die ethiek en daar ben ik wel benieuwd naar. Joop: Want waarom heb je ethische kennis nodig zo direct voor het toezicht houden? Sven: Omdat wij onder andere ook toezicht houden op de vraag of organisaties, zowel in de ontwikkeling als in de inzet van hun AI de juiste ethische afwegingen hebben gemaakt. Sven: En ethiek klinkt vaak. Joop: Maar kunnen jullie dat bepalen of iemand anders ethische voldoende ethische afwegingen heeft gemaakt? Sven: Ja, dus ethiek klinkt vaak heel ben op zoek naar de juiste juiste woord, maar het klinkt heel iets wat je vooral moet doen. Sven: Het klinkt veel denkwerk. Sven: Zorgvuldige overwegingen goed over nadenken. Sven: Maar het is wel tastbaarder en harder dan dat. Sven: En om het heel concreet te maken, we hebben grondrechten. Sven: En in Nederland denken we dan hebben we de grondwet en allerlei dingen in. Sven: Europees niveau. Sven: En wij houden toezicht vanuit Europese wetgeving. Sven: Heb je een Europees handvest, handvest voor de grondrechten. Sven: Denk ook aan de universele rechten van de mensen. Sven: Dus we hebben allemaal van dat soort kaders. Sven: En dat zijn vaak in de meeste gevallen, daar staan gewoon 30 tot 40 grondrechten in, die je best wel helder serieus kan afwegen. Sven: En dat zijn die afwegingen die je moet maken en waar je dat gewoon op papier wil zien. Sven: Dus als zo'n systeem in het onderwijs wordt gebruikt, hoe welke impact heeft dat op het recht van kinderen om onderwijs te krijgen. Joop: En vooral die grondrechten waar je de een misschien positief stimuleert, kan het betekenen dat er negatief of een ander grondrecht invloed heeft. Joop: En dat is dan de afweging, dat jullie dan kijken van is daar voldoende naar gekeken. Sven: Dus we hebben een rechtelijk onderwijs, we hebben een recht om niet gediscrimineerd te worden. Sven: Er is ook een recht voor mensen met een beperking om gelijkwaardig behandeld te worden. Sven: Dat wil je allemaal. Sven: En dat is natuurlijk precies bij AI. Sven: Omdat het dan het ene heel goed kan, dan gaat het bij het andere soms mis. Joop: Heel begrijpelijk. Niels: Ze maak je wel mooi tastbaar inderdaad. Joop: Maar wat zijn nou heel erg misverstanden? Joop: Die je leest over wat jullie doen, waar jullie boet is voor geven, hoe jullie toezicht gaan houden op dit verhaal. Joop: Want je zit er nog in de voorbereiding. Joop: En ik lees al best wel heel veel alsof het eigenlijk al zover is. Sven: En ook daar geldt het is deels al wel zover. Sven: Er zijn bepaalde vormen van AI die zijn verboden. Sven: En wat wij dan mooi noemen, die verbodsbepalingen, zijn ook al meer dan een jaar in werking. Sven: Februari 2025. Sven: Maar wij kunnen nog niet toezicht op houden. Sven: Dus wij worden daar de toezicht op houden. Sven: Maar dan hebben we in Nederland wel eerst een wet nodig die dat voor ons regelt en daar worden aan gewerkt. Sven: Hetzelfde geldt voor transparantie. Sven: Nou, dat is de laatste tijd ook echt een hot topic. Sven: Dus dat is daarvoor zijn sinds augustus allerlei bepalingen in werking getreden. Sven: Er lezen veel over de zogenaamde watermarking die in die AI-modellen mogelijk moet worden gemaakt. Sven: Da zijn de grote AI-ontwikkelaars zijn er druk mee bezig. Sven: Ze hebben nu ook echt een aantal maanden om dat in te richten tot en met december dat zij die watermarking mogelijk maken. Sven: Aan andere kant is het labelen. Sven: Dus dat jij als persoon als individu ziet van hey, dit is met AI gemaakt. Sven: Die bepalingen zijn ook in werking getreden, kunnen wij ook nog geen toezicht op houden. Niels: Ik zie het wel steeds meer ook in reclames op televisie. Niels: Ik kijk soms nog een lineaire televisie, inderdaad, ook wel lekker af toe reclame, dan staat het inderdaad netjes erbij, inderdaad. Sven: En daar zijn wij dus ook bijvoorbeeld wel met de reclamebranche zijn we daar ook wel over in gesprek om al duidelijkheid te geven met hun te verduidelijken van waar gaat het wel, waar geldt het niet, op welke manier. Joop: Jullie worden ook heel erg als stok gebruikt rondom de AI geletterd. Joop: Er is een hele markt ontstaan voor het geven van AI-trainingen met het hele idee als je dat niet doet, krijg je een boete. Sven: Dat is op een gegeven moment een mogelijkheid. Sven: Dat gaat niet één, twee, drie gebeuren. Niels: Dan zijn er al meerdere stappen plaatsen. Sven: Dus die AI-geletterdheid is zullen dat als toezichthouder in ieder geval straks als puntje bij paaltje komt, Sven: En we gaan echt aan de slag met een AI-systeem waar iets mee aan de hand is. Sven: Dan is dat wel een verzwarende factor, niet echt niet oké als je en een AI-systeem hebt wat gewoon niet goed functioneert. Sven: En je hebt ook nog eens een keer nooit iets gedaan aan je aan je AI-geletterheid. Joop: Maar dat vind ik dan ook logisch. Joop: Dus dan heb je het uit de hand laten lopen. Joop: En dan zijn er reden waarom dat ook zo gekomen is. Sven: Maar verder zijn we hier ook gewoon vanuit echt een positieve en stimulerende houding, zijn we hier wel druk mee bezig om bijvoorbeeld gewoon te monitoren van de overheid, een goede afgebakende sector. Sven: In hoeverre wordt er nu echt concreet werk van gemaakt van die AI-geletterdheid. Sven: Dat daar programma's voor worden opgesteld en dat die organisaties dus iets aanbieden, zeker ook van onszelf. Sven: Het goede voorbeeld geven, ook zorgen binnen onze eigen organisatie. Sven: Dat er iets ligt op het gebied van die AI-geletterheid. Sven: Dus ja, het is heel simpel. Sven: Het belangrijkste is dat iedereen er gewoon mee aan de slag is organisatie. Niels: Toch? Joop: En ik vind het ook goed. Joop: Ik vind dat je het helemaal niet moet doen om een boete te ontlopen of zo. Niels: Als je met een selfie op moeten doen. Joop: Dat je met deze technologie goed wil omgaan, moet je hem ook gewoon kunnen begrijpen. Sven: Ja, dat is efficiënt en nuttig. Niels: Ja, niet eens vanuit veiligheid, wat je zegt van efficiëntie is het ook al, inderdaad, als het niet begrijpt, dan weet je ook niet wat de kosten mee komen en welke risico's. Joop: Zijn er nog meer misverstanden die je hier graag uit de wereld zou helpen. Sven: Nou, kijk, dit gaat dus dit is echt wel een ander ander speelveld dan het privacywerk van de AP. Sven: Dus dat is voor onszelf gewoon nog een stukje promotie waar we aan te gaan doen. Sven: Dit is echt een vakgebied van AI-toezicht en algoritme toezicht wat we aan het opzetten zijn, denk ik een ander misverstand wat we heel erg veel zien, is dat eigenlijk die twee concepten, algoritmes en AI, dat dat als hele gescheide werelden worden gezien. Sven: Daar hebben we een harde dobber aan. Sven: Dus dat is ook wel zijn we ook wel druk mee bezig om daar zelf. Joop: Heel veel mensen vinden algoritme en AI hetzelfde, zou je kunnen uitleggen. Sven: Ja, maar heel veel mensen ook weer niet. Joop: Want het is niet. Joop: Maar waarom is het niet zo, zou je dat dan staak in uitleggen. Sven: Dus de theoretische uitleg is. Sven: Je hebt uiteindelijk algoritmes en algoritmes kunnen iets heel simpels zijn. Sven: En afhankelijk van wat die algoritmes kunnen die algoritmes ga je inzet en dan wordt het een algoritmisch systeem. Sven: De algoritme zelf is alleen maar een stukje code. Sven: Maar je gaat dat inzetten. Sven: Je zet het systeem aan. Sven: En dan gaat het iets doen, dan wordt het een algoritmisch systeem. Sven: En op een moment als dat systeem eigenlijk noem het zelf maar een soort van voorspellende mogelijkheden heeft. Sven: Dus het kan uit iets wat je erin stopt, kan het iets nieuws genereren. Sven: Dan heb je ongeveer de overgang dat het AI wordt. Joop: En we hadden het erover, die worden op één hoog gegooid, en dan wilde je wat over vertellen. Sven: We zien vaak dat er een perceptie leeft in de organisatie van het is of het een of het ander. Sven: Maar dat is dus niet zo. Sven: Dus we moeten dat ook niet helemaal als gescheiden de werelden behandelen. Sven: En daar en daar het volgt dus ook AI is dus niet per se iets super ingewikkelds. Sven: Of en AI is ook niet alleen maar de chatbot en generatieve AI. Sven: Dus wat wij als AI beschouwen, is echt wel. Sven: En niet alleen wij, dat is ook gewoon de regelgeving dat doet, is echt een veel breder veld, wat ook gewoon terug gaat naar de machine learning van 10, 20 jaar geleden, die natuurlijk ook nog steeds wordt toegepast, heel vaak eronder. Joop: Maar wat is het risico als we het wel scheiden? Joop: Wat je zegt, we moeten dat echt niet gescheiden zien. Sven: Nou, kijk, zowel vanuit vanuit het aanmoedigen van hoe zet je AI op een goede manier in, als uiteindelijk van waar gaan wij toezicht op houden? Sven: Dat is dat kader van AI. Sven: Maar als organisaties, bedrijven, zo aan de ontwikkelaarskant als inzetkant, als ze iets onterecht zien als een algoritme en niet als een AI. Sven: Ja, dan hebben we een lastige situatie. Sven: Want dan ga wij zeggen, ja, het is wel het is wel AI. Sven: Maar dan komt er dus op neer dat zo'n organisatie zich niet op de goede manier heeft voorbereid. Sven: Het worden niet die kaders gevolgd die er wel voor zijn. Joop: Hoe komen ze erachter dat het het een of het ander is? Joop: Kijk, in de AI-act staat wel een definitie van AI. Joop: Valt niet mee. Joop: Hoe bepaal je die scheiden? Joop: Nou, er komen steeds meer. Sven: Dat zal naar de toekomst toe, zal dat steeds makkelijker worden. Sven: Dus er zijn best wel wat tools in ontwikkeling. Sven: Vanuit officiële instanties. Sven: Vanuit ondersteunende particuliere instanties. Sven: Die zullen op een gegeven moment steeds meer naar elkaar toe gaan convergeren, daar zullen wij ook een helpende hand in geven om dat te verduidelijken. Sven: Dus er zit gewoon nog een grijs gebied waar twijfelgevallen ontstaan. Sven: En elke keer dat we weer één twijfel dat we weer over één twijfelgeval helderheid scheppen, wordt dat uiteindelijk steeds steeds duidelijker. Sven: Het is een technisch een technische discussie. Niels: De snelheid gaat heel hard van de technologie, de ontwikkelingen, de mogelijkheden en de wetgeving gaan wat trager. Niels: Wat betekent dat voor toezicht dan daarop? Niels: Die snelheid hoe ga je daarmee om. Sven: Hoe wij als samenleving ermee om moeten gaan is dat we AI niet op dezelfde manier moeten gaan beschouwen als traditionele technologieën. Sven: Die wat meer die zich wat meer lineair of stapsgewijs ontwikkelingen ontwikkelen. Sven: Maar waar de ontwikkelingen gewoon heel hard gaan. Sven: Het voorbeeld van de afgelopen één, twee jaar. Sven: De hele opkomst van AI agents en agentic AI. Sven: Het past in het raamwerk van de AI-act. Sven: Maar het roept weer zoveel nieuwe uitdagingen op. Sven: En ook de wijze waardoor het kan worden ingezet en door wie het kan worden ingezet. Sven: Dat we tegelijkertijd wel weer moeten kijken van wordt alle risico's die er zijn, worden afgedekt binnen de bestaande regelgeving. Sven: En we komen echt een heel eind. Sven: Maar het roept ook nieuwe vragen op, waardoor we gelijk alweer moeten nadenken over de volgende set van regelgevingen. Sven: Dus we zijn nog volop bezig met het implementeren van de huidige regelgeving en toezicht. Sven: En we moeten volop nadenken over de volgende generaties. Sven: En dat geldt ook voor heel heel veel concrete toepassingen van de AI die er komen. Sven: Dus we zijn zelf bijvoorbeeld. Sven: Ze hebben al denk ik al wel twee jaar. Sven: Genven we grote aandacht aan die zogenaamde AI companions. Sven: Dus dat zijn ik noem het maar vriendschaps-apps voor AI. Sven: In een bepaalde vorm zitten ze ook wel gewoon in de grote generieke chatbots. Sven: Dus mensen gebruiken gewoon om gesprekken mee te voeren. Sven: Als een soort digitale maatje, digitale hulp. Sven: Die natuurlijk ook nu heel erg met de opkomst van de nieuwste tools van de grote techbedrijven, Matamuse, Open AI met de dots. Joop: Zij zien daar de nog connectie meer gebruiken. Sven: Dus dat zijn, we noemen dan AI, dus de AI friendship of AI assistants. Sven: Maar AI companions is wel heel erg extreem echt gericht op gewoon jouw digitale vriend in jouw mobiele telefoon en dat is een AI partner. Sven: Er zitten gewoon enorme risico's aan. Sven: Daar we in het verleden ook wel naar gekeken, hebben we echt die risico's blootgelegd. Sven: Dat moeten we wel weer inpassen in de regelgeving. Joop: Het lastige is, want de snelheid zit misschien. Joop: Maar het gaat eigenlijk over de toepassing van de technologie. Joop: Waardoor we weten eigenlijk nog niet eens wat we allemaal met deze technologie kunnen. Joop: Nou, daar zijn die AI-compagnes bij gekomen, maar we kunnen ervan uitgaan dat er nog veel in mijn beleving gekkere dingen gaan gebeuren. Joop: Dan is het wel heel erg lastig. Sven: Ja, dus het is een combinatie van factoren. Sven: Dus twee jaar geleden, toen we hier voor het eerst indoken, toen hebben we ook even erbij stilgestaan van waarom hebben we nu opeens deze AI companions. Sven: En dat is de combinatie tussen we hebben allemaal sinds tien, vijfde jaar vijfde jaar, een mobiele telefoon. Sven: Die hebben we altijd bij ons. Sven: En daar is bijgekomen, we hebben nu opeens LLM's die hartstikke goed functioneren in het genereren van tekst, beelden, video's. Sven: Er zijn chatten gewend geraakt. Sven: Als je dat dan in één grote mix gooit, dan heb je opeens die AI companions die extreem verslaafd en extreem populair zijn. Joop: Worden er nou, en misschien gaat het iets verder dan de toezicht hoor. Joop: Maar welke lessen zouden we nou mee kunnen nemen, juist van die social media hier naartoe? Joop: Want eigenlijk is dit een soort van extreme vorm er weer van. Sven: Ja, aan de enerzijds, aan de ene kant is het een extreme vorm. Sven: Aan de andere kant is het juist ook weer net wat anders. Sven: De social media. Niels: Dat laten laten gaan. Sven: Maar aan de ene kant met social media is iets van iedereen met hetzelfde geconfronteerd eigenlijk. Sven: Het wordt wel gesproken over de filterbubbels, maar uiteindelijk is het toch wel. Sven: Het is juist juist ook dat alles heel erg wordt platgeslagen, dat iedereen heel erg hetzelfde ziet. Sven: Binnen dan een grote filterbubbel. Sven: Die chatbots zijn juist weer hyper gepersonaliseerd. Sven: Maar wat we ervan leren is dat er toch wel brede consensus is dat we met social media er gewoon allemaal veel te laat bij waren. Sven: En je ziet dus wel, dat is dan weer het nieuwste waar Europa mee is gekomen. Sven: Een voorstel voor een zogenaamde kidsact. Sven: Die richt zich heel erg op het verder reguleren van hoe bijvoorbeeld social media moet worden aangeboden aan kinderen. Sven: De ban die toegankelijk maakt van social media van dertien jaar. Sven: Met een bepaalde fasering, dat er weer allerlei modellen moeten komen voordat die social media dan ook leeftijd van de kinderen goed moet kunnen inschatten. Sven: In dat wetsvoorstel zijn nu wel gelijk ook die AI-companions en die chatbots meegenomen. Sven: Dit levert ook risico's op. Niels: Zeker bij kinderen inderdaad. Niels: Maar ik denk niet alleen bij kinderen, ik denk bij de hele maatschappij eigenlijk wat dat betreft zijn genoeg volwassenen gedrag zijn als kinderen. Joop: Zie jij in de voorbereiding, zeg maar, laat ik het anders verwoorden. Joop: Aan de security kant. Joop: Hebben wij iets als een OWASP top 10. Joop: Die organisatie die zegt, dit zijn op dit moment de tien belangrijkste aanvalsdingen die op cybersecurity plaatsvinden. Joop: Zou er al een soort van top 10, top 3 of zo aan te wijzen zijn die je gezien hebt in de voorbereiding op het niet naleven van waar jullie zo direct toezicht op gaan houden. Sven: Dus op zich convergeerde die wereld wel. Sven: Dus je ziet dat dat denken vanuit cybersecurity dat dat wel overslaat naar AI. Sven: Het zijn echt nog wel echt verschillende werelden. Sven: Wat ik wel denk, is dat wat iets makkelijker is vanuit de bril van cybersecurity, is dat je met een heel specifiek tastbaar vraagstuk bezig bent. Sven: En wat bij AI gewoon nog wat ingewikkelder is, is dat het dus zo divers is. Sven: Dus uiteindelijk hoe ik het ook wendt of keert. Sven: De zaken waar je druk over maakt als het gaat om hoe AI in het onderwijs wordt ingezet. Sven: Is op sommige punten toch echt weer anders dan de zaak waar je druk over maakt als het gaat om hoe AI wordt ingezet. Sven: Ik noem maar wat voor kritieke infrastructuur. Sven: Voor het beheren van onze nationale kritieke infrastructuur. Sven: Voor hoe AI wordt ingezet in de rechtspraak. Sven: De vraagstukken rondom generatieve AI en transparantie. Sven: Dus eigenlijk moet je per subdomein zou je. Joop: Zou je zoiets moeten doen. Sven: W kunnen doen. Sven: En in die zin is dat wel is dat wel bepaald van wat zijn binnen verschillende categorieën de grootste risico's zijn. Sven: Die zijn op lange termijn ook wel hetzelfde. Sven: En wat je wel ziet opkomen, maar dat is meer binnen het subveld van wat we noemen AI-veiligheid. Sven: Dus wat zijn gewoon de risico's rondom de nieuwste ontwikkelingen die er zijn. Sven: Ik denk dat we daar wel naar zoiets zoiets toe gaan, maar daar zijn we ook wel met z'n allen wereldwijd. Sven: En dat is een moeilijk debat, want het is nogal nogal politiek beladen. Sven: Zijn we wel aan het na, zie je dat er wel wordt gekeken naar van dat daar ook consensus ontstaat van wat zijn de grootste dingen waar we ons zorgen over moeten maken. Sven: Maar ik zeg dus wel het is echt wel beladen, omdat er ook gewoon zoveel verschillende wereldbeelden achter zitten. Niels: Daar snap ik een heel dynamisch speelveld. Niels: Wat use case gebaseerd weer aan andere blik nodig geeft om eigenlijk te gaan kijken wat gebeurt er en hoe staan we er eigenlijk tegenover. Niels: Naast dan inderdaad, de standaarden die er dan aan te komen. Niels: Dus dat is een hele complexe puzzel. Sven: Ja, maar het is ook echt bijna een filosofisch debat van als het gaat om AI, moet je dat beheersen door gewoon door organisatie die een AI-systeem ontwikkelt en daarvoor verantwoordelijk is, door die aan banden aan banden te leggen en daar de verantwoordelijkheid te leggen. Sven: Het hele Europese kader wat wij hebben, dat is echt ja, dat is gewoon sowieso hoe je het moet doen. Sven: En als organisatie ben jij gewoon verantwoordelijkheid verantwoordelijk voor wat je maakt. Sven: Maar je ziet natuurlijk ook een hele beweging die er sterk op is gericht om te benadrukken van we gaan toe naar dat de AI bewustzijn heeft. Sven: En we moeten dat bewustzijn van dat AI gaan indammen en gaan sturen. Sven: Er zit dus ook echt een component in van hoe we gewoon naar die AI moeten kijken. Sven: En we moeten ook druk maken over de risico's die we nu moeten beweren beheersen, maar ook toewerken naar wat zien we nou de komende vijf jaar nog gebeuren. Niels: Lijkt me lastig, vijf jaar vooruit kijken met de huidige ontwikkelingen. Joop: Welke samenwerking heb je met dezelfde instanties Europees? Sven: Een hele belangrijke rol in de hele wereld rondom rondom AI is het Europese AI Office. Sven: Dus dat is bij de totstandkoming van die AI-act, die Europese AI-regelgeving. Sven: Tijdens die onderhandelingen was er echt die doorbraak in die grote taalmodellen. Sven: Schaande de rit is erbij gekomen dat we niet alleen de systemen, de toepassingen moeten gaan, dat we daar niet toezicht op moeten gaan houden, maar ook op de modellen die eronder liggen. Sven: En dan hebben we het met name natuurlijk over de hele grote modellen. Sven: Ja, dat heeft daarna nog alleen maar een grotere vlucht genomen, dat dat in heel veel gevallen echt ook de basis is van wat in heel veel AI-systemen terugkomt. Sven: Ja, daar komt dus. Sven: Daar is op Europees niveau toezicht op. Sven: Dat is denk ik ook heel verstandig. Sven: Want dat zijn uiteindelijk universele modellen die overal op dezelfde manier worden gebruikt. Sven: Dus dat is dat hebben we goed aangepakt op Europees niveau op Europees niveau reguleren wat je op Europees niveau moet reguleren. Sven: Dat moet zich nog wel verder opbouwen. Sven: Maar dat staat, daar werken wij dus heel veel mee samen. Sven: En verder is ons hele toezicht op ingericht dat we wel telkens vanuit het Europese perspectief handelen. Sven: Dus als wij als in een ander land ergens iets aan banden wordt gelegd. Sven: Dan in het beginsel gaan wij dat voor Nederland overnemen. Sven: Tenzij wij heel iets anders zien, maar in het begin zou nemen we het over. Sven: Dus we hoeven niet allemaal het werk over te doen. Niels: Dus daar is het ook echt de samenwerking. Sven: En nationaal heb je dus ook die samenwerking telkens met al die toezichthouders. Sven: Omdat je wil het ook niet te veel vanuit één perspectief aanvliegen, zoiets als zoiets als AI. Sven: Want er is ook wel heel veel bestaande regelgeving die ook van toepassing is. Joop: Maar je wil ook niet dat er uitgespeeld wordt van wat in het ene Europese land wel mag en het andere niet. Niels: Precies. Niels: Je noemt net even van, we moeten ook nadenken over wat er over vijf jaar komt. Niels: Stel, je mag even vijf jaar vooruit kijken. Niels: Wat hoop je dat er dan staat? Sven: Nou, kijk, het is natuurlijk bijna ik zal niet zeggen dat het is een onmogelijke opgave, want dit is gewoon onze taak om vooruit te kijken. Sven: Wat wij verwachten is, is dat we nog steeds in de beginfase zitten van deze technologie. Sven: Dus een realistische inschatting zoals wij hem hebben gemaakt. Sven: Dat wij denken van nou, over vijf jaar hebben we een vertienvoudiging van hoeveelheid AI die er in Nederland is. Sven: Waarbij we dus ook mee te dealen hebben als samenleving. Sven: Trek hem even wat breder dan ons als toezichthouder, want het is gewoon een vraagstuk van iedereen. Sven: En waar dat precies toe gaat leiden vijf jaar, dat is moeilijk in te schatten, maar de mogelijkheden van die technologie, die gaan ook alleen maar toenemen. Sven: En ja, simpel terugkijkend naar een paar jaar terug, dus eind 2022 toen ChatGPT uitkwam. Sven: Een beetje als een soort doorbraak. Sven: Toen waren er verwachtingen toren hoog van de technologie. Sven: En ik denk dat we nu wel kunnen zeggen dat via later datgene wat is uitgekomen, wat is gerealiseerd waar de technologie toe in staat is, is nog wel meer dan wat we toen hadden gedacht. Sven: Dus het grootste risico wat wij kunnen doen is dat we onderschatten wat de impact is impact is op de samenleving. Joop: Ga jullie zelf bij de toezicht houden, ook AI gebruiken? Sven: Ja, je zal wel moeten. Sven: Dat is een van de zaken waarvan we zien van dan trek ik hem ook weer even wat breder. Sven: Hoe we het ook wennen of keren. Sven: Er komt gewoon een hele maatschappelijke verandering op ons af. Sven: Want onze samenleving is een samenspel van wat wij allemaal als personen en organisaties doen. Sven: Het toezicht en de regelgeving richt zich natuurlijk heel erg op organisaties en bedrijven. Sven: Heel goed voorbeeld werving en selectie, solliciteren, aannemen van mensen. Sven: Dat is, en dat kan iedereen zich ook wel bij voorstellen, dat is wat wij noemen een hoog risico toepassing. Sven: Dus daar kan heel veel fout gaan. Sven: En wat kan dan een fout gaan? Sven: Gediscrimineerd, doordat we een AI-systeem bias, is op zo'n manier getraind. Sven: Bijvoorbeeld op basis van de historische groep mensen die zijn aangenomen. Sven: Een soort standaardplaatje ook binnengehaald. Sven: En dat als jij een bepaalde achtergrond hebt, dat jij gewoon veel minder minder kans maakt. Sven: Dat zo'n model daar niet op is getraind, we snappen het wel. Sven: Dus kortom, het is een hoog risico toepassing. Sven: Je kan er zeker AI voor inzetten, maar we leggen de lat even net wat hoger om zeker te weten dat het op een veilige en goede manier gebeurt. Sven: Het moet gewoon lekker periodiek één keer twee keer per jaar één keer per twee jaar gecheckt worden, moeten we zeker weten dat het klopt, dat het accuraat is en dat het niet discrimineert. Sven: En dat het als het fout is, dat het tijdig wordt ingegrepen. Sven: Hartstikke simpel. Sven: De andere kant van het verhaal is natuurlijk dat mensen die solliciteren al mas AI gebruiken voor hun sollicitatiebrieven. Sven: En daar kunnen we natuurlijk niks aan banden leggen. Sven: Zo werkt het niet. Sven: Dus je krijgt wel een heel scheef evenwicht. Sven: We leggen echt om goede redenen een hoge lat een organisatie die AI gebruiken voor hun werving en selectieproces. Sven: Maar ondertussen al die bedrijven, al die organisaties worden mee geconfronteerd. Sven: Dat mensen solliciteren met AI. Sven: En dat is eigenlijk daar de manier waarop je voorheen mensen solliciteren, het werkt niet meer. Sven: En dat is één voorbeeld van waar zich dat overal in de samenleving door gaat doen en je daar dus een balans in moet vinden. Sven: Ander heel concreet voorbeeld is alles wat maar met klachten en bezwaren te maken heeft. Sven: Alle organisaties worden overspoeld in hun klantenservice. Sven: Met het hele wetboek wordt opengetrokken, omdat iemand aan AI heeft gevraagd van nou, hoe kan ik een zo streng mogelijke brief schrijven of zeggen dat ik recht heb op deze reparatie van dit en dit apparaat. Joop: Het ironische is dat zij zijn begonnen met die chatbots aanbieden om zo min mogelijk uiteindelijk communicatie te krijgen. Sven: En dit moet weer in evenwicht komen op een bepaalde manier. Sven: En het belangrijkste is, het moet op een manier in evenwicht komen dat wij allemaal nog het gevoel kunnen hebben dat wij als mensen hier de touwtjes in handen hebben. Niels: Als je dan kijkt naar de maatschappij, de toezichthouders vanaf de organisaties. Niels: Hoe vind je dat we als maatschappij erop voorbereiden? Niels: Wat kunnen we daar misschien in verbeteren of wat doen we al goed? Sven: Ook daar kunnen we gewoon niet onderschatten hoe groot deze maatschappelijke verandering aan zijn. Sven: Educatie superbelangrijk. Sven: Dus zorgen dat mensen echt goed worden ontwikkeld om AI te begrijpen en dat met vertrouwen in te zetten. Sven: Dus anders krijgen we op een andere manier een tweedeling in de samenleving. Sven: Het is ook echt gewoon we kunnen de ethisch allemaal een oordeel over hebben. Sven: Maar het is echt een ongelijke strijd als de ene persoon wel ergens AI voor inzetten en de andere persoon niet. Sven: Dus dat moet wel samenleving echt gaan uitvinden van wat eigenlijk onze maatschappelijke normen en waarden zijn voor hoe wij AI gebruiken in ons onderling contact. Niels: En er zit een stukje educatie in, hoe blijf je zelf bij? Sven: Dat is niet zo moeilijk. Sven: Als het je baan is dag in dag uit zie je toch wel de ontwikkelingen. Sven: Het belangrijkste, het belangrijkste is. Sven: Maar dat kunnen we ook weer niet van iedereen in de samenleving moet vragen, is gewoon nieuwsgierig zijn. Sven: Dus we dus allemaal willen weten van, wat gebeurt hier? Sven: Wat gebeurt hier nu weer? Sven: Wat komt hier op ons af? Sven: Hoe werkt dit? Sven: Waarom is deze ontwikkelingen nu weer? Niels: En daarover we eigenlijk weer de eerlijke verhalen gaan delen en de gesprekken over voeren, want inderdaad, we kunnen niet verwachten dat iedereen het bijhoudt, maar we kunnen het wel met elkaar erover hebben, wat we daaruit geconstateerd hebben, die conversatie moet plaatsvinden. Joop: Lig je ergens 's nachts van wakker rond deze technologie, dat kan zakelijk of persoonlijk zijn. Sven: Het is een grote opgave. Sven: Datgene wat we proberen goed te doen, dat vraagstuk wordt alleen maar groter. Sven: Dus ja, waar je wel wakker van kan liggen, is of de urgentie duidelijk genoeg is. Joop: Door wie gevoeld. Sven: Ja, dus ons allemaal als samenleving. Sven: En het heeft ermee te maken dat zo praten we af en toe nu de laatste tijd over. Sven: Hoe de technologie zich ontwikkelt, dat is noem je dan non-lineair of exponentieel. Sven: Dat is niet iets waar we als mensen goed in zijn om ons daarop voor te bereiden. Sven: Dus denk aan COVID. Sven: We weten allemaal hoe dat ging in maart 2020. Sven: En sommige mensen zagen aankomen. Sven: Die wisten begin februari wel van ja, als dit nu in China gebeurt en dat gaan daar zitten wij dan over zes of acht weken. Sven: En je ziet bij sommige onderdelen van de AI, en het is dus niet alleen de technologische kant, maar ook hoe wij het als hoe wij het als mensen gebruiken. Sven: We zien bijvoorbeeld dat gewoon in adoptieniveau AI, de generatieve AI, die tools dat dat de snelste adoptie is van alle technologieën ooit. Joop: Ja, zeg ik dan zonder. Sven: En we zien ook de grafiekjes van het percentage mensen dat AI gebruikt. Sven: Dat wordt in Nederland vanuit de wetenschap hartstikke goed. Sven: Algo sok, die meten dit. Sven: Dan wel elke drie maanden dan elk half jaar. Sven: Maar je ziet per drie maanden. Sven: Per drie maanden zie je gewoon echt met procentpunten stijgen het gebruik van die AI. Sven: Over alle leeftijdsgroepen, jong nog steeds veel meer dan oud. Sven: Maar dit gaat heel erg hard. Niels: Dus nog belangrijker dat educatie er is. Niels: Want het gebruik zonder educatie, daar zit het grote risico. Joop: Maar dan lig je zeg maar tussen aan een steeds wakker van die exponentiële groei. Joop: En wat daar de gevolgen uiteindelijk van zijn. Joop: Ik zal te kijken of jij nog een vraag over in het kader van nieuwsgierigheid, ze zijn net van wij gaan misschien ook wel AI gebruiken. Joop: Wie gaat dan toezicht houden op jullie AI? Sven: Ja, denk ik de eerste vraag, ja, dus is het hoog risico. Joop: Is het hoog risico? Joop: Als jullie het inzetten. Sven: Ik denk, juridisch gezien. Sven: Valt dat nog wel, valt dat valt het nog wel mee. Sven: Nee, dat is een goede vraag. Sven: Wat wij waar we denken waar we in Nederland hele goede stappen in hebben gezet, is dat waar Nederland ook echt wel weer echt in voorop loopt, is dat we zoiets hebben als dat heet dan het algoritme register, maar dat is ook een AI-register. Sven: Dus overheidsorganisaties die registreren de AI die zij gebruiken en algoritmes die ze gebruiken in zo'n in zo'n register. Sven: Dat is al een mechanisme dat je daar gewoon transparant op bent. Sven: En ja verder. Joop: En dan gaan jullie dan ook gebruik van maken. Sven: Dus daar moet je in ieder geval gewoon duidelijk in zijn over wat je over wat je gebruikt. Sven: Maar kijk, het is ook het is ook echt gewoon natuurlijk. Sven: Dus als jij als jij toezicht houdt op de grootste en elk nieuwste vormen van AI en algoritmes, dan moet je daar ook gewoon toegang toe hebben. Sven: Dus dat is ook denk ik een van de een van de grootste uitdagingen voor het komende jaar om weer een stap verder te zetten. Sven: Hoe zorgen wij dat wij nou ook gewoon die rekenkracht hebben om ook grote modellen te draaien. Sven: En als we die willen testen, om te kijken of ze bijvoorbeeld in strijd handelen met verboden. Sven: Een van de verboden vormen van AI is dat AI niet mag manipuleren of misleiden. Sven: Het mag mensen niet manipuleren en misleiden, het mag geen kwetsbaarheden van mensen uitbuiten. Sven: Nou, dat is echt iets ja, dat daar komen we alleen maar achter. Sven: Naast natuurlijk door dat er misschien signalen over binnenkomen, maar je zult dat zelf dan toch ook even af en toe op de pijnbank moeten gaan leggen. Sven: Daar moeten we wel echt de technologische capaciteiten voor hebben om dat te kunnen. Niels: Ja, ik vond een mooie toezicht. Niels: En dat je even nog wat AIR is en noemt, inderdaad, ik was voor de overheid verplicht. Niels: Ik kan het ook iedere organisatie waar het niet verplicht is aanraden om dat vast te gaan leggen. Niels: Want daardoor ga je erover nadenken van waar gebruiken we het wel, waar gebruiken we het niet. Niels: En hebben we daar bewust voor gekozen, of is dat onbewust doorgekomen inderdaad. Niels: Dus ik vind dat ik gebruik dat zelf ook altijd bij organisatie als jullie die nog niet hebben, start hem op gaan eens kijken bij die organisatie om daarmee aan de slag te gaan. Niels: Ik had ik had nog een vraag. Niels: We zijn bij World Summit AI deze afgelopen twee dagen. Niels: Dit is de tiende jaar dat we hier zijn en je zegt, je bent er ook al een paar jaar geweest. Niels: Wat voor veranderingen zie je hier weer terugkomen? Niels: Je wordt kennis gedeeld, die wordt genetwerkt, die wordt eigenlijk met elkaar weer opgedaan, hoe kijken we deze technologie en de ontwikkelingen aan. Niels: Wat zie je qua verandering op deze conferentie of over het gebied hier? Sven: Ja, nou ja, er zijn een paar tenten bijgekomen, het is nog wat groter. Sven: Je ziet ook dat het aantal AI-bedrijven een stand heeft, die ruimte, die nemen neemt ook toe. Sven: De industrie neemt toe. Sven: Ik dat dat hartstikke goed is dat we dat hier in Nederland hebben. Sven: Je ziet ook dat het iets meer. Sven: Je ziet ook een overgang van de fase van dat een consultancy is over hoe we AI inzetten naar dat het steeds meer bedrijven zijn van die echt iets die echt iets aanbieden. Sven: En je ziet bijvoorbeeld ook waar de showcase een paar jaar geleden was. Sven: Generatieve AI een stukje werken bij kan koppelen aan de data van je eigen organisatie. Sven: Dat het nu gaat over de workflow en de agents. Sven: Hoe kun je je proces gewoon automatiseren in voor met AI. Sven: Dat ook al die mogelijkheden heeft. Niels: Dus eigenlijk zie je dus ook de beweging van technologie naar toepassing. Sven: Zeker. Sven: Kijk, en ook daar. Sven: Een van de dingen waar wij waar wij erg naar uitkijken in wat dan nog steeds wel het toezicht is om mee aan de slag te gaan, is dat een heel belangrijk onderdeel, en daar is echt wel goed vooruit ingekeken, is dat wij een sandbox opzetten. Sven: Dus een sandbox houdt in dat je een omgeving creëert waarin ontwikkelaars van AI-systemen samen met ons als de toezichthouders, maar ook degene die uiteindelijk de regelgeving uitleggen, dat we samen gaan zitten om te gaan kijken van hoe kunnen we die systemen, nieuwe systemen, en zoals we net bespraken. Sven: Elk jaar komen er weer nieuwe ideeën over van wat je dan moet inpassen, om te ontwikkelen, hoe we dat in lijn kunnen brengen met wat dan de best practices zijn, wat de goede praktijk is uit die AI-regelgeving. Sven: En dat is een heel erg innovatie, ondersteunend traject. Sven: Dus wij geloven er, maar dit is natuurlijk een beetje rekenen voor eigen. Sven: Wij geloven dus ook heel erg in dat die regelgeving en die duidelijkheid die dat geeft, dat dat echt juist een hele aanjagende kan werken om hele effectieve toepassingen. Joop: Als je dat in vroegtijdig gewoon kan uittesten. Niels: En zonder grenzen, dan ga je ook niet naar de limitaties op zoek. Niels: Dus die grenzen helpen om te innoveren en creatief te kunnen zijn. Niels: Tenminste, dat ben ik van overtuigd. Joop: Mooi, dankjewel, Sven. Joop: We hebben een heel mooi kijkje gekregen in toezicht. Joop: Houden. Joop: Voor mij ook heel verhelderend een aantal zaken. Joop: Dus dankjewel dat je dit met ons wilde doen, leuk dat je weer luisterde naar de nieuwe aflevering van AIToday Live. Joop: Vergeet je niet te abonneren via je favoriete podcast app, dan mis je geen aflevering. Niels: Tot de volgende keer. ## Meer afleveringen [S08E49 AI governance bij kritieke infrastructuur: wat komt er bij kijken? Menno van de Lagemaat](https://aitodaylive.nl/afleveringen/s08e49-ai-governance-bij-kritieke-infrastructuur-wat-komt-er-bij-kijken/) [S08E51 AI-governance bij een bank: hoe Rabobank chatbot Robin beoordeelt Margaret Kalisvaart](https://aitodaylive.nl/afleveringen/s08e51-ai-governance-bij-een-bank-hoe-rabobank-chatbot-robin-beoordeelt/) [S03E01 AI & Geautomatiseerde ketenbesluiten (met Marlies van Eck) Marlies van Eck](https://aitodaylive.nl/afleveringen/s03e01-ai-geautomatiseerde-ketenbesluiten-met-marlies-van-eck/) [S04E06 Hoe je je voorbereidt op nieuwe Europese wetgeving](https://aitodaylive.nl/afleveringen/s04e06-hoe-je-je-voorbereidt-op-nieuwe-europese-wetgeving/) [S05E16 Het Algoritmeregister begrijpelijk maken voor iedereen Roos Labberton-Groeneveld](https://aitodaylive.nl/afleveringen/s05e16-het-algoritmeregister-begrijpelijk-maken-voor-iedereen/) [S05E24 Nieuwe EU AI wetgeving:gevolgen en voorbereiding](https://aitodaylive.nl/afleveringen/s05e24-nieuwe-eu-ai-wetgeving-gevolgen-en-voorbereiding/) Beluister op [Spotify ↗](https://open.spotify.com/episode/79nxC0sVTTmsvUR2i1MmcO) [Apple Podcasts ↗](https://podcasts.apple.com/us/podcast/s09e01-toezicht-op-ai-wat-de-autoriteit/id1510558415?i=1000796982016&uo=4) [Buzzsprout ↗](https://www.buzzsprout.com/899785/19967487) Details AfleveringS09E01 SeizoenSeizoen 9 Datum18 oktober 2026 Duur48 minuten CategorieWetgeving en Beleid Thema's [AI Act voor Nederland](https://aitodaylive.nl/thema/ai-act-voor-nederlandse-bedrijven/) Artificial Intelligence toezicht AI-act [Responsible AI](https://aitodaylive.nl/thema/verantwoorde-ai-en-bias/) Autoriteit Persoonsgegevens AI-geletterdheid Praktische AI Professionals [Wetgeving en Beleid](https://aitodaylive.nl/afleveringen.html?categorie=Wetgeving+en+Beleid) Voor wie? * Compliance-medewerkers bij organisaties * IT-managers en AI-ontwikkelaars * Beleidsmedewerkers die AI-inzet begeleiden Bronnen [Home](https://www.autoriteitpersoonsgegevens.nl) [EU Artificial Intelligence Act](https://artificialintelligenceact.eu) [AVG algemeen](https://www.autoriteitpersoonsgegevens.nl/themas/basis-avg/avg-algemeen) [Home](https://www.rdi.nl) [European AI Office](https://digital-strategy.ec.europa.eu/en/policies/ai-office) [Kids Act (Europees voorstel)](https://learning-corner.learning.europa.eu/news-and-competitions/eu-kids-act-what-will-change-children-online-2026-10-06_nl) [Het algoritmeregister van de Nederlandse overheid](https://algoritmes.overheid.nl)