Hoog-risico AI herkennen: hoe je je systemen classificeert onder de AI Act
Valt mijn systeem onder hoog-risico? Die vraag is de eerste stap in AI Act-compliance. De classificatie bepaalt je verplichtingen — en veel organisaties weten het antwoord nog niet.
De EU AI Act hanteert een risicogebaseerde aanpak: hoe groter het risico voor mensen, hoe strenger de eisen. Voor Nederlandse organisaties is de eerste stap begrijpen of hun AI-systemen in de hoog-risico-categorie vallen. Dat hangt af van twee factoren: de sector (zorg, onderwijs, arbeidsmarkt, kredietverlening, rechtshandhaving, kritieke infrastructuur) én het gebruik.
Een HR-tool die sollicitanten scoort, een kredietbeoordelingsalgoritme of een diagnostisch medisch systeem zijn typische voorbeelden. Valt je systeem in de hoog-risico-categorie? Dan gelden verplichtingen als conformiteitsbeoordeling, technische documentatie, logging van beslissingen en menselijk toezicht.
Bart Schermer (S07E39) legt het verschil tussen aanbieder en deployer uit en wat dat betekent voor je verplichtingen. Frans van Brugge (S07E67) bespreekt de sandboxmogelijkheden die Nederlandse organisaties ruimte geven om te experimenteren voordat de wet volledig ingaat.
Veelgestelde vragen over Hoog-risico AI herkennen
Hoe weet ik of mijn AI-systeem onder hoog-risico valt in de AI Act?
Dat hangt af van twee factoren: de sector (zorg, onderwijs, arbeidsmarkt, kredietverlening, rechtshandhaving, kritieke infrastructuur) én het concrete gebruik. Een HR-tool die sollicitanten scoort, een kredietbeoordelingsalgoritme of een diagnostisch medisch systeem zijn typische hoog-risico-voorbeelden. De classificatie is de eerste stap in compliance, want die bepaalt je verplichtingen. Zie S07E80 en S07E39.
Wat is de AI Act eigenlijk voor soort wet?
Bart Schermer omschrijft de AI Act in S07E39 in de kern als een productveiligheidswet: het gaat erom dat een AI-systeem veilig op de markt komt en dat iedereen in de keten — van aanbieder tot gebruiker — zijn verantwoordelijkheid neemt. Het is een risicogebaseerde aanpak: hoe groter het risico voor mensen, hoe strenger de eisen.
Waar begin je met AI Act-compliance als organisatie?
Begin met inventariseren: welke AI heb je überhaupt in huis? Menno van de Lagemaat merkt in S08E49 op dat de eerste vraag vaak is of iets überhaupt AI is — je zou verrast zijn hoe vaak dat niet zo is. Breng je systemen in kaart, bepaal per systeem de risicocategorie, en werk van daaruit terug naar je verplichtingen.
Citaten uit onze afleveringen
“De AI Act is in de kern gewoon een productveiligheidswet. Het gaat erom dat een AI-systeem veilig op de markt komt en dat iedereen in de keten, van aanbieder tot gebruiker, weet wat zijn verplichtingen zijn.
Bart Schermer, Advocaat en AI-juridisch expert — S07E39
“De AI Act volgt een risicogebaseerde aanpak en categoriseert AI-systemen in verschillende niveaus, elk met eigen regels en beperkingen. Het is geen remblok, maar eerder een kompas dat richting geeft aan verantwoorde ontwikkeling.
Joop Snijder — S07E80
“Je wil gewoon van alles weten aan AI binnen je organisatie. Één, is het überhaupt AI — je zou verrast zijn hoe vaak dat niet het geval is en het gewoon uiteindelijk wiskunde is. Als tweede wil je gaan checken welk risico is volgens de AI Act. Dus dat kan alles zijn van simpelweg vragen: raakt dit systeem bijvoorbeeld het taken toewijzen aan mensen? Die staat gewoon heel expliciet in de act als hoge risico.
Menno van de Lagemaat, AI Governance Officer bij Alliander — S08E49
Bewijsafleveringen
AI Act uitgelegd: van aanbieder tot gebruiker met Bart Schermer
Bart Schermer legt uit waarom de AI Act primair een productveiligheidswet is en dat het onderscheid aanbieder/deployer bepalend is voor welke verplichtingen je hebt.
Risicogebaseerde AI Act en sandboxes met Frans van Brugge
Frans van Brugge belicht hoe regulatory sandboxes Nederlandse bedrijven ruimte geven om veilig te experimenteren, en hoe de risicocategorieën in de praktijk uitpakken.
AI in de pathologie: van onderzoek naar de praktijk
De aflevering illustreert hoe hoog-risico AI-systemen in de praktijk tegen implementatiebarrières aanlopen in gereguleerde sectoren. Dit biedt concrete inzicht in wat conformiteit en risicobeoordelingen betekenen voor AI-deployers in regula
Werkgeluk in de zorg verbeteren met AI-tools
Sensire demonstreert praktische implementatie van betrouwbare AI in de zorg—een hoog-risico sector onder de AI Act. De casus toont hoe risicobeoordeling en conformiteit essentieel zijn voor AI-systemen waar fouten onacceptabel zijn.
AI-governance bij een bank: hoe Rabobank chatbot Robin beoordeelt
Leer hoe een bank een chatbot classificeert onder AI Act-risicokaders: praktisch vierstapenproces voor risicoweging en conformiteitsbeoordeling dat rechtstreeks toepasbaar is op hoog-risico AI-classificatie.
AI governance bij kritieke infrastructuur: wat komt er bij kijken?
Van de Lagemaat demonstreert praktische risicoclassificatie voor kritieke infrastructuur onder AI governance, inclusief wanneer implementatie moet worden afgewezen - direct toepasbaar op AI Act hoog-risico classificatie.
Waar kan 30 seconden stem meer zeggen dan een bloedtest?
AI-systemen in healthcare moeten onder de AI Act geclassificeerd worden als hoog-risico wanneer zij medische diagnoses of monitoring uitvoeren. Healfie's spraakanalyse-tool illustreert hoe AI-deployers risicobeoordeling moeten toepassen op
Ai van Columbus: vijf lagen van betekenis
Taalmodellen halluccineren structureel door hun mechanisme, niet door fouten. Dit inzicht is cruciaal voor risicoclassificatie: hoog-risico AI-systemen vereisen verificatieprocedures, niet blind vertrouwen.
Codeconversie met AI: sneller van legacy naar modern
Bij AI-implementatie is menselijke controle en verantwoordelijkheid cruciaal: volledig automatiseren zonder toezicht betekent risico's nemen die je niet kunt delegeren. Het zes-ogenprincipe (AI + twee mensen) illustreert hoe je hoog-risico
AI-agent mythes - Autonomie en controle (Deel 2)
Joop Snijder en Niels Naglé bespreken in hun podcast AIToday Live vier hardnekkige mythes over AI agents. Ze...
Verder lezen over Hoog-risico AI herkennen
Dit thema valt onder
AI Act: wat regelgeving betekent voor Nederlandse bedrijven →