Hoog-risico AI herkennen: hoe je je systemen classificeert onder de AI Act
Valt mijn systeem onder hoog-risico? Die vraag is de eerste stap in AI Act-compliance. De classificatie bepaalt je verplichtingen — en veel organisaties weten het antwoord nog niet.
De EU AI Act hanteert een risicogebaseerde aanpak: hoe groter het risico voor mensen, hoe strenger de eisen. Voor Nederlandse organisaties is de eerste stap begrijpen of hun AI-systemen in de hoog-risico-categorie vallen. Dat hangt af van twee factoren: de sector (zorg, onderwijs, arbeidsmarkt, kredietverlening, rechtshandhaving, kritieke infrastructuur) én het gebruik. Een HR-tool die sollicitanten scoort, een kredietbeoordelingsalgoritme of een diagnostisch medisch systeem zijn typische voorbeelden. Valt je systeem in de hoog-risico-categorie? Dan gelden verplichtingen als conformiteitsbeoordeling, technische documentatie, logging van beslissingen en menselijk toezicht. Bart Schermer (S07E39) legt het verschil tussen aanbieder en deployer uit en wat dat betekent voor je verplichtingen. Frans van Brugge (S07E67) bespreekt de sandboxmogelijkheden die Nederlandse organisaties ruimte geven om te experimenteren voordat de wet volledig ingaat.
Citaten uit onze afleveringen
“De AI Act is in de kern gewoon een productveiligheidswet. Het gaat erom dat een AI-systeem veilig op de markt komt en dat iedereen in de keten, van aanbieder tot gebruiker, weet wat zijn verplichtingen zijn.
Bart Schermer, Advocaat en AI-juridisch expert — S07E39
“De AI Act volgt een risicogebaseerde aanpak en categoriseert AI-systemen in verschillende niveaus, elk met eigen regels en beperkingen. Het is geen remblok, maar eerder een kompas dat richting geeft aan verantwoorde ontwikkeling.
Joop Snijder — S07E80
“Je wil gewoon van alles weten aan AI binnen je organisatie. Één, is het überhaupt AI — je zou verrast zijn hoe vaak dat niet het geval is en het gewoon uiteindelijk wiskunde is. Als tweede wil je gaan checken welk risico is volgens de AI Act. Dus dat kan alles zijn van simpelweg vragen: raakt dit systeem bijvoorbeeld het taken toewijzen aan mensen? Die staat gewoon heel expliciet in de act als hoge risico.
Menno van de Lagemaat, AI Governance Officer bij Alliander — S08E49
Bewijsafleveringen
AI Act uitgelegd: van aanbieder tot gebruiker met Bart Schermer
Bart Schermer legt uit waarom de AI Act primair een productveiligheidswet is en dat het onderscheid aanbieder/deployer bepalend is voor welke verplichtingen je hebt.
Risicogebaseerde AI Act en sandboxes met Frans van Brugge
Frans van Brugge belicht hoe regulatory sandboxes Nederlandse bedrijven ruimte geven om veilig te experimenteren, en hoe de risicocategorieën in de praktijk uitpakken.
Dit thema valt onder
AI Act: wat regelgeving betekent voor Nederlandse bedrijven →