Zo classificeer je AI-systemen volgens de AI Act
De Europese AI Act verplicht gemeenten en andere overheden om al hun AI-systemen zorgvuldig te classificeren op risiconiveau. Inzicht in deze classificatie is essentieel om te voldoen aan de nieuwe eisen en om het vertrouwen van burgers te behouden.
Waarom classificatie volgens de AI Act zo belangrijk is
Met de komst van de AI Act in 2025 verandert het speelveld voor AI binnen de publieke sector fundamenteel. Gemeenten moeten niet alleen inzicht geven in de werking van hun AI-systemen, maar ook transparant zijn over de risico’s en de maatregelen die zij nemen. Een juiste classificatie bepaalt de mate van toezicht, documentatie en transparantie die nodig zijn. Dit is cruciaal voor het beschermen van burgerrechten, het voorkomen van discriminatie en het voorkomen van boetes bij niet-naleving.
AI-systemen classificeren: de vier risiconiveaus
De AI Act onderscheidt vier risiconiveaus. De verplichtingen nemen toe naarmate het risico hoger is:
- Minimaal risico: Zoals AI-gestuurde spellingscontrole, spamfilters of zoekalgoritmen. Vrijwel geen aanvullende eisen, maar transparantie over het gebruik blijft aanbevolen.
- Beperkt risico: Bijvoorbeeld chatbots voor burgerinformatie. Transparantieplicht: gebruikers moeten weten dat ze met AI communiceren.
- Hoog risico: AI die invloed heeft op rechten of plichten van burgers, zoals selectie voor sociale woningbouw, uitkeringen, toezicht op verkeersstromen, of fraudedetectie. Strenge eisen: risicobeoordeling (DPIA), nauwkeurige documentatie, menselijke controle en toezicht, en opname in een algoritmeregister.
- Onaanvaardbaar risico: Systemen die fundamentele rechten schenden (denk aan sociale scoring of massale realtime gezichtsherkenning) zijn per definitie verboden.
De AI Act verplicht nu alle Nederlandse overheden tot een formele classificatie én verantwoording van AI-systemen. Dit betekent dat iedere nieuwe én bestaande AI-toepassing (zoals voorspellende analyses in het sociaal domein of besluitvorming rond vergunningen) eerst getoetst en vastgelegd moet worden. In Duitsland, Zweden en Frankrijk worden sinds 2025 vergelijkbare eisen gehanteerd, met een sterke focus op transparantie, burgers informeren en toegankelijkheid van systemen via publieke registers. Dit creëert meer Europese harmonisatie én betere bescherming voor burgers.
Praktijkvoorbeeld: Classificatie in actie
Een AI-systeem wordt ingezet om aanvragen voor gemeentelijke uitkeringen automatisch te beoordelen. Na classificatie blijkt het om een hoog-risico toepassing te gaan. Er is een DPIA uitgevoerd, alle beslisregels zijn inzichtelijk gemaakt in een algoritmeregister, en er is altijd een ambtenaar betrokken bij het eindbesluit. Door deze aanpak voldoet de gemeente niet alleen aan de AI Act, maar wordt ook het vertrouwen van burgers in de dienstverlening vergroot.
Checklist: classificeer je AI-systemen direct
Wat moeten gemeenten nu doen?
- Stel een AI-register op: Leg alle AI-toepassingen vast, inclusief classificatie, risicoanalyse en verantwoordelijken.
- Voer DPIA’s uit: Voor alle hoog-risico toepassingen is een Data Protection Impact Assessment verplicht.
- Train medewerkers: Zorg dat beleidsmedewerkers, ICT en communicatie op de hoogte zijn van de AI Act en de risiconiveaus.
- Communiceer helder met burgers: Transparantie over AI-gebruik verhoogt vertrouwen en voorkomt klachten of onbegrip.
- Monitor en evalueer: Houd toezicht op bestaande AI-systemen en evalueer regelmatig of ze nog aan de eisen voldoen.
– Europese Commissie – AI Act
– Autoriteit Persoonsgegevens – AVG
– VNG – AI en ethiek