Het zorgvuldig formuleren van AI-uitvragen in aanbestedingen is een kritische succesfactor voor gemeenten. Alleen zo waarborg je dat nieuwe technologieën voldoen aan de hoogste eisen van ethiek, privacy en effectiviteit. Dit artikel geeft concrete tips, een praktijkvoorbeeld, een handige checklist én een volledige template.
Waarom is dit zo belangrijk voor gemeenten?
Met de opmars van AI in het publieke domein neemt ook de verantwoordelijkheid toe om deze systemen verantwoord en transparant in te kopen. Gemeenten zijn wettelijk verplicht om bij aanbestedingen duidelijke eisen te stellen, zodat leveranciers leveren wat echt nodig is: systemen die veilig, eerlijk en inclusief zijn. De AI Act en de AVG stellen vanaf 2025 extra eisen aan transparantie, uitleg en toezicht op algoritmes. Door scherp te formuleren, verklein je het risico op onduidelijke afspraken, juridische problemen en ongewenste uitkomsten.
Wat houdt een scherpe AI-uitvraag in?
Een AI-uitvraag in een aanbesteding beschrijft precies wat een AI-systeem moet kunnen, welke normen gelden (denk aan privacy, ethiek en toegankelijkheid) en aan welke wettelijke eisen moet worden voldaan. Dit voorkomt verrassingen in de praktijk. Naast technische specificaties is het essentieel om eisen op te nemen over uitlegbaarheid, audit-trails, menselijke controle en risicobeheer. Ook het plannen van trainingen en burgerbetrokkenheid hoort daar in 2025 bij.
Voor het verbeteren van verkeersstromen zocht gemeente Zonnedal een AI-systeem. In de aanbesteding stond dat het systeem realtime data moest verwerken, geen persoonsgegevens mocht opslaan, en moest voldoen aan de AVG en AI Act. Een DPIA was verplicht, evenals jaarlijkse evaluaties. Dit zorgde voor een verantwoorde en toekomstbestendige selectie van de leverancier.
Wat moeten gemeenten concreet regelen?
- Duidelijkheid in functionaliteit: Beschrijf nauwkeurig wat het systeem moet doen, inclusief uitzonderingen en grenzen.
- Compliance met wetgeving: Eis dat het systeem voldoet aan de AVG, AI Act en sectorale regels.
- Ethische eisen: Neem eisen op over transparantie, uitleg over algoritmes, en de mogelijkheid tot menselijk ingrijpen.
- Risicoanalyse: Maak een DPIA verplicht, zowel vooraf als periodiek tijdens het gebruik.
- Toegankelijkheid en inclusiviteit: Zorg dat oplossingen bruikbaar zijn voor alle inwoners, inclusief mensen met een beperking.
- Audits en monitoring: Leg vast hoe het systeem gecontroleerd en geëvalueerd wordt, en wie verantwoordelijk is voor opvolging.
- Burgerparticipatie: Stimuleer leveranciers om communicatie en feedback van burgers te faciliteren.
- Beschrijf doel, functionaliteit en beperkingen van het AI-systeem
- Eis naleving van AVG en AI Act en documenteer dit in contracten
- Neem ethische, inclusieve en transparantie-eisen op
- Maak een DPIA en periodieke evaluaties verplicht
- Leg verantwoordelijkheden vast, zowel intern als bij leveranciers
- Plan structurele monitoring, audits en rapportages
- Faciliteer burgerparticipatie en communicatie
- Stel eisen aan uitleg, documentatie en training door leverancier
Gebruik dit sjabloon als basis voor AI-aanbestedingen. Pas de onderdelen aan op basis van de situatie en het beoogde AI-systeem.
1. Doel en context
Omschrijf het doel van de AI-oplossing en de context binnen de gemeente.
Voorbeeld: "De gemeente X zoekt een AI-systeem ter ondersteuning van het verkeersmanagement, met als doel verkeersdoorstroming te optimaliseren zonder persoonsgegevens te verwerken."
2. Functionele eisen
- Het systeem moet [specifieke functionaliteiten, bv. realtime analyse, automatische signalering] uitvoeren.
- Het AI-model moet uitlegbaar zijn en beslissingen kunnen motiveren.
- [Voeg hier overige technische vereisten toe.]
3. Juridische en compliance-eisen
- Het systeem moet voldoen aan de Algemene Verordening Gegevensbescherming (AVG) en de AI Act.
- Leverancier dient een actuele DPIA op te stellen en te overhandigen.
- Alle verwerking van data vindt plaats binnen de EU.
- Audit-trails en logging zijn verplicht en moeten periodiek worden opgeleverd.
4. Ethische en maatschappelijke eisen
- Het systeem mag geen ongeoorloofde bias bevatten en dient hierop getest te worden.
- Neem eisen op over transparantie: algoritmen, keuzes en data moeten inzichtelijk zijn voor gemeente en burgers.
- Menselijk toezicht en ingrijpen bij beslissingen moet mogelijk zijn.
5. Toegankelijkheid en inclusiviteit
- De oplossing moet voldoen aan WCAG 2.1 richtlijnen (digitale toegankelijkheid).
- Systemen moeten bruikbaar zijn voor alle doelgroepen, inclusief mensen met een beperking.
6. Beheer, onderhoud en support
- Leverancier beschrijft supportstructuur en responsietijden.
- Updatemechanismes en onderhoudsafspraken moeten helder zijn.
- Eisen aan overdraagbaarheid en documentatie.
7. Monitoring, evaluatie en rapportage
- Periodieke rapportages over prestaties, incidenten en compliance.
- Jaarlijkse evaluatie samen met de gemeente.
- Verplichte (her)uitvoering van DPIA’s bij updates.
8. Communicatie en participatie
- Leverancier ondersteunt gemeente bij communicatie naar burgers.
- Opleiding en training voor medewerkers zijn onderdeel van de opdracht.
9. Exit-strategie en dataretentie
- Beschrijf hoe data veilig wordt verwijderd bij einde contract.
- Overdraagbaarheid van modellen, data en documentatie aan de gemeente.
10. Prijsvorming en gunningscriteria
- Geef aan op basis waarvan gegund wordt: prijs, kwaliteit, ervaring, naleving eisen, etc.
Bijlage(n):
- DPIA-format, ethische toets, beoogde use cases, datastromen, compliance checklists.
Afsluiting
Het scherp formuleren van AI-uitvragen voorkomt problemen, stimuleert innovatie en waarborgt dat nieuwe technologieën bijdragen aan publieke waarden. Gemeenten die investeren in goede aanbestedingen leggen het fundament voor ethische en toekomstbestendige digitale dienstverlening. Meer weten of een eigen uitvraag laten reviewen? Download onze whitepaper of plan een intake met VerantwoordAI.
Bronnen & verdieping
- AVG – Autoriteit Persoonsgegevens
- Europese AI Act
- VNG Realisatie over AI
- Rijksoverheid over DPIA
- Handreiking Aanbesteden van AI – VNG Realisatie
- Scherpe AI-uitvragen zijn cruciaal voor verantwoorde en effectieve technologie in het publieke domein.
- Nieuwe wetgeving (AI Act, AVG) stelt hogere eisen aan aanbestedingen in 2025.
- Checklist, multidisciplinair team en heldere eisen voorkomen juridische en ethische problemen.
- Gebruik praktische tools en best practices voor optimale resultaten.