De VNG is overwegend positief over de Europese AI-act. Maar om burgers te beschermen had de AI-definitie nog wel wat breder gemogen, stelt directeur Lokaal Bestuur en Informatiesamenleving Andries Kok. ‘We weten uit de Toeslagenaffaire hoe fors de impact kan zijn als overheden eenvoudige algoritmes niet juist gebruiken.’
Eind mei stemde ook de Europese Raad in met de AI-act. Een maand eerder ging het Europees Parlement al akkoord. De Brusselse verordening is een belangrijk wettelijk kader voor kunstmatige intelligentie (AI), dat strakke eisen stelt aan welke vormen van AI zijn toegestaan in de EU.
Gefaseerd
De wetgeving treedt gefaseerd in werking. Voor de meest risicovolle AI-systemen, zoals gezichtsherkenningssoftware, geldt dat ze binnen een half jaar niet meer gebruikt mogen worden. Voor opsporingsinstanties geldt geen verbod. Bij hoogrisico-systemen die nieuw op de markt komen of significante aanpassingen ondergaan, moeten organisaties binnen 2 jaar aan de regelgeving voldoen.
Gemeenten hebben eerder in VNG-verband al afgesproken geen biometrische surveillancetechnieken te zullen gebruiken. Ze moeten dus met name kijken naar hoog- en laagrisico-systemen. ‘Voor gemeenten is het zaak dit soort AI zo goed mogelijk in beeld te hebben’, zegt directeur Lokaal Bestuur en Informatiesamenleving Andries Kok van de VNG.
Grenzen
Volgens Kok is de VNG overwegend positief over de AI-wet. ‘De grondrechten van burgers zijn gegarandeerd en geborgd. We moeten beslist profiteren van de kansen die AI biedt, maar wel binnen de grenzen die de rechtsstaat stelt. Alleen dan ben je verantwoord aan het digitaliseren.’
De VNG sprak eerder in 2022 in een position-paper haar zorgen uit over de AI-verordening. Een belangrijk kritiekpunt is blijven staan, geeft Kok aan. De inzet vanuit het kabinet en ook gemeenten was erop gericht de definitie van ‘AI-systeem’ op te rekken, om ook minder complexe algoritmes mee te nemen. Dat is deels gelukt, maar sommige simpele ‘rule-based’ algoritmes vallen er nu niet onder. ‘De definitie biedt burgers in die gevallen onvoldoende bescherming. We weten allemaal uit de Toeslagenaffaire hoe fors de impact kan zijn als eenvoudige algoritmes niet juist gebruikt worden.’
Algoritmeregister
Een harde eis in de AI-verordening is verplichte opname van risicovolle AI in een openbare databank. Ons land kent al het Nationaal Algoritmeregister. Begin juni zijn er welgeteld 380 algoritmes aangemeld, waarvan 72 van gemeenten. Het kabinet is gestart met het wetgevingstraject om het gebruik van het register te verplichten, blijkt uit de beantwoording van Eerste Kamervragen door demissionair staatssecretaris Van Huffelen in april.
Kok wil zijn eerdere oproep op deze site graag herhalen. ‘Het is een positieve ontwikkeling dat steeds meer gemeenten het landelijke algoritmeregister gebruiken, maar tegelijkertijd zijn we er nog niet.’
Voorbereiding gemeenten
Hetzelfde geldt voor de voorbereiding van gemeenten op de AI-act. Volgens onderzoek van NHL Stenden Hogeschool heeft slechts een kwart van de gemeenten concrete acties ondernomen, wat alles te maken heeft met de huidige capaciteitsproblemen.
Het onderzoeksrapport schetst een wisselend beeld. De ene gemeente is scherp op de ontwikkelingen, waar de ander nog achterover leunt of nog weinig van de Europese AI-regulering afweet. Het voor het onderzoek verantwoordelijke lectoraat Cybersafety van de hogeschool gaat onderzoeken hoe ze gemeenten rond de AI-verordening kan ondersteunen.
‘Gemeenten zijn zich er zeker van bewust dat er iets staat te gebeuren’, reageert Kok op het onderzoek, dat een aantal maanden vóór de inwerkingtreding van de AI-wet is uitgevoerd. ‘Nu de wetgeving officieel is aangenomen, zullen gemeenten er ongetwijfeld mee aan de slag gaan.’
Uitvoeringstoets
Samen met de koepels van provincies en waterschappen en het ministerie van BZK werkt de VNG aan een zogeheten Uitvoerbaarheidstoets Decentrale Overheden (UDO). Doel is de impact van de AI-wet in kaart te brengen. ‘Hiermee krijgen we een beter beeld van de inspanningen die gemeenten nog moeten doen om de wet te implementeren. Op basis van deze toets kunnen we hen hierbij ook beter ondersteunen.’
De uitvoerbaarheidstoets biedt de VNG ook de handvatten om het gesprek te voeren met het Rijk over hoe ze gemeenten in staat gaat stellen om aan de AI-regulering te voldoen.
Zoektocht
Wethouder Rachel Streefland van Utrecht pleitte er onlangs voor op de gemeentelijke bestuurstafel meer plek in te ruimen voor AI. Kok constateert dat de belangstelling voor het onderwerp er zeker is binnen het college. ‘Alleen is het een zoektocht hoe het gesprek hierover te voeren. Je kunt het je niet veroorloven AI als iets puur technisch weg te zetten. Als bestuurder ben je verantwoordelijk voor de gevolgen van het toepassen van zo’n technologie voor je inwoners. Daar moet je goed over nadenken en de keuzes in maken die je wilt maken als bestuur. Dat is nog een hele uitdaging. Het is de opdracht voor de VNG gemeenten daar ook zo goed mogelijk in bij te staan.’
In de Digitale Agenda 2024-2028 krijgt het onderwerp AI verdere invulling. Het VNG-bestuur stelt de nieuwe agenda naar verwachting voor de zomer vast.
Kamermotie
Gemeenten krijgen ook hulp vanuit de Tweede Kamer. Een breed ondersteunde motie roept het kabinet op vanwege de komst van de AI-verordening een handreiking te ontwikkelen voor gemeenten en andere overheden met relevante en veilige AI-toepassingen. Kok is blij met de Kamermotie. ‘Goed dat de Tweede Kamer inziet dat de inzet van AI op decentraal niveau op verantwoorde wijze moet gebeuren. Zo’n handreiking kan daarbij helpen. Hoe concreter, hoe beter.
De VNG trekt hierin met de andere overheidslagen ook gezamenlijk op, verwijst Kok naar de in januari verschenen overheidsbrede visie op generatieve AI. ‘Zaak is dat we dit wiel niet individueel gaan uitvinden. Ook zo’n handreiking is iets wat we interbestuurlijk op moeten pakken.’
Geef een reactie