De eerste deadline van de AI-act nadert. Veel gemeenten worstelen nog met de EU-verordening die strenge eisen aan AI stelt. Er leven nog veel vragen en onzekerheden.
De AI-act is sinds augustus vorig jaar van kracht en stelt strenge eisen aan welke vormen van AI (Artificial Intelligence) in de EU zijn toegestaan. De verordening treedt gefaseerd in werking. Ook gemeenten moeten aan nieuwe plichten rondom het gebruik van AI voldoen. De eerste deadline is 1 februari 2025.
Onaanvaardbare risico’s
Vanaf die datum moeten gemeenten alle AI-systemen met voor inwoners onaanvaardbare risico’s in de ban hebben gedaan. Een voorbeeld is gezichtsherkenningssoftware, populair in China dat zijn inwoners hiermee intensief volgt. Gemeenten hebben in VNG-verband afgesproken geen biometrische identificatietechnieken in de publieke ruimte te gebruiken. Dat commitment moeten ze per 1 februari gestand doen.
In 2021 constateerde een omvangrijk Europese onderzoek bijvoorbeeld dat meerdere gemeenten zo’n systeem tijdens grote evenementen hebben ingezet. Waaronder Den Bosch tijdens carnaval en Wageningen op Bevrijdingsdag.
AI-geletterdheid
Een tweede eis vanuit de AI-verordening is dat medewerkers vanaf 1 februari voldoende ‘AI-geletterd’ zijn. Ze moeten bijvoorbeeld snappen dat AI-systemen vooroordelen kunnen bevatten en dat ze de uitkomsten van AI niet blindelings kunnen volgen. Gegevens over hoeveel gemeenten hun ambtenaren op AI-gebied inmiddels hebben getraind, zijn er niet.
Regiotours
Rond de AI-verordening kleven onder gemeenten nog veel vragen, zo blijkt uit de regiotours van het ministerie van Binnenlandse Zaken (BZK). Gemeenten zien AI als een ‘potentieel innovatievehikel’, maar tegelijkertijd ervaren ze nog volop onzekerheden. Een wezenlijke horde voor gemeenten is hoe bij een AI-toepassing discriminatie en bias te voorkomen en privacy en persoonsgegevens te beschermen. Privacywet AVG werkt als een hitteschild dat medewerkers kopschuw maakt om met AI te beginnen. Het ministerie adviseert voorlopig ver weg te blijven van AI-toepassingen waar persoonlijke data mee gemoeid zijn.
Nog veel werk
Uit de Regiotours rijst vooral het beeld dat gemeenten nog veel werk moeten verzetten om aan de Europese eisen te voldoen. Een enkele gemeente geeft aan zelfs nog te moeten beginnen. Vorig jaar concludeerde onderzoek van NHL Stenden Hogeschool dat slechts een kwart zich op de AI-verordening heeft voorbereid. Vaak is onduidelijk wat er kan en mag op AI-gebied en wie waarover gaat. Binnen de gemeentelijke organisatie zijn duidelijke regels over de inzet van AI nodig en AI-compliance officers die dit proces begeleiden, aldus het onderzoek.
Vooruitlopend op de implementatie van de AI-verordening zijn in verschillende gemeenten de ethische risico’s van AI al in beeld gekomen, zoals in Groningen en Rotterdam. Hierbij zijn de betreffende colleges op de vingers getikt.
Hoogrisico-systemen
Als volgende stap in de implementatie van de AI-verordening moeten gemeenten een vinger krijgen achter hun hoogrisico-systemen. Dat zijn AI-toepassingen en algoritmen die impact hebben op inwoners, zoals het toekennen van een uitkering. De deadline hiervoor loopt medio volgend jaar af. Dat lijkt nog ver weg, maar er ligt een zware taak. Gemeenten moeten deze categorie AI-systemen documenteren en de veiligheid ervan voor inwoners aantoonbaar borgen. Ernstige incidenten moeten ze bij de Autoriteit Persoonsgegevens melden.
EU-databank
Een verdere eis in de AI-verordening is verplichte opname van AI-systemen in een EU-databank (per 1 augustus 2026). Ons land kent al het Nationaal Algoritmeregister. Begin januari zijn er door 119 gemeenten welgeteld 455 algoritmes aangemeld. Bij slechts 16 toepassingen is sprake van een hoogrisico-systeem. Er zijn vermoedelijk veel meer van dit soort systemen in gebruik. Voor algoritmen die onder de nationale veiligheid en de fraudebestrijding vallen, geldt een uitzondering.
Registreren
‘Het inventariseren, beoordelen en registreren van AI-systemen vraagt tijd en capaciteit’, schrijft staatssecretaris Szabó (digitalisering) begin januari aan de Tweede Kamer. De bewindsman heeft overigens nog een lokkertje achter de hand. Gemeenten die voor het eerst een algoritme registreren, ontvangen van het ministerie een taart om dit succes te vieren.
De Algemene Rekenkamer rapporteerde in oktober dat slechts 5 procent van de AI-systemen van de overheid in het landelijke algoritmeregister zijn terug te vinden.
‘Look-alike-fraude’
Zowel de gemeente ’s-Hertogenbosch als Den Haag heeft in het landelijke algoritmeregister gezichtsherkenningssoftware aangemeld, die documenten kan checken en gezichten kan vergelijken bij het aanvragen van een identiteitsbewijs om ‘look-alike-fraude’ te voorkomen. Deze specifieke toepassing is onder de AI-verordening toegestaan.
Den Haag past daarnaast ook een hoogrisico-algoritme toe dat doelgroepen binnen de groep inwoners in de bijstand kan uitpluizen. Hiermee wil de gemeente hen beter aan een baan of vrijwilligerswerk kunnen helpen.
Amsterdam, zo blijkt uit de registratie in het Algoritmeregister, past een generatieve AI-chatbot toe voor medewerkers. Ook voor GenAI – denk aan het populaire ChatGPT dat tekst en beeld kan genereren – gelden in de AI-act allerlei verplichtingen. Zo moet een systeem duidelijk aangeven dat er sprake is van kunstmatig gegenereerde of gemanipuleerde content.
Pilots
In een aantal gemeenten zijn afgelopen najaar pilots gestart, ondersteund door de VNG. De pilots lopen tot medio 2025. Het standpunt van het kabinet is vooralsnog dat GenAI bij overheden niet is toegestaan, alleen nog in dit soort experimenten.
Uitvoerbaarheidstoets
Het ministerie van BZK coördineert een project om de impact van de AI-verordening in kaart te brengen via een zogeheten Uitvoerbaarheidstoets Decentrale Overheden (UDO). Een onderdeel hiervan zijn quickscans en impactanalyses bij gemeenten en medeoverheden, die in het voorjaar van 2025 worden afgerond, laat een woordvoerder van het ministerie weten. Het volledige UDO-traject zal echter pas in de loop van het jaar worden voltooid. Dan pas is er een goed beeld van de inspanningen die gemeenten voor de AI-verordening nog moeten doen.
AI-handreiking
Daarnaast werkt het ministerie aan een overheidsbrede AI-handreiking. Deze is vertraagd en verschijnt in de loop van dit jaar. Een eerste concept zou door de top van BZK zijn tegengehouden, omdat de nadruk te veel op de privacy-aspecten zou liggen. Juist de kansen die AI de overheid te bieden heeft, moeten goed naar voren komen, en dat kwam in deze versie nog onvoldoende uit de verf.
Digitaliseringsstrategie
Dit voorjaar komt staatssecretaris Szabó ook met zijn Nederlandse digitaliseringsstrategie. Vanuit het veld klonk al de roep aan de nieuwe bewindsman op digitalisering door om regulering en bijsturing en een betere ondersteuning van gemeenten. Ook bij de implementatie van de AI-wetgeving uit Brussel. De VNG waarschuwde de staatssecretaris recent nog dat er met zijn digitaliseringsagenda onvoldoende geld voor gemeenten meekomt.
Geef een reactie