Een aantal grote gemeenten heeft zijn hoogrisico-algoritmes inmiddels gepubliceerd in het landelijke algoritmeregister. De overgrote meerderheid volgt nog niet. Maar regelgeving is in aantocht en ook de maatschappelijke druk neemt toe.
Nederland beschikt nu al ruim een jaar over het Nationaal Algoritmeregister. Bij de introductie ervan in december 2022 stonden er 109 algoritmen in. Medio februari 2024 staat de teller op 291. Veel registraties komen van gemeenten. Amsterdam (40), Den Haag (29), Utrecht (38) en Rotterdam (11) bijten het spits af. Daarna volgt een veertigtal gemeenten met 1 tot 5 registraties.
Risicovolle computercodes
De gepubliceerde algoritmes zijn slechts een fractie van de risicovolle computercodes die overheden gebruiken. Volgens onderzoek van de Algemene Rekenkamer zijn er vele tientallen voorspellende, mogelijk discriminerende algoritmes bij de overheid. Ook algoritmes met een hoog risico die bijvoorbeeld worden gebruikt voor fraudeopsporing, zijn niet geregistreerd.
Grip
Koploper Amsterdam kreeg onlangs nog kritiek van de eigen Rekenkamer Metropool Amsterdam (RMA). Die constateerde na onderzoek dat de gemeente onvoldoende grip heeft op de algoritmen die ze gebruikt. Zo is nog maar bij één algoritme goed onderzocht of het eerlijk is. Ook heeft Amsterdam niet goed in kaart welke algoritmen ze allemaal gebruikt, aldus de RMA.
Deelname aan het landelijke algoritmeregister is vrijwillig. Verantwoordelijk staatssecretaris Van Huffelen (BZK) heeft uitsluitend coördinerende taken en andere ministeries en medeoverheden trekken niet aan een touwtje. Versnelde invoering van verplichte deelname aan het register, schreef Van Huffelen medio vorig jaar aan de Tweede Kamer, zit er op korte termijn vanwege het tijdrovende wetgevingstraject niet in.
AI-verordening
De achterblijvende gemeenten moeten in actie komen. De Europese AI-verordening schrijft niet alleen transparantie-eisen aan hoogrisico AI-systemen voor, maar ook de harde verplichting om risicovolle algoritmes te registreren in een openbare databank. De wetgeving wordt binnenkort in het Europees Parlement afgerond.
Er zijn nog meer redenen voor overheden om transparant te zijn over algoritmes. Volgens de over 2023 uitgebrachte Algoritme Vertrouwensmonitor van adviesbureau KPMG neemt het vertrouwen onder de Nederlandse bevolking gestaag af naarmate de bekendheid met algoritmes groeit. Incidenten zoals bij DUO, dat met zijn opsporingssoftware vooral studenten met een migratieachtergrond van fraude met studiefinanciering bleek te beschuldigen, en eerder de discriminerende algoritmes uit de Toeslagenaffaire dragen hieraan bij.
Gemeenten
De VNG riep gemeenten twee jaar terug op hun algoritmes en sensoren in een publiek toegankelijk register vast te leggen. De grote gemeenten maakten daar al werk van met eigen algoritmeregisters, zoals Amsterdam en Utrecht. Ook in het vullen van het landelijke algoritmeregister lopen zij voorop. ‘Dat laat onverlet dat er nog veel gemeenten zijn die niets doen,’ zegt directeur informatiesamenleving Andries Kok van de VNG, ‘maar de eerste stappen zijn gezet. Het is een positieve ontwikkeling dat het landelijke algoritmeregister zich geleidelijk vult. Steeds meer gemeenten maken er gebruik van, maar tegelijkertijd zijn we er nog niet.’
Kok is geen voorstander van een registratieplicht. ‘Voordat je een dergelijke verplichting oplegt, moet je als wetgever duidelijk voor ogen hebben welk doel dit dient. Ook moet helder zijn of gemeenten zo’n verplichting waar kunnen maken en wat het van hen vraagt om dat op een goede manier te doen. Het zal onvermijdelijk deze kant opgaan, vooral waar het om hoogrisico-algoritmen gaat, maar laat het zorgvuldig gebeuren. Een register is een prima middel om transparant te zijn. Zaak is wel dat het register goed vindbaar is en een zo compleet mogelijk beeld geeft.’
Bewustzijn
Het is niet zo dat het belang van registratie van hoogrisico-algoritmes niet bij gemeenten tussen de oren zit, stelt Kok. Eerder dat het eigenaarschap om transparant te zijn breed in de organisatie geborgd moet worden, niet alleen op ambtelijk maar ook op bestuurlijk en politiek niveau. ‘De inzet van technologie is niet alleen een ambtelijke afweging. Een algoritmeregister kan de discussie in de raad flink triggeren. Elk algoritme dat in een register beschikbaar is, heeft een democratische waarde, het is toetsbaar en herleidbaar.’
Handleiding
Kok constateert dat veel gemeenten nog worstelen met de vraag hoe de registratie van algoritmes aan te pakken. ‘Het helpt dat er nu gemeenten zijn die dat kunnen laten zien.’ Groningen won onlangs de award voor het ‘Best Beschreven Algoritme’. Een aansprekend voorbeeld, aldus Kok, waar andere gemeenten zich aan kunnen optrekken.
Er zijn nog meer hulpmiddelen beschikbaar. Het Rijk bracht in december een publicatiestandaard uit. Begin van dit jaar kwam de Informatiebeveiligingsdienst (IBD) van de VNG met de handleiding AI en Algoritmen. De VNG onderzoekt hoe ze gemeenten verder kan ondersteunen.
Algoritme-governance
Er is nog meer mogelijk. Rotterdam introduceerde ‘algoritme-governance’, om het verantwoord gebruik te borgen. Op alle niveaus in de organisatie passeert de vraag hoe de gemeente algoritmes toepast en welk doel ze hiermee nastreeft. ‘Zo kun je als gemeente afbakenen wat je wel en niet acceptabel vindt. Dat doe je juist door daar al aan de voorkant bij de inrichting van systemen mee te beginnen en niet door achteraf de algoritmen die je toepast te publiceren,’zegt Kok.
Sensoren
Niet te vergeten zijn er ook de sensoren die gemeenten in de publieke ruimte toepassen. Het gebruik hiervan neemt snel toe, denk aan camerasystemen in de binnenstad of lantaarnpalen met bewegingssensoren. Daar worden grote hoeveelheden data mee verzameld, die gemeenten moeten beheren en bewaken volgens de privacywetgeving. Ook de sensoren krijgen eigen registers. Zo werkt een groot aantal gemeenten samen met het Kadaster en het ministerie van BZK aan de ontwikkeling van SenseRNet.
‘Gemeenten zien in dat ze ook transparant moeten zijn over het gebruik van sensoren. Inwoners mogen dat ook van hen verwachten,’ zegt Kok. Samen met het ministerie van BZK werkt de VNG aan een standaard voor gemeenten om hun transparantie rondom het gebruik van sensoren te vergroten.
Geef een reactie