Staatssecretaris Szabó van digitalisering is voor gemeenten met een algoritmekader gekomen om steun te bieden in het woud van regels en vereisten rond AI. Het doorgronden van de applicatie blijkt evenwel een oefening op zich.
Het Algoritmekader bevat tal van praktische hulpmiddelen en instrumenten om de vele vragen vanuit gemeenten rond AI op te vangen. Het doel is dat ze kunnen nagaan hoe aan de uitdijende berg wetten, regels en normen te voldoen, en welke verplichtingen gelden voor de specifieke algoritmes waar ze mee werken. Ook de vraag of lokale overheden zelf algoritmes moeten ontwikkelen of inkopen komt aan bod. De aanschaf van AI alleen al is een complex proces.
Strenge eisen algoritmes
Een van de instrumenten is een beslishulp om aan de vereisten van de Europese AI-verordening te voldoen. Veel gemeenten worstelen met de strenge eisen die Europa aan algoritmes en AI stelt. De eerste deadline van 1 februari is al verstreken. Sinds die datum moeten gemeenten AI-systemen met voor inwoners onaanvaardbare risico’s in de ban doen.
Een tweede eis sinds 1 februari is dat gemeentemedewerkers ‘AI-geletterd’ zijn. Zo moeten ze snappen dat AI-systemen vooroordelen kunnen bevatten en dat de uitkomsten niet bedoeld zijn om blindelings op te volgen. Ook op dit aspect gaat het Algoritmekader in. Verder biedt het kader ondersteuning voor een verantwoorde inzet van algoritmes, zoals het opstellen van een AI Impact Assessment (AIIA).
GitHub
Het in 2023 opgestelde eerste Algoritmekader was een statisch document. Het recente verschenen kader is aangepast naar een dynamische applicatie. Medio februari verzorgde het Algoritme-team van BZK, dat de applicatie onderhoudt, een demo over de laatste release. Versie 2.1 van het Algoritmekader is terug te vinden op GitHub. ‘Een supercoole versie met mooie gadgets,’ zegt een van de teamleden trots bij de start van het webinar.
Voor het GitHub-platform is gekozen om het werkveld mee te laten schrijven aan tekstvoorstellen voor het kader. De inhoud van het Algoritmekader behoeft namelijk continue aanpassing, vanwege het hoge tempo van ontwikkelingen op het vlak van algoritmes en AI. De open aanpak moet de transparantie van de overheid vergroten.
Voor gevorderden
De vraag is evenwel of het GitHub-platform voldoende gebruiksvriendelijk en praktisch toepasbaar is voor de gemeenteambtenaar. GitHub is bedoeld voor de ontwikkeling van open source software. Broncodes van overheidsapplicaties zijn er beschikbaar. Iedereen kan zich op het platform aanmelden om mee te programmeren, maar dat vergt flink wat oefening. GitHub is zodoende vooral een plek voor gevorderden op ICT-gebied, zoals softwareontwikkelaars.
De kritiek vanuit gemeenten luidt dat GitHub géén gelukkige keuze voor het Algoritmekader is. Tijdens het webinar erkennen de medewerkers van het Algoritme-team van BZK die kritiek. De vraag of de werkwijze via GitHub wordt vervolgd, stelt een van hen, is zeker aan de orde. Het ministerie wil dat in een gebruikersonderzoek meenemen. Er volgt ook nog een ‘winstwaarschuwing’: het Algoritmekader is beslist nog niet af.
Verantwoordelijkheid
Dat is jammer voor gemeenten, want ze moeten nog veel werk verzetten om aan alle eisen te voldoen. Sommige gemeenten moeten zelfs nog beginnen, aldus onderzoek van NHL Stenden Hogeschool. Een belangrijke taak is het inrichten van een structuur voor algoritme-governance.
Een van de deelnemers aan het webinar vraagt wáár binnen de organisatie de verantwoordelijkheid voor algoritmes moet worden belegd. In haar eigen organisatie is een werkgroep gevormd, maar het risico van zo’n groep is dat niemand ‘ervan is’, geeft de vraagsteller aan.
De vraag naar verantwoordelijkheden komt regelmatig aan de orde, zoals vorig jaar in een onderzoek van de lokale rekenkamer van Rotterdam. Beslissingen over algoritmen en AI zouden niet op het bordje van ambtenaren moeten liggen, wat nu het geval is, omdat politiek-bestuurlijke afwegingen hierbij een rol horen te spelen.
Het college van Rotterdam heeft daar inmiddels gehoor aan gegeven. Zo ligt er nu een startnotitie met uitgangspunten en randvoorwaarden voor een eigen, gemeentelijk algoritmekader. Een medewerker van het Algoritme-team van BZK bevestigt dat bestuurlijke verantwoordelijkheid belangrijk is. Zij adviseert dan ook bestuurders bewust te maken van hun verantwoordelijkheden rond AI.
Einde Algoritmekader
De nieuwste release van het Algoritmekader is overigens meteen de laatste. Vanwege de kosten komt er geen nieuwe versie, laat het Algoritme-team weten. Dus het dynamische karakter van de applicatie is er voorlopig even af.
Het ministerie van BZK kwam deze week wel met een leidraad voor de inkoop en ontwikkeling van algoritmes, opgesteld door expertisecentrum PIANoo voor inkopers bij de overheid. Dit document gaat onder meer in op de eisen die de Europese AI-verordening stelt, en voorziet in tips om de inkoopbehoefte in kaart te brengen.
Geef een reactie