Bij de vers beëdigde staatssecretaris Digitalisering Szabó ligt de zware taak de dilemma’s rond kunstmatige intelligentie (AI) aan te pakken. Vanuit het veld klinkt de roep om regulering en bijsturing en een betere ondersteuning van gemeenten. Ook bij de implementatie van de wetgeving uit Brussel.
Staatssecretaris Szabó is geen onbekende in Den Haag. Ook is de van origine politicoloog onderlegd in digitalisering. Van 2003 tot 2006 was hij Tweede-Kamerlid voor de VVD en woordvoerder ICT. Kort daarvoor was hij directeur Informatiebeleid Openbare Sector bij het ministerie van Binnenlandse Zaken. Toen Szabó door de PVV gevraagd werd als staatssecretaris, zegde hij zijn VVD-lidmaatschap per direct op. Hiervoor was hij topman van de publieke tak van Capgemini, hofleverancier van de overheids-ICT.
AI
Als staatssecretaris Digitalisering is Szabó onder meer belast met kunstmatige intelligentie (AI) en algoritmen. Op de hoorzitting in de Tweede Kamer eind juni, waarop kandidaat-bewindslieden zich mochten voorstellen, gaf Szabó aan dat deze thema’s zijn hoogste aandacht gaan krijgen. Het is hem er alles aan gelegen dat de toepassing van AI binnen de grenzen van de wet gebeurt. Het gebruik van discriminerende algoritmes wil hij tegengaan. Veel burgers zijn zo in de knel gekomen, neem de Toeslagenaffaire. ‘Dit mag niet meer gebeuren. Dan neemt ook het vertrouwen in de overheid toe.’
In de haarvaten
Szabó stelt dat het onvermijdelijk is dat de overheid met AI aan de slag gaat, niet alleen in de dienstverlening, maar ook in de uitvoering. ‘De komende jaren gaat kunstmatige intelligentie tot in de haarvaten van de digitale overheid zitten.’ Daar is wel wat voor nodig. Volgens Szabó is het AI-beleid te veel versnipperd over de departementen en daar wil hij centralisatie in aanbrengen. Stoere taal, maar net als zijn voorgangster heeft Szabó uitsluitend coördinerende taken en de andere ministeries niet aan een touwtje.
Regulering en bijsturing
De VNG zou graag zien dat de nieuwe staatssecretaris nadrukkelijk op regulering en bijsturing van AI inzet. ‘Dat is belangrijk om zulke krachtige technologie in goede banen te geleiden’, laat een woordvoerder weten. Onlangs is de Europese AI-verordening van kracht geworden, die strakke eisen stelt aan welke vormen van AI zijn toegestaan in de EU. Om burgers te beschermen is de AI-definitie echter niet breed genoeg, stelde de VNG eerder.
Uitvoerbaarheidstoets
Het ministerie van BZK kondigde eerder aan samen met de medeoverheden de impact van de AI-verordening via een Uitvoerbaarheidstoets Decentrale Overheden in kaart te gaan brengen. De VNG pleit bij de staatssecretaris voor een gecoördineerde aanpak op het hele AI-dossier. ‘Dat is vereist wil je als land op deze ontwikkeling succesvol vooruit lopen. Als gezamenlijke overheden sta je sterker om dit te bewerkstelligen. Daarom moet je samen optrekken, ook met andere stakeholders, zoals bedrijven en maatschappelijke organisaties erbij,’ vult de woordvoerder aan. ‘Samenwerking is niet alleen noodzakelijk voor het ontwikkelen van een coherent en effectief beleid, maar ook voor het voeren van een brede maatschappelijke dialoog over AI.’
Kennisgebrek
Volgens onderzoek van NHL Stenden Hogeschool heeft nog maar een kwart van de gemeenten zich voorbereid op de AI-act. Kennisgebrek is de grote uitdaging voor de omgang met AI, verduidelijkt Willem Bantema, lector Bestuur en Veiligheid in een Digitaliserende Samenleving. ‘Vaak is onduidelijk wat kan en mag en wie waar over gaat. Dat zie je bijvoorbeeld terug in hoe gemeenten omgaan met online monitoring en online onderzoek bij fraudedetectie of ondermijning. Binnen organisaties moeten duidelijke regels zijn over de inzet van AI en er moeten AI-compliance officers komen die dit proces begeleiden. Door de hoge kosten van ontwikkeling en implementatie van AI-mogelijkheden kunnen grote verschillen tussen gemeenten ontstaan. Daar moet je voor waken.’
Landelijk
Bantema raadt de nieuwe staatssecretaris aan een landelijk onderzoek te starten om de tal van nieuwe wetten en regels vanuit Europa te vertalen naar landelijke en gemeentelijke uitvoeringseisen. Naast de AI-act noemt hij de Digital Service Act, de Cyber Resilience Act en cyberveiligheidsrichtlijn NIS2.
Als tweede zou Szabó zich volgens Bantema moeten inzetten voor een landelijke werkgroep, om gemeenten met richtlijnen en best-practices te ondersteunen bij een juridisch correcte en consistente implementatie van AI-wetgeving. Te denken valt ook aan het faciliteren door het Rijk van een gedeeld AI-platform voor gemeenten voor het beheer van openbare voorzieningen. ‘Zo kun je kosten besparen en het kan ook efficiencyvoordelen opleveren.’
Gevaarlijk
Rond AI moeten dringend knopen worden doorgehakt, betoogt voorzitter Corien Prins van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR), die eerder een spraakmakend rapport over AI uitbracht. ‘Bij AI liggen kansen in termen van economie en welvaart, die we als Nederland niet aan ons voorbij moeten laten gaan. Aan de andere kant is AI in deze complexe geopolitieke wereld een gevaarlijk wapen, denk aan deep fakes en manipulatie met behulp van AI, wat onze veiligheid en privacy bedreigt. Er is veel regulering nodig en de wetgeving die er is, is inderdaad versnipperd over de beleidsvelden, en daarmee ook het toezicht dat flinke aanscherping behoeft. Er is enorm veel werk aan de winkel, maar wat heeft voorrang en waarom? Het is aan de overheid hierin keuzes te maken.’
Verliezers
Zaak is dat de overige bewindslieden het besef doorvoelen dat AI niet iets is van ‘ieder voor zich’, zegt Prins over het beperkte mandaat van Szabó. ‘Als de andere kabinetsleden onvoldoende bereid zijn om de coördinerende opdracht van Szabó te zien en te erkennen als een taak om af te stemmen in plaats van elkaar slechts te informeren, kent dat alleen maar verliezers. Met uitzondering van Big Tech (de grootste technologiebedrijven ter wereld zoals Apple en Microsoft -red). Bij Szabó ligt de cruciale maar ook uitdagende opdracht om tegenover zijn collega-bewindspersonen en hun ministeries doordachte kaders te bieden om op hun beleidsterrein concrete keuzes te kunnen maken.’
Afhankelijkheid van Big tech
Ook gemeenten raadt Prins aan bij hun AI-toepassingen niet opnieuw in de fuik van Big Tech te stappen, en te kiezen voor open source applicaties. ‘Dat is verre van eenvoudig, maar het is nu of nooit.’ Voor cloudgebaseerde AI-dienstverlening, geeft ze aan, zijn immers al alternatieven beschikbaar, zoals Nextcloud. Rijk en gemeenten zouden deze weg gezamenlijk moeten bewandelen, stelt Prins. Szabó zou zich ervoor in moeten spannen de drempels hiervoor te slechten. ‘Dan zou hij echt een vuist maken in het belang van publieke waarden.’
Ook Bantema waarschuwt voor de grote afhankelijkheid in ons land van de buitenlandse tech-grootmachten voor onze digitale infrastructuur met uiteenlopende risico’s op het vlak van veiligheid en privacy. ‘Zonder landelijke sturing en investeringen is het ondenkbaar dat gemeenten hier snel veranderingen kunnen doorvoeren.’
Geef een reactie