Generatieve AI voor gemeenten nog een zoektocht

Generatieve AI biedt gemeenten ontzettend veel kansen om de uitvoering van taken en hun dienstverlening te verbeteren. Maar er zijn ook risico’s. De balans vinden tussen die twee is de grote uitdaging voor gemeenten. ‘We zijn dat nog aan het verkennen.’

Het demissionaire kabinet presenteerde vorige week zijn overheidsbrede visie op generatieve AI, zoals het razend populaire ChatGPT dat tekst, beeld en zelfs computercode kan genereren. Generatieve AI (GenAI) is dé innovatie van de afgelopen twee jaar. ‘Big tech’ – de allergrootste technologiebedrijven ter wereld – geeft er jaarlijks zo’n 150 miljard dollar aan uit.

Ontwikkeling GenAI

Voor de ontwikkeling van GenAI in Nederland stelt het kabinet eveneens veel geld beschikbaar, onder meer in het publiek-private programma AiNED dat 276 miljoen euro uit het Nationaal Groeifonds krijgt. Ook laat het kabinet een eigen ‘digitaal soeverein’ Nederlands AI-taalmodel bouwen: GPT-NL (budget: 13,5 miljoen euro) om big tech met zijn ondoorzichtige AI tegengas te bieden. Het kabinet wil AI-toepassingen ook in de eigen overheidsdienstverlening gaan beproeven.

De overheidsbrede visie rijgt de beide tegenpolen van de ‘sleuteltechnologie’ aaneen. Innovatiekansen van medische diagnoses tot efficiënter produceren versus een scala aan risico’s, van privacyinbreuk en discriminatie tot desinformatie (deepfakes). AI-modellen kunnen bevooroordeeld zijn en ook valse content genereren, terwijl de bron ervan onbekend is.

Wettelijk kader

De innovatiekansen raken aan de publieke waarden. Om dat in goede banen te leiden, wil het kabinet een nationale AI-testfaciliteit optuigen en een ‘Rijks AI-validatieteam’, dat toepassingen van GenAI gaat beoordelen op onder meer discriminatie. AI moet veilig en betrouwbaar zijn, en daar is adequate regulering voor nodig. Een belangrijk wettelijk kader is de Europese AI-verordening, die moet gaan bepalen welke vormen van AI zijn toegestaan. Zo komen er scherpe eisen voor hoogrisico-systemen, waaronder verplichte opname in een register. Voor ontwikkelaars gaat een verplichte toets op mensenrechten gelden.

Gemeenten

De overheidsbrede visie op generatieve AI krijgt de steun van de VNG. De gemeentekoepel vindt het belangrijk dat gemeenten de kans krijgen om het vernuft in te zetten voor hun inwoners. ‘Generatieve AI kan bijdragen aan de oplossingen voor de enorme opgaven waar gemeenten voor staan, zoals het klimaat, wonen en veiligheid,’ licht Nathan Ducastel toe. Hij is directeur van VNG Realisatie dat gemeenten ondersteunt bij de inzet van AI.

‘Gemeenten lopen bovendien tegen personeelstekorten aan en zoeken nieuwe manieren om het werk te gedaan te krijgen. Er is veel mogelijk met AI en het is betaalbaar geworden. We moeten niet alleen maar inzoomen op de risico’s, wel op de vraag of je de inzet van generatieve AI verantwoord vindt en ook aandacht hebben voor de menselijke maat. Dat zijn we nu aan het ontdekken.’

Bijstandsfraude

Gemeenten zetten al volop AI in, bijvoorbeeld om nummerborden te scannen voor parkeercontroles, de WOZ-waarde van woningen te berekenen en bijstandsfraude op te sporen. Een aantal gemeenten maakt gebruik van chatbots, die inwoners 24/7 met vragen over gemeentelijke producten helpen. Voorbeelden zijn de door Tilburg en Utrecht ontwikkelde Virtuele Assistent Gem – inmiddels bij 22 gemeenten in gebruik – en Guus in Goes. De Zeeuwse gemeente wordt ondersteund door OpenAI, het bedrijf achter ChatGPT.

Geen succes

Niet alle gemeentelijke AI is succesvol. Amsterdam bouwde een AI-tool om bijplaatsingen van afval op straat te detecteren, maar dit systeem functioneerde niet naar verwachting en de verdere ontwikkeling werd gestaakt.

Gemeente Nissewaard trok in 2021 de stekker uit een extern systeem om bijstandsfraude op te sporen na een vernietigend rapport van TNO. Inwoners bleken jarenlang onterecht op de risicolijst te hebben gestaan. Volgens het onderzoeksinstituut had de gemeente te weinig kennis van het systeem om de werking goed te kunnen doorgronden.

Verbod

Daar zijn meer voorbeelden van. In 2020 verbood de rechter het gebruik van fraudeopsporingssysteem SyRi (Systeem Risico Indicatie). SyRi bepaalde op basis van data-analyse wie mogelijk fraude bij uitkeringen, toeslagen en belastingen zou plegen. Waarom de keuze specifiek op iemand viel, was niet transparant, omdat het systeem in een gesloten setting is ontwikkeld. Vandaar een verbod.

Deskundigheid

Ducastel noemt het juist positief, dat een gemeente inziet dat een toepassing in de praktijk minder goed bruikbaar is en besluit een AI-tool niet langer in te zetten. ‘Zoiets toont aan dat de checks & balances bij deze gemeenten goed gewerkt hebben. Er wordt steeds meer deskundigheid opgebouwd over AI. Gemeenten experimenteren ermee, onderzoeken wat er kan en hoe ze ermee om moeten gaan. Met AI is er een totaal nieuw gebied van technologische mogelijkheden gekomen, die forse impact hebben op hoe we het openbaar bestuur vormgeven. We zijn dat nog aan het verkennen.’

Verschillen

Ducastel pleit ervoor de verschillen tussen AI-toepassingen niet uit het oog te verliezen. ‘Amsterdam is met AirBNB om de tafel gegaan om te achterhalen of de algoritmes die het platform gebruikt om woningen aan te bieden, niet discriminerend zijn. Dat is een hele andere casuïstiek dan een gemeente die met AI bijstandsfraude op wil sporen. Dat heeft namelijk een wettelijke basis. De Wet SUWI verplicht gemeenten onrechtmatigheden en fraude tegen te gaan. De selectieregels die het algoritme gebruikt, volgen uit de wet. Dit onderscheid moet je wel maken in de discussie over de inzet van AI. Dat gebeurt nog te weinig.’

Tagged With: ai, chatgtp, innovatie Filed Under: Burgerzaken, Cybersecurity, Digitalisering