Een efficiënte bedrijfsvoering en een betere dienstverlening zijn de beloften van AI. Maar vaak gaat dat ten koste van een verantwoorde inzet van het slimme algoritme-vernuft, leren recente ervaringen in Groningen en Rotterdam. In dit eerste deel het verhaal van Groningen.
In Groningen oordeelde de ethische commissie Data & Technologie dat de beoogde inzet van generatieve AI door de gemeente botst met het opgestelde ethisch waardenkader. De onafhankelijke commissie adviseert over het gebruik van AI en algoritmen door de gemeente en is vorig jaar ingesteld door de gemeenteraad. Met name omdat het college vergaande plannen met generatieve AI (genAI) koestert.
ChatGTP
In een ‘summerschool’ in de zomer van 2023 mochten al zo’n 40 medewerkers experimenteren met het veelbezongen ChatGPT dat tekst, beeld en computercode kan genereren. Groningen opende hiervoor een betaald account bij OpenAI, het bedrijf achter ChatGPT.
Copilot
Concreet legde de ethische commissie de plannen van het college onder de loep om een proefproject met Microsoft’s Copilot 365 te starten. Doel is na te gaan of de genAI-tool aan een betere bedrijfsvoering bij kan dragen. Bijvoorbeeld door routinematig werk te automatiseren of de databases van de gemeente toegankelijker te maken. Groningen wil de digitale assistent integreren in de Office 365-applicaties die ze van Microsoft afneemt. Vanwege dit contract is ChatGPT inmiddels afgevallen.
Visie op genAI
Op de achtergrond werkt de gemeente sinds begin dit jaar aan een visie op genAI. Voor het advies sprak de ethische commissie ook de medewerkers die met een conceptversie van de visie bezig zijn. Deze bevindingen zijn eveneens in het adviesrapport meegenomen. Het college vroeg overigens zelf om het advies.
Potentie
De commissie oordeelt dat de gemeente de basis, zoals het databeheer, onvoldoende op orde heeft om de potentie van genAI volledig te kunnen benutten. Anders gezegd: het college loopt te hard van stapel met het niet-denkbeeldige risico dat de gang naar Copilot straks niet te stoppen is en de gemeente alle grip erop verliest.
De afhankelijkheid van commerciële techbedrijven als Microsoft is groot. Voor cloud-oplossingen als Office 365 geldt dat helemaal. Als extraatje zetten Microsoft en Google hun genAI-tools in om klanten nog afhankelijker te maken van hun diensten. Als Copilot niet bevalt, redeneert de commissie, zal het lastig zijn er vanaf te komen. Het college heeft daar onvoldoende over nagedacht.
Copilot Chat
In haar genAI-ambities heeft de gemeente ook Copilot Chat in het vizier. Deze gratis AI-tool is met zoekmachine Bing geïntegreerd. De veiligheid van deze genAI-tool staat nog ter discussie. Volgens de ethiekcommissie heeft de gemeente te weinig zicht op hoe het gebruik van Copilot Chat de interactie met inwoners kan beïnvloeden, als dit AI-vernuft straks de communicatie tussen inwoners en gemeente gaat vertalen. En in hoeverre is de privacy van inwoners gewaarborgd?
In tegenstelling tot Copilot 365 zijn er over Copilot Chat nog geen privacy-afspraken gemaakt tussen Microsoft en het Rijk, dat hier verantwoordelijk voor is. Wat zou betekenen dat het techbedrijf zelf bepalen mag wat het met de in Copilot Chat ingevoerde informatie doet. Het Rijk is een zogeheten DPIA (Data Protection Impact Assessment) en IAMA (Impact Assessment voor Mensenrechten bij de inzet van Algoritmes) van de AI-chatbot gestart en wil op basis hiervan verder met Microsoft onderhandelen.Tot die tijd luidt het advies het AI-vernuft niet te gebruiken.
Exit-strategie
In een reactie op het advies wil het college benadrukken dat de gemeente op AI-vlak nog in de verkennende fase zit. Wel zegt het toe met een duidelijk standpunt te zullen komen in de nog uit te brengen visie op genAI. Ook gaat het college een exit-strategie opstellen, mocht het onverhoopt met de inzet van Copilot willen stoppen.
In deel 2 de gemeente Rotterdam, die opnieuw door de eigen rekenkamer op de vingers getikt is over algoritme-gebruik. Gemeenten worstelen met ethische risico’s AI – deel 2.
Geef een reactie