De komst van ChatGPT schudde de samenleving vorig jaar ineens op. Plotseling was generatieve AI op alle fronten aanwezig. Van scholieren die hun werkstuk ermee maakten, in de algoritmes van grote techbedrijven, tot bij de overheid met al z’n eventuele maatschappelijke risico’s. In dit tempo is de technologie al weer lichtjaren verder dan allerlei regelgeving zoals de AI-Act. Hoe kunnen overheid en de sector het gebruik in goede banen leiden? Hoe blijf je in control? Hoe breng je alle ervaringen bij elkaar en welke richtlijnen komen daaruit voort? Welke rol kan de markt hierin spelen?

Gespreksleider Eppo van Nispen Sevenaer, kwartiermaker Cultuur en Media van de NLAIC ( Nederlandse AI Coalitie), leidt het gesprek in de Fokker Terminal in Den Haag. Op zijn vraag wie wel eens ChatGPT heeft gebruikt steekt de overgrote meerderheid van de zaal zijn hand op. Hij deponeert de stelling dat de overheid, net als bij veel technologische ontwikkelingen, ook nu nog niet is toegerust voor generatieve AI.

“We moeten niet doen alsof het iets nieuws is dat net is bedacht”, reageert Michel van Leeuwen, directeur Artificiële Intelligentie bij het ministerie van Justitie en Veiligheid (JenV). “AI is natuurlijk breder dan ChatGPT. De hype is enorm, maar het helpt me wel AI uit te leggen. Iedereen wil meespelen, aan de overheid de verantwoordelijk om dat op een goede manier te doen.”

Van onderop

Bij de gemeente Zoetermeer werkt vooral het jongere deel van de organisatie met AI, vertelt gemeentesecretaris André Huykman. “We hebben een paar mooie voorbeelden van pilots. We lopen wel tegen hardnekkige softwareleveranciers en oude contracten aan en zijn voorzichtig voor lock-ins met leveranciers. Maar het is heel gaaf om te zien dat het van onderop komt. Mensen hebben het soms geleerd van hun zoon of dochter, en gebruiken het vervolgens in hun werk.”

Meegaan met de ontwikkelingen is dan ook geen moeilijke keuze, volgens Huykman. “Over tien jaar heb ik 10 procent minder mensen, zo is de arbeidsmarkt. Ik heb tools nodig.” Daar is Thomas Dohmen, directeur van de Artificial Intelligence Labs van de Universiteit Utrecht, het mee eens. “De ICT-vacatures nemen toe, maar het aantal mensen neemt af. Dus als je over tien jaar daar rekening mee wilt houden, moet je nu al investeren als organisatie.”

Vlnr. gespreksleider Eppo van Nispen tot Sevenaer, Laila Fettah, Michel van Leeuwen, Erwin Angelier, Thomas Dohmen, André Huykman, Paul Heijmans.

Samenwerking met de markt

ChatGPT is inderdaad een hype, maar we moeten er wel wat mee, stelt ook Laila Fettah, architect bij IBM. “Ook al is de samenwerking tussen private en publieke partijen verbeterd, toch is iedereen nog te veel in de eigen silo aan het knutselen. Organisaties moeten keuzes en techniek inkaderen. Dat vraagt om samenwerking.”

Erwin Angelier van Google Cloud vindt dat we AI te veel neerzetten als experiment. “Er zijn al allerlei jonge organisaties bezig met generatieve AI in productontwikkeling en klant-engagement. Dat is heel anders dan hoe er vanuit de overheid mee om wordt gegaan. We moeten dan ook voorzichtig zijn welke use cases we aanpakken. Als we de verkeerde belichten is dat niet goed. Uiteindelijk willen we klant- en burgerparticipatie ermee verbeteren.”

“Door inzet van generatieve AI kunnen teams hun output verdubbelen”, voegt Paul Heijmans van Ordina toe. “Er is nog te veel discussie over wat wel en niet mag. We moeten terug naar de basisvragen, en hoe kan generatieve AI ons daarbij helpen? Er komen steeds meer vragen. Wat betekent dit voor onze organisatie. Wij moeten uitleggen wat er mogelijk is, mensen reageren nu reactief op deze ontwikkeling. Mijn advies: werk meer met de markt samen.”

Ouderwets automatiseren

Al in januari 2020 ontstond bij de top van het ministerie van JenV het besef over de gevaren van algoritmes, vertelt Van Leeuwen. “We moeten voorwaarts, maar niet roekeloos experimenteren. We moeten voorbereid zijn op wat er de komende decennia aankomt. En meer ‘ouderwets’ automatiseren: de juiste tool zoeken voor een vraagstuk.”

Eerst moet daarvoor de basis op orde zijn, vult Fettah aan: “Anders krijg je garbage in garbage out. Daarom pleiten wij er bij dit soort modellen voor om niet van alles erin te stoppen, maar eerst te kijken naar wat er al in zit. Als overheid moet je de eigen context toevoegen. We doen te veel experimentjes op sexy onderdelen, maar kijken niet naar de hele keten. Wat voor data erin komen, wat eruit komt. Het moet nuttig zijn.”

Heijmans is het daarmee eens. “De context moet goed zijn, alleen dan kun je generatieve AI inzetten voor ouderwets automatiseren.” Daarom moet je als overheid dan ook kritisch kijken met welke partijen je in zee gaat, vult Angelier aan. “Als je zaken doet met een partij die niet vraagt of je het wel aankunt, of je de basis wel op orde hebt, dan moet je jezelf achter de oren krabben. Transparantie op het proces en op de keuzes die je maakt is super belangrijk.”

Erwin Angelier: AI niet te veel neerzetten als experiment.

Huykman schetst hoe kwetsbaar data kunnen zijn. “Wij zijn verantwoordelijk voor de data. Maar ik ken gemeenteambtenaren –waaronder ikzelf – die de data van hun familieleden niet toevertrouwen aan het systeem; dan doen we ons werk niet goed. Het gaat heel erg om privacy. Je wilt weten en snappen welke data gebruikt worden, waarvoor en door wie en dat ze vernietigd worden. De onderliggende datastructuur en borging, dataveiligheid, moeten zo stevig zijn dat onze zorgvuldigheid groot is. Dan kunnen we het met comfort gebruiken en is het ook niet eng bij nieuwe toepassingen. Het gaat over het besef van wie de data in een organisatie zijn. De archiefrol van de gemeente is een wettelijke taak, maar we moeten weten dat het niet mijn data zijn, maar die van inwoners. En dan gaat het ook vaak om de meest kwetsbare data. Ik ben blij dat we dat de jongere generaties minder hoeven uitleggen.”

Mooie aanleiding voor het gesprek

De directeur Artificiële Intelligentie van JenV kijkt na afloop van de sessie terug op een mooi debat. “Deze hype is een mooie aanleiding om het gesprek aan te gaan over de mogelijkheden van generatieve AI, zodat we vervolgens de juiste tool vinden voor de juiste problemen. Daarvoor is deze ontwikkeling heel erg waardevol.”

We moeten AI bekijken met een bredere blik, herhaalt hij nog eens. “We moeten continu blijven investeren in ons digitale fundament: om onze data op orde te hebben, onze systemen veilig te houden en bij de tijd te houden.”

De belangrijkste boodschap uit het debat is volgens Van Leeuwen dat we het midden moeten zoeken tussen doen alsof AI alle problemen oplost tegenover achterover leunen uit angst. “Het is belangrijk dat we aan de slag gaan en ervan gaan leren. We moeten beseffen dat dit niet de golden bullet is. Wat steeds centraal moet blijven staan is de mens, de opgave, en niet de tooling dus.”

Van Leeuwen zelf is vanuit zijn functie vooral gericht op veiligheid en rechtvaardigheid rond generatieve AI. “Ook in onze digitale samenleving willen we zorgvuldig blijven werken, zodat er geen onrechtvaardigheid insluipt. Dat is niet alleen de verantwoordelijk van ons als overheid, maar van iedereen die werkt aan deze ontwikkelingen. Had je bij een ouderwets boekhoudprogramma nog het overzicht, met dit datagedreven werken sluipen er makkelijk selectie- of metadata fouten in die bijvoorbeeld ongewild tot discriminatie kunnen leiden. Daarom is het extra belangrijk dat we werken aan de ethische verantwoordelijkheid van AI.”