Persoonlijke terugblik

Misschien lag het aan de keuzes die ik zelf heb gemaakt in het programma van het iBestuur Congres van 11 september. Mij viel namelijk op dat het in alle sessies die ik bijwoonde ging over AI, algoritmes en machine learning. Daar ging het natuurlijk al een aantal jaren over bij congressen als deze, gericht op overheid en ICT, maar nu was het nog meer nadrukkelijk aanwezig.

De sprekers waren het er daarbij over eens dat COVID-19 het belang van een initiatiefrijke overheid op die terreinen extra heeft benadrukt. De pandemie had er dan weer niet voor gezorgd dat deze belangrijke boodschappen op het iBestuur Congres ongehoord bleven: ik kreeg alle content zo mijn huiskamer in gestreamd, terwijl de zalen in Papendal leeg konden blijven.

Mijn ochtend begon met eerst Microsoft en toen Google. Beide geven aan te geloven in de kracht van AI voor de overheid en bieden rekenkracht, data en kennis aan. Met alle rechten voor de gebruiker, dus zonder het eigenaarschap van de data te verliezen. Wat mij opviel is dat beide partijen veel moeite namen om het beeld van de ‘inhalige big tech zonder moreel kompas’ weg te nemen bij ons luisteraars.

Zowel Microsoft als Google heeft de eigen principes voor ontwikkeling van AI gedefinieerd, hun ethisch kader. Onderling vergelijkbare principes als transparantie, privacy, beveiliging, verantwoording en inclusiviteit. De sprekers van Google stonden vervolgens lang stil bij de noodzaak die principes ook te borgen in de processen en de mensen, bijvoorbeeld via procedures en opleidingen.

Toch kreeg ik een wat unheimisch gevoel. Moeten we de juiste omgang met data en AI overlaten aan grote commerciële bedrijven uit de VS? Laten we al die partijen hun eigen principes definiëren om er vervolgens op te moeten vertrouwen dat dit ook daadwerkelijk is ingebed in de processen en besluitvorming daar? Zeker gezien de culturele verschillen met het land van het hoofdkantoor. Zou de overheid niet een veel belangrijkere rol moeten nemen? De overheid in deze als de bewaker van (de wens van) de samenleving?

AI kan een belangrijke bijdrage leveren aan meerdere vraagstukken, maar alleen wanneer sprake is van maatschappelijke acceptatie. Ik heb daar al eens eerder over geschreven in een blog op iBestuur.nl. De maatschappelijke acceptatie is broos. Voldoende voorbeelden van algoritmes vol met vooroordelen bijvoorbeeld. Tijdens de sessies kwamen die ook veel aan bod.

Een groot deel van de succesfactoren die ICTU in haar sessie noemde met betrekking tot data­gericht werken gingen dan ook over het betrekken van diverse doelgroepen en het herkennen van de veranderkundige opgave. Een herhaling van de boodschap van Arjan El Fassed van Google in de ochtend. Die gaf aan dat communicatie over AI momenteel de belangrijkste eerste stap is. Ook in het verhaal van ICTU weer veel aandacht voor het ethisch kader. Hier blijft het bij tips en een factsheet. In de factsheet aandacht voor de wetgeving die van toepassing is bij de inzet van AI. Echter, de techniek wacht niet op de overheid. Het trekt zich weinig aan van huidige wet- en regelgeving. 

Niet alleen de maatschappelijke acceptatie en de ethiek geven aanleiding voor een regierol bij de overheid. Al die AI heeft over zes jaar het equivalent van het huidig wereldwijd totaal aan opgewekte energie nodig om haar berekeningen te kunnen doen. Professor Backx leerde mij dat later op de dag in zijn college over de rol van techniek als bouwsteen voor een duurzame wereld. Erg fijn dat grote techbedrijven rekenkracht aanbieden, maar de overheid zal een rol moeten spelen in het stimuleren van oplossingen die minder energie nodig hebben en minder uitstoot opleveren. Die oplossingen komen voor een belangrijk deel dan weer vanuit wetenschappelijk onderzoek. In sneltreinvaart kwam er een aantal voorbij. Ik hoorde over the internet of energie, fotonica, parallellisme en quantum computing. 

Wat mij betreft neemt de overheid nu verdergaand proactief actie op het onderwerp AI. Niet door het alleen te doen, maar in samenwerking met markt en wetenschap. Digicampus geeft daarin al het goede voorbeeld. Marijn Jansen en Sanne Giesen laten zien dat het zelfs loont om nog verder te kijken, namelijk naar diverse internationale onderzoeken en voorbeelden. Zij brengen die in kaart en bestuderen de mogelijkheden voor Nederland.

Als uitsmijter van de dag deed Ron Roozendaal nog een extra duit in het zakje. Niet alleen samenwerken, maar vooral ook het transparante proces bij de ontwikkeling van de corona-app, was een belangrijke succesfactor. In een leuke duopresentatie met Brenno de Winter werd duidelijk dat de overheid nog meters te maken heeft in het terugwinnen van vertrouwen bij de uitvoering, bij de mensen. Risicomijdend gedrag helpt innovatie in ieder geval zeker niet. Durf kritiek te ontvangen en mensen te betrekken. Wijze woorden die de overheid goed kan gebruiken in het nemen van initiatief bij de ontwikkeling van AI als grote kans voor tal van zaken die de samenleving bezighoudt.

Ik zou daarom zeggen: regel een open samenwerkingsproces voor de ontwikkeling in. Datzelfde proces is net zo hard nodig voor de ontwikkeling van ethische kaders daaromtrent, zodat alle betrokken partijen eenduidige sturing kennen richting maatschappelijk geaccepteerde oplossingen.