Open over algoritmes: ‘Wacht niet tot het straks verplicht is’

De overheid gebruikt steeds vaker algoritmes, bijvoorbeeld om haar dienstverlening te verbeteren. In het algoritmeregister kunnen instanties algoritmes met impact op burgers publiceren, en transparant zijn over hoe zij die inzetten. Registratie in het register wordt naar verwachting in 2025 verplicht.

Verschillende overheden wachten dat niet af, maar zijn al begonnen met de publicatie van algoritmes. Zoals de gemeente Súdwest-Fryslân. Ben Krekelaar, adviseur Informatiemanagement en Automatisering (I&A) bij de gemeente: “Het gebruik van het algoritmeregister is nog niet verplicht, maar je moet als gemeente nu ook al transparant zijn over hoe je werkt. Onder meer de Algemene wet bestuursrecht en de AVG vereisen dat. Dus toen ik hoorde over het algoritmeregister, wilde ik daar gelijk mee aan de slag.”

Krekel sprak hierover met ICTU, die in opdracht van het ministerie van BZK het algoritmeregister implementeert. In een aansluitsessie leerde de gemeente hoe het register werkt en hoe zij daar algoritmes kunnen plaatsen. “Aan het eind van de middag hadden we onze eerste twee algoritmes gepubliceerd.”

Overzicht van algoritmes

Súdwest-Fryslân registreerde als eerste twee algoritmes die de gemeente gebruikt in de software van Centric. Dat kon omdat Centric al een inventarisatiedocument heeft gemaakt, waarin het alle impactvolle algoritmes omschrijft die het in haar applicaties gebruikt. Het is de eerste leverancier in het overheidsdomein die dat op deze manier doet.

Mark Uiterwijk Winkel, Chief Portfolio Officer bij Centric Public Sector Solutions: “Toen we hoorden dat er een algoritmeregister zou komen, zijn we gaan inventariseren welke algoritmes we gebruiken in onze applicaties. Die hebben we zodanig omschreven dat gemeenten deze vrij eenvoudig kunnen opnemen in het algoritmeregister.”

Ethische kaders

Het is belangrijk dat je als gemeente scherp bent op de algoritmes die je gebruikt, vertelt Krekelaar. Hoe pak je dat in de praktijk aan? “Ik vraag eerst aan onze leveranciers welke algoritmes zij in hun software gebruiken. Dat levert leuke gesprekken op. Ik merk dat iedereen het belang wel inziet om hier transparant over te zijn.” Daarnaast is het belangrijk dat je zelf begrijpt wat er in een applicatie gebeurt, zegt hij. “Hierover hebben wij gesprekken met de functioneel beheerders in onze organisatie. Zij richten de software in en bepalen daarmee in sommige gevallen ook welke algoritmes er worden gebruikt. Daarnaast voeren we gesprekken met de Functionaris Gegevensbescherming en de Privacy Officer. Die gesprekken zijn heel belangrijk voor de bewustwording in onze organisatie.”

Idealiter doe je dit vóórdat je software implementeert, zegt hij. Er is hiervoor een conceptversie van het ‘toetsingskader implementatie algoritmen’ beschikbaar. Deze is in lijn met de ethische richtsnoeren van de AI-expertgroep van de Europese Commissie. Met dit implementatiekader en met het toetsen van de impact van het gebruik van algoritmes op mensenrechten via een IAMA (Impact Assessment Mensenrechten en Algoritmes), moet de gemeente nog wel ervaring opdoen, vertelt Krekelaar. “Het is fijn dat wij daar nog even de tijd voor hebben, voordat dit een verplicht onderdeel wordt bij de implementatie van nieuwe software.”

Het gesprek voeren over de inzet van algoritmes helpt bij de bewustwording in je organisatie, zegt ook Uiterwijk Winkel: “Net als de gesprekken die we hebben over het omgaan met persoonsgegevens, privacy en security. Technologisch gezien is er heel veel mogelijk, maar we willen niet alles gebruiken wat kan. De ethische kaders die daaraan zitten, voelen wij net zo sterk als gemeenten.”

IT-inzichten die je niet mag missen

Als eerste op de hoogte zijn van de laatste IT-ontwikkelingen? Schrijf je in voor onze maandelijkse nieuwsbrief.

Algoritmes steeds complexer

Gevraagd hoe een gemeente controleert welke algoritmes het gebruikt en hoe die werken, geeft Krekelaar als voorbeeld de geautomatiseerde berekening van leges voor vergunningen in de leefomgeving. De controle daarvan is relatief eenvoudig, want de gemeente heeft een legesverordening en kan bij elk besluit nagaan of het berekende bedrag juist is. Krekelaar: “Je kunt je afvragen of dit zo’n impact heeft op inwoners dat je het wilt registreren. Maar we krijgen er vragen over en het is eens onderdeel van een WOO-verzoek geweest. Daarom kiezen wij ervoor om het te publiceren.”

Het toepassen van algoritmes, en ook de algoritmes zelf, wordt steeds complexer. Hoe ga je daarmee om? Krekelaar: “Bij het tweede algoritme dat wij registreerden, werd het al iets complexer. Dit gaat over een kennissysteem dat een rol speelt in de besluitvorming bij het verstrekken van bijstand, op grond van de Participatiewet. Het registreert de uitkomsten hiervan en produceert de bijbehorende documenten. Dan is het even uitzoeken hoe dat precies werkt. Dit is nog een vrij eenvoudig voorbeeld van een algoritme. Hoe complexer de verwerking, hoe lastiger het wordt om dat te toetsen en begrijpelijk aan inwoners uit te leggen,” erkent Krekelaar.

Nu al aan de slag

Uiterwijk Winkel: “Ook wij onderzoeken wat er precies in onze software gebeurt, we zijn tenslotte eindverantwoordelijk voor onze producten. Het klopt dat naarmate het complexer wordt, het lastiger wordt om te doorgronden. Dat wordt zeker een uitdaging. Daarom is het des te belangrijker om hier nu al mee te beginnen. Zo doen we ervaring op met het doorgronden van deze technologie en worden we er steeds bedrevener in.” Het is een oproep die beiden doen: wacht niet tot het algoritmeregister straks verplicht wordt, maar ga er nu mee aan de slag. Ook al wordt het register nog verder ontwikkeld en moet je straks wellicht in de nieuwste versie wat zaken aanpassen.

Gemeenten hoeven niet zelf het wiel uit te vinden, want er is al veel ondersteuning beschikbaar. Krekelaar wijst op de begeleiding vanuit ICTU en het implementatiekader. En met het inventarisatiedocument van Centric kunnen gemeenten die deze Centric-software gebruiken op een laagdrempelige manier het algoritmeregister alvast invullen. Krekelaar: “Ik heb het registratieformulier algoritmes samen met de Handreiking Algoritmeregister van BZK naar al onze leveranciers in het sociaal domein gestuurd, met de vraag of ze ons willen helpen bij het registreren.”

Goed voor vertrouwen in de overheid

Zijn tip aan gemeenten: neem contact op met je leveranciers, vraag een aansluitsessie aan bij ICTU en organiseer intern het gesprek over algoritmes. Uiterwijk Winkel: “Dit is het moment om hiermee aan de slag te gaan, samen met je organisatie en je leveranciers. We hebben echt wel wat uit te leggen aan inwoners. Als we hier onze energie in steken, dan kan het vertrouwen van mensen in de overheid alleen maar beter worden.”

Krekelaar besluit: “Uiteindelijk gaat het erom dat je inwoners goede dienstverlening levert en transparant bent over hoe je dat doet. Innovatieve technieken kunnen hier uitstekend bij helpen, als je ze maar goed begrijpt en verantwoord toepast. Dat is iets wat we alleen in goede samenwerking met leveranciers en collega’s kunnen doen.”