Data-ethiek: een onmisbaar moreel kompas in het digitale tijdperk

18 april 2024

Van chatbots tot sentimentanalyse; datatoepassingen en specifieke kunstmatige intelligentie (AI) zijn steeds vaker in de gemeentelijke organisatie te vinden. De ontwikkeling van AI gaat snel en is onomkeerbaar. Dit biedt kansen om de dienstverlening van overheidsorganisaties te verbeteren, maar brengt tegelijkertijd risico’s met zich mee, met name op het gebied van ethiek. Hoe garanderen we dat algoritmes eerlijk en transparant zijn? En hoe beschermen we de autonomie van de inwoner? Daar helpt een duidelijk ethisch wegingskader bij.

Kunstmatige intelligentie (AI) brengt nieuwe ethische dilemma’s met zich mee. Kansen voor betere dienstverlening gaan gepaard met risico’s zoals vooroordelen, discriminatie en verlies van autonomie. De recent aangenomen AI-wetgeving en de invoering van het algoritmeregister zijn hulpmiddelen om het gebruik van algoritmen en andere AI transparant te maken en te beheersen, maar verdere concretisering is nodig.

Ethische afweging is noodzakelijk omdat wetgeving en toetsing op privacy niet volstaat. Ze dwingen ons na te denken over de morele waarden achter het gebruik van data. Wat willen we met de data? Is het ‘juist’ om bepaalde data te gebruiken en/of te combineren? En wat zijn de mogelijke gevolgen? Met de reeds vastgestelde ‘Principes voor de Digitale Samenleving’ van de VNG hebben gemeenten afgesproken hoe ze met digitalisering om willen gaan. De VNG-principes geven richting, maar concretisering is nodig.

Native helpt met een visueel stappenplan: in 10 stappen naar een doordacht proces voor ethische afwegingen bij innovatieve digitale projecten. Zo krijgt de organisatie grip op verantwoorde innovatie, met oog voor privacy, inclusiviteit, veiligheid en publieke waarden.

Bereid je goed voor

Een goede voorbereiding is cruciaal. Voordat je data of AI-initiatieven kunt behandelen, is het goed om het proces vast te stellen en de verantwoordelijkheden te beleggen. De borging is noodzakelijk om te zorgen dat het proces rondom data ethiek continu kan verlopen. Betrek daarom ook al bij de eerste stap de organisatie. Laat zien wat er wordt bedoeld met ethiek in jouw organisatie, welke waarde(n) je daaraan toekent en hoe je wil zorgen dat data-initiatieven een ethische keuring ondergaan. Om een goede basis te creëren neem je de volgende stappen:

Creëer bewustzijn!

Zorg dat iedereen in de organisatie die gebruik maakt of beslissingen neemt op basis van data, weet welke gevolgen hun handelen kan hebben op de maatschappij. Het ethisch handelen gaat namelijk niet over of iets mag, maar of het ook juist is in het licht van beoogde maatschappelijke doelstellingen.

Stel een ethisch waardenkader op

Hoewel ethiek lastig grijpbaar is, maak je het tastbaarder door met de organisatie af te spreken wat je belangrijk vindt en welke waarde je daaraan toekent. Door hier transparant over te zijn naar inwoners en ondernemers, laat je zien dat er oog blijft voor het menselijke aspect bij digitale innovatie.

Kies één of meer methoden voor ethische toetsing

Data-initiatieven brengen ethische risico’s met zich mee, zoals privacy-inbreuken, discriminatie en onrechtvaardige besluitvorming. Een of meerdere methoden voor ethische toetsing is cruciaal om deze risico’s te identificeren en te mitigeren.

Neem beheersmaatregelen voor data-initiatieven

Het is belangrijk dat je voor het hele proces dat een AI- of data-initiatief doorloopt, een beheersplan hebt om te zorgen dat de ethische waarden niet in het geding komen. Door hier vooraf afspraken over te maken, kun je een hoofdpijndossier voorkomen.

Stel een ethisch team of ethische commissie in

Een ethische commissie is cruciaal om data-initiatieven binnen een gemeente op een verantwoorde manier te beoordelen. De commissie waakt over privacy, ethiek en transparantie, en adviseert over de ethische aspecten van dataverwerking. Zo draagt een ethisch team of ethische commissie bij aan het vertrouwen van burgers in de overheid en bevordert ze een rechtvaardige digitale samenleving.

En nu doen!

Wanneer duidelijk is welke stappen doorlopen worden om de basis van een ethisch proces neer te zetten, ga je over naar de toepassing ervan. Hierin zijn ook verschillende stappen te onderscheiden:

Voer een risicoanalyse + ethische toetsing uit

Dit helpt om onbedoelde schade te voorkomen, vertrouwen te creëren, transparantie te bevorderen, innovatie te stimuleren en juridische problemen te voorkomen. Door ethiek voorop te stellen, wordt de kans op morele blunders verkleind en draagt dit bij aan een duurzaam en verantwoord gebruik van data en AI.

Rapporteer aan de Raad/MT

Het is belangrijk dat op het hoogste managementniveau, college en de gemeenteraad aandacht is voor ethiek. Zij zijn namelijk de eindverantwoordelijken als er iets misgaat met een initiatief.

Zorg voor transparantie

Wees zo transparant mogelijk over het initiatief. Communiceer over het doel en de werking via een communicatiekanaal van de gemeente zelf, zoals de website of via het algoritmeregister. Je wil namelijk dat inwoners wel op de hoogte zijn van wat er potentieel met hun persoonlijke gegevens wordt gedaan.

Implementeer en monitor initiatief

Misschien wel het belangrijkste voor de duurzaamheid van een data-initiatief én de ethische waarden ervan; de monitoring. Bij de implementatie bouw je controlemechanismes in zodat er geen sprake is van eventuele ethische belemmeringen. Mocht er iets tussendoor gewijzigd moeten worden aan een digitaal initiatief? Maak dan afspraken over hoe dit gebeurt en wie dat mag doen.

Evalueer het traject

Door te leren van ervaringen verbetert het proces van ethische afweging. Het is van belang dat voor elk doorlopen traject een evaluatie komt. Het doel hiervan is om ervoor te zorgen dat de ethische waarden zo goed mogelijk tot zijn recht komen.

Nieuwsgierig?

Native Consulting helpt gemeenten met een concrete methode om ethische aspecten te borgen tijdens de ontwikkeling, het gebruik en het beheer van AI- of data-toepassingen. Wij nodigen u van harte uit om ons stappenplan te testen! In een vrijblijvend gesprek lichten we onze methode graag verder toe. Voor meer vragen, neem contact op met Tessa Koelewijn of Ollie Peijnenburg.