Zomeroverpeinzingen: een onmogelijk opgave mogelijk maken, hoe krijgen we grip op AI?

Het is gebruikelijk om in de laatste Native-nieuwsbrief voor de zomervakantie een ‘nadenker’ mee te geven. Een stevige gedachte voor onder de parasol, over actuele thema’s in ons vakgebied. Voor deze editie is er wat ons betreft maar één onderwerp dat daarvoor in aanmerking komt: de toepassing van artificiële intelligentie (AI). 

De slechte voorbeelden van AI-toepassingen bij de overheid komen regelmatig in het nieuws.  Leden van de gemeenteraad en het algemeen bestuur spreken regelmatig hun zorg uit over AI. Dat komt vaak (ook) door het onbekende. Helaas is het voor bestuurders en de ambtelijke organisatie nog lastig deze zorg weg te nemen.

En dat terwijl er ook heel veel kansen liggen. De toepassing van AI is een relatief nieuw fenomeen, dat stormende hand wordt toegepast in allerlei vormen. Soms bewust en na (moreel) beraad, maar ook verborgen of onder de motorkap. De meeste overheidsorganisaties zijn nog niet toegerust om adequaat op deze grote verandering te reageren.

Daarom geven we je wat handvatten mee om in de zomer door uw gedachten te laten gaan.

AI Act vanaf augustus 2024

Vanaf augustus 2024 treedt de AI Act in werking. Dat is een concrete aanleiding en  een handvat om grip te krijgen op AI-toepassingen. De AI-act stelt eisen aan leveranciers van AI-toepassingen, maar ook aan de afnemers.

Vanaf februari 2025 worden AI-toepassingen van het hoogste risiconiveau verboden. Vanaf augustus 2025 moeten aanbieders van basismodellen (AI-toepassingen, zoals Chat GPT) compliant zijn (o.a. transparantieverplichting: uitlegbaar, logging vindt plaats en is op te vragen, klachtenprotocol). Dan is het wenselijk dat elke overheidsorganisatie hiervoor een toetsingskader heeft.

Bron: ICTRecht, https://www.ictrecht.nl/ai-act

Uit onderzoek van Thorbecke Academy blijkt dat veel gemeenten nog niet bezig zijn met de AI Act. Meer dan de helft van de ondervraagde gemeenten heeft zelfs nog geen actie ondernomen. Dit laat zien dat veel gemeenten nog niet met AI aan de slag zijn, waardoor ze ook geen grip hebben op verschillende AI-toepassingen. Zorg dat je ambtelijk en bestuurlijk urgentie creëert en borg dit in de PDCA-cyclus (2025) als je dat nog niet hebt gedaan.

Het is daarom zaak om nu te beginnen en te zorgen dat je een aantal randvoorwaarden op orde hebt voor de AI Act. Wij doen wat suggesties voor eerste stappen.

AI toepassen op basis van een ethische wegingskader

AI belooft innovatieve oplossingen te bieden, maar deze oplossingen roepen tegelijkertijd ethische en praktische vragen op die aandacht verdienen. Het is belangrijk om bestuurders van de gemeente vertrouwen te geven in het gebruik van AI, maar ook nadrukkelijk de risico’s in kaart te brengen en deze te delen.

Overheidsorganisaties staan voor de uitdaging om mee te gaan met razendsnelle innovaties en digitalisering. Er zijn natuurlijk wettelijke kaders, maar hoe geef je vorm aan ethisch en maatschappelijk verantwoord handelen? Hoe zorg je ervoor dat jouw gemeente voorbereid is op deze veranderingen en voorkom je dat je organisatie vastloopt?

Voldoen aan de wet is essentieel, maar het is slechts één kant van het verhaal. De kunst is om te bepalen of wat wettelijk is toegestaan, ook moreel juist is. Voor overheden hebben we een routekaart data-ethiek ontwikkeld, deze kan worden gebruikt om de AI Act in uw organisatie te implementeren en het bewustzijn te vergroten door het gesprek erover aan te gaan.

Werken onder architectuur voorkomt verrassingen

Eerder in deze nieuwsbrief is een ethisch wegingskader besproken die houvast geeft bij de aanschaf van nieuwe digitale toepassingen met AI. Maar hoe krijg je zicht en grip op de AI-toepassingen in software die momenteel al worden gebruikt?  Gebrek aan inzicht, samenhang, beheersbaarheid en overzicht van de informatievoorziening zijn vaak symptomen van het niet werken onder architectuur.

‘Werken onder architectuur’ geeft niet alleen inzicht in het applicatielandschap, ICT-landschap, koppelingen en processen. Deze aanpak is ook een methode om veranderingen binnen de informatievoorziening gestructureerd en gecontroleerd uit te voeren. Door methodisch te werken met architectuurprincipes kun je ook grip krijgen en houden op je AI-toepassingen door ze toe te voegen aan het architectuuroverzicht.

Maar hoe zorg je ervoor dat iedereen het begrip ‘werken onder architectuur’ begrijpt en daarnaast ook de toegevoegde waarde ervan ziet?

In plaats van veel tekst en complexe modellen geven infographics de inhoud op een overzichtelijke en aantrekkelijke manier weer. In zo’n ‘werken onder architectuur’-infographic leggen we in duidelijke stappen uit: wat de huidig situatie is, waarom doen we dit, de toekomstige situatie, wat levert het op, welke stappen volgen we en hoe help ik mee.

Grip op informatiewetten

De AI Act is naast diverse andere Nederlandseen Europese wet- en regelgeving een maatregel die moet bijdragen aan bescherming van burgers en consumenten in de dynamiek van de digitale transformatie van de maatschappij.

Klaar om aan de slag te gaan?

Kortom ga de toepassing van Artificiële Intelligentie niet uit de weg. Het wordt onmiskenbaar een pijler van het werk van een overheidsorganisatie van de toekomst. Wel is het noodzakelijk om bewuste keuzes te maken over de inzet ervan. Om je te helpen met bovenstaande opgave en instrumenten, werken we momenteel aan een handvat om op een praktische wijze met AI aan de slag te gaan. In onze eerste nieuwsbrief na de zomer komen we terug met een handzame en toepasbare aanpak!

Wil je weten hoe Native je kan helpen met de diverse opgaven rondom de informatievoorziening van je organisatie? Wij bedenken voor complexe vraagstukken pragmatische en handzame oplossingen.

Neem contact op met Karlijn Ligtenberg of Maarten Derksen voor meer informatie of een kennismaking.