In samenwerking met het Ethics of AI-Team van UNESCO en het AI Expertisecentrum van Digitaal Vlaanderen heeft het Kenniscentrum Data & Maatschappij via co-creatie gewerkt aan een gemeenschappelijke visie op AI Governance aan de Vlaamse overheid. Dit onderzoek kadert binnen het het AI-Ready Flemish Administration-project van UNESCO en wordt gefinancieerd vanuit het Technical Support Instrument van SG REFORM. In deze blog lichten we de belangrijkste bevindingen toe.
Van gehallucineerde inhoud die blindelings wordt overgenomen, de vrees voor privacyschendingen en discriminerende algoritmes op leer- en jobplatformen, tot apocalyptische voorspellingen dat AI de mensheid zal uitroeien: het nieuws over artificiële intelligentie stemt niet altijd vrolijk.
Toch is de remedie voor al deze problemen bekend: AI governance. Dat zijn afspraken om ervoor te zorgen dat AI-systemen werken zoals ze horen te werken door:
AI Governance kan je als organisatie op heel wat manieren aanpakken. De lat ligt hoger voor overheidsdiensten omdat hun impact groot is, ze een voorbeeldfunctie hebben, betrouwbaarheid en inclusie horen uit te dragen en er bovendien strenge (Europese) regels gelden.
AI governance begint met een duidelijke en gedragen visie. Daaraan heeft het Kenniscentrum Data & Maatschappij gewerkt, samen met het Ethics of AI-team van UNESCO en het AI Expertisecentrum van Digitaal Vlaanderen. Wat is de visie van de Vlaamse overheid op verantwoord AI-gebruik binnen de eigen administratie?
Aan de hand van gesprekken met experts en input vanuit drie interactieve workshops hebben we verschillende facetten van AI governance aan de Vlaamse overheid onder de loep genomen. Die visie geven we in zes punten mee.
De Vlaamse overheid heeft duidelijke principes uitgewerkt voor het gebruik van AI: democratische, betrouwbare en mensgerichte AI, ingezet door zelfbewuste en competente medewerkers, met zorgvuldig datagebruik en -beheer, en oog voor mens en planeet. Of AI betrouwbaar is, hangt op zijn beurt af van acht voorwaarden:
De Vlaamse overheid heeft duidelijke principes uitgewerkt voor het gebruik van AI: democratische, betrouwbare en mensgerichte AI, ingezet door zelfbewuste en competente medewerkers, met zorgvuldig datagebruik en -beheer, en oog voor mens en planeet.
Goede principes en voorwaarden, maar hoe vertaal je ze naar een concrete governance-structuur? Welke regels moeten medewerkers volgen? Hoe houden we in de gaten dat deze principes opvolging krijgen? En hoe remediëren we als dat niet zo is? Governance stopt niet bij het verkondigen van principes, maar hoort een concrete institutionele invulling te krijgen. Hierbij horen richtlijnen, procedures, verantwoordelijkheden, bewustwording en monitoringsmechanismen.
Net als Vlaanderen is de Vlaamse overheid erg divers. Ze telt entiteiten van uiteenlopende grootte, met meer of minder ervaring met AI en een verschillende risicobereidheid. Sommige entiteiten zetten hun eerste voorzichtige stappen met AI-experimenten, andere zijn al grote projecten aan het opschalen. Verschillende snelheden in het gebruik van AI zijn geen probleem op zich, zolang de burger geniet van eenzelfde minimum aan bescherming.
Verschillende snelheden in het gebruik van AI zijn geen probleem op zich, zolang de burger geniet van eenzelfde minimum aan bescherming.
Om dat minimale beschermingsniveau te garanderen, is er een gezamenlijk fundament nodig. Dit wordt centraal uitgewerkt en lokaal toegepast. Zo bestaan er al richtlijnen vanuit het AI Expertisecentrum die stelselmatig worden aangevuld. Individuele entiteiten moeten zelf de vrijheid krijgen om deze richtlijnen in hun eigen organisaties concrete invulling te geven. De kennis die deze entiteiten verkrijgen in de praktijk is dan weer onmisbaar om nieuwe richtlijnen te ontwikkelen of bestaande te verbeteren.
De governance van een innovatieproject heeft een standaarddilemma:
Bovendien ziet die weegschaal er niet voor elk project (bv. een transcriptietool of een fraudedetectiemodel) of elke fase (testfase of implementatie) hetzelfde uit. Het juiste gewicht en de juiste vorm voor AI governance voor iedere fase van een AI-project vereist heel wat denkwerk. Stel bij aanvang een projectteam samen dat de governance-noden gedurende het project uittekent: maak dit zo licht als je kan en zo zwaar als nodig. Herbekijk dit plan met regelmaat.
AI-systemen zijn vaak onvoorspelbaar door hun autonomie of doordat ze (zichzelf) aanpassen. Dat maakt een stage-gate governance niet altijd even opportuun (vaste controles op een vast moment, en dan door naar de volgende fase). Denk aan fenomenen zoals model/data drift. Regelmatige, volgehouden en terugkerende controles zijn beter. Daarvoor zijn er uiteenlopende tools. Voor interne AI-projecten (back-end) kunnen interne checks of audits volstaan; voor projecten die met de burger interageren overweeg je beroep te doen op partners (bijvoorbeeld: praktijktesten, externe audits of red-teaming).
Elk AI-systeem hoort een eigenaar (owner) te hebben die bijgestaan wordt door een multidisciplinair team met technische, juridische en beleidskennis.
AI-projecten zijn vaak zo complex dat de (eind)verantwoordelijkheid moeilijk bij één persoon kan liggen. Tegelijk zorgt gedeelde verantwoordelijkheid voor onduidelijkheden en minder gevoel voor verantwoordelijkheid. Elk AI-systeem hoort een eigenaar (owner) te hebben die bijgestaan wordt door een multidisciplinair team met technische, juridische en beleidskennis. Die kennis is nog niet overal aanwezig en moet groeien. Nieuwe profielen zoals een AI Compliance Officer zijn in de toekomst geen overbodige luxe.
AI-systemen die een aanzienlijke impact kunnen hebben op burgers moeten betekenisvol menselijk toezicht krijgen. Dit kan vele vormen aannemen, zoals teksten nalezen, input controleren of periodieke checks uitvoeren. Neem maatregelen zodat dit menselijk toezicht betekenisvol blijft: vermijd rubber-stamping, zorg voor tijd, middelen en opleiding voor toezichthouders, maar ook: optimaliseer je systeem zodat betekenisvol menselijk toezicht mogelijk blijft. En – last but not least – zorg dat AI-projecten niet de menselijkheid wegnemen uit beslissingen.
Zorg dat AI-projecten niet de menselijkheid wegnemen uit beslissingen.
Laat medewerkers toe om (zonder extra belasting) af te wijken van AI-suggesties en behoud die belangrijke discretionaire ruimte opdat de impact van een beslissing proportioneel blijft. Blijf ook investeren in (de vaardigheden van) medewerkers zodat zij een betekenisvolle rol blijven spelen in de toekomst.
Een AI governance met ruggengraat, centraal aangestuurd met lokale implementatie, gepast qua gewicht, volgehouden en recurrent, met alle verantwoordelijkheid op de juiste plek en de mens(elijkheid) als spin in het web. Dat is de visie. Dat is de eerste stap. Deze visie moet verder uitgewerkt, toegepast en bijgewerkt worden. Hierin speelt het AI Expertisecentrum van Digitaal Vlaanderen een sleutelrol, samen met alle stakeholders van de Vlaamse overheid.
Afbeelding: Clarote & AI4Media / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/
