Terwijl het in België rommelt bij de gegevensbeschermingsautoriteit, beslissen ze in Nederland om het takenpakket van hun toezichthouder fors uit te breiden en ook algoritmes mee in het vizier te nemen. Volgens Glen Joris, postdoctoraal onderzoeker bij mict-UGent, is dit een ideaal moment om werk te maken van een grote hervorming van de gegevensbeschermingsautoriteit.

In Nederland hebben ze sinds kort een nieuwe regering. Eén met grote ambities als het gaat over dossiers zoals energie, klimaat en gezondheid. Toch stoppen de ambitieuze plannen van de regering Rutte IV daar niet. De Nederlandse regering heeft namelijk ook beslist om te investeren in een betere bescherming van fundamentele burgerrechten online. Zo zullen ze ook een toezichthouder voor algoritmes ontwikkelen die aandacht schenkt aan transparantie, discriminatie en willekeur binnen algoritmische toepassingen. De toezichthouder zal deel uitmaken van de autoriteit Persoonsgegevens en de komende jaren meer dan 6 miljoen euro ontvangen. Bedoeling is dat ze een instantie uitbouwt die overheden en organisaties begeleidt richting meer verantwoorde algoritmes.

De komst van een toezichthouder die focust op algoritmes is vernieuwend en opvallend. Geen ander Europees land heeft er één die uitsluitend kijkt naar hoe algoritmes ontwikkeld en gebruikt worden. Toch is de keuze niet helemaal onverwacht, rekening houdende met de commotie die de afgelopen jaren in Nederland is ontstaan rond het gebruik van algoritmes door overheidsdiensten. Meest bekend is de toeslagenaffaire, waarbij tienduizenden mensen onterecht werden beschuldigd van fraude op basis van een risicomodel en een algoritme dat de overheid had ontwikkeld. Maar ook meer recent, meldde de NOS nog dat 25 Nederlandse gemeenten zelfstandig hadden beslist om algoritmes te gebruiken om fraude en criminaliteit op te sporen, maar daarbij etnische profilering in de hand werkte.

Hoewel we in België zulke grote affaires (nog) niet kennen, mogen we niet de vergissing maken om te veronderstellen dat de algoritmes in België, in tegenstelling tot in Nederland, feilloos en objectief zijn. Net zoals in Nederland ontwikkelen mensen de algoritmes die we in België gebruiken en baseren we ons op gegevens die voorhanden zijn om onze algoritmes te trainen en te ontwikkelen. De kans dat daar een fout insluipt en bepaalde mensen onterecht voorrang krijgen of beschuldigd worden, is daarbij even groot dan in Nederland. Het idee van een toezichthouder is daarom ook in ons land minstens even noodzakelijk dan bij onze noorderburen.

Bovendien beweegt er op Europees niveau ook wat als het aankomt op het gebruik en de ontwikkeling van algoritmes en AI-toepassingen. In één van de voorstellen die nu op het bord van de Europese Commissie ligt, ook wel de 'AI Act' genoemd, wordt expliciet benadrukt dat algoritmes meer transparantie aan de dag moeten leggen om de risico’s met betrekking tot mensenrechten te beperken. De kans dat België binnenkort wettelijk verplicht is om organisaties richting meer algoritme-ethiek te sturen is dus relatief groot.

Proactief reageren op de komst van die wetgeving laat de toezichthouder toe om zijn huiswerk te maken. Krijgt die dat niet, dan riskeert de geschiedenis zich op treurige wijze te herhalen. In 2018 bijvoorbeeld, toen de Algemene Verordening voor Gegevensbescherming (AVG) in voege trad, was België ruimschoots te laat met de ontwikkeling van richtlijnen. Nochtans hadden veel bedrijven en organisaties daar op dat moment wel nood aan. Door die onzekerheid liepen vele innovatie- en onderzoeksactiviteiten vertraging op en werden samenwerkingen abrupt afgebroken. Het maakt duidelijk dat er op juridisch zowel als economisch vlak winst te boeken valt door vroegtijdig in te zetten op de ontwikkeling van een toezichthouder voor algoritmes.

Net zoals in Nederland zou die toezichthouder onderdeel kunnen worden van de toezichthouder die in ons land focust op gegevensbescherming, ook wel de gegevensbeschermingsautoriteit (GBA) genoemd. Algoritmes steunen namelijk vaak op persoonsgegevens en ook bepaalde ethische principes komen reeds terug in bestaande wetgevende kaders, zoals de AVG.

De gegevensbeschermingsautoriteit zwemt vandaag evenwel door woelige wateren. Aanleiding is een kritisch rapport van het Rekenhof over de werking en onafhankelijkheid ervan. Op politiek niveau denkt men daarom na om in te grijpen en bepaalde drastische beslissingen te nemen, zoals ontslag van bepaalde adviesleden en nieuwe wetgevende kaders om adviesleden aan te duiden (zie DS 11/01).

Dit kritische rapport lijkt mij een ideaal moment om ook een bredere hervorming op gang te trekken over de GBA waar ook het takenpakket in vervat zit. Er zijn vandaag duidelijke signalen die duidelijk maken dat er nood is aan een breder takenpakket voor de GBA en dat ze in de toekomst enkel nog maar belangrijker zal worden om Europese wetgeving om te zetten en te bewaken. Maak daarom gebruik van dit momentum om van de GBA een krachtige organisatie te maken die zich kan voorbereiden op vandaag en op wat komt. Hopelijk kunnen we zo een Belgische variant op de toeslagenaffaire vermijden.