Als Kenniscentrum volgen we de relevante EU-beleidsevoluties en -initiatieven met betrekking tot data en AI van nabij op. Een belangrijk voorbeeld is het in april 2021 gepubliceerde Voorstel van AI-Verordening (“AIV”). Dit is een zeer omvattend beleidsvoorstel en kan verregaande gevolgen hebben voor de actoren in het AI-ecosysteem. Als Kenniscentrum willen we die impact beter kunnen inschatten. Daarom verzamelen we aan de hand van een policy prototyping-oefening feedback bij verschillende belanghebbenden. De resultaten van deze oefening plannen wij te gebruiken om het Vlaamse, Belgische en Europese debat rond de AIV te verrijken.

Wat is policy prototyping?

Policy prototyping (PP) of beleidsprototypering verwijst naar een innovatieve manier van beleidsvorming, vergelijkbaar met product- of bèta-testen. Bij PP is er namelijk een fase waarin ontwerp-/prototyperegels in de praktijk worden getest vooraleer zij worden gefinaliseerd en afgekondigd. Meer info over PP kan je hier en hier vinden.

Waarom doen we een PP van het toepassingsgebied van het voorstel van AI-verordening?

Vlaanderen investeert in AI en de AIV legt een aantal rode lijnen op waaraan AI-toepassingen zich moeten houden. Zo kan een AI-toepassing een ‘verboden’ of ‘hoog risico’-toepassing zijn wat gevolgen heeft op het vlak van de na te leven verplichtingen. Als het toepassingsgebied en de definities van de AIV echter te ruim of te strikt zijn, is nu het moment om deze aan te passen door tijdig feedback te geven.

Het Kenniscentrum gebruikt daarom een PP-oefening om de definitie van een AI-systeem en de artikels 5 (verboden AI-systemen) en 6 (AI-systemen met een hoog risico) van de AIV tegen het licht te houden. In het kader van deze oefening is dus de AIV in zijn huidige formulering het prototype. Om die bepalingen te testen en de naleving ervan door organisaties te simuleren, hebben wij twee vragenlijsten opgesteld.

Hoe gaan we te werk?

Om het toepassingsgebied van de AIV te testen maakten we twee surveys:

• De eerste checklist-survey helpt om te evalueren of jouw AI-toepassing onder het toepassingsgebied van de verordening zou vallen. Als dat zo is, kom je te weten of de toepassing eventueel in de verboden of hoog risico-categorie valt. Je kan laten weten of je hiermee akkoord gaat of niet. Om deze survey in te vullen, is het handig om een lijst met definities bij de hand te houden. Deze lijst kan je hier vinden.

• De tweede survey peilt naar de duidelijkheid en bruikbaarheid van de concepten van de AIV en kan je gebruiken om feedback te geven indien de definities bv. onduidelijk zijn of inhoudelijk niet kloppen.

Waar mogelijk zullen wij ook nog enkele diepte-interviews afnemen bij respondenten om een accurater beeld te krijgen van hun feedback.

Waarom deelnemen?

De AIV komt er aan. Deze oefening biedt een kans om de uiteindelijke inhoud van de AIV mee te bepalen en een kans om te zien hoe futureproof jouw AI-toepassing is indien de verordening ongewijzigd zou worden ingevoerd. Kortom, door deelname kan je:

• Te weten komen of jouw AI-toepassing als verboden of risicovol wordt beschouwd onder de AIV zodat je kan inschatten of jouw product of toepassing futureproof is.

• Wegen op het debat door aan te geven dat er zaken onduidelijk, te breed of te nauw … worden gedefinieerd.
  

Wie organiseert deze PP?

Deze PP wordt georganiseerd door het Kenniscentrum Data & Maatschapij.

Wat gebeurt er met de resultaten?

De resultaten van de eerste survey kunnen ons een inzicht geven in hoeveel van de respondenten inderdaad onder het toepassingsgebied van de AIV zouden vallen en in welke mate zij gebruik maken van verboden of risicovolle AI-toepassingen.

De resultaten van de tweede survey zullen ons een inzicht geven in hoe begrijpbaar en bruikbaar respondenten de door de AIV gebruikte concepten vinden.

Het Kenniscentrum Data & Maatschappij zal de geaggregeerde resultaten gebruiken om het beleidsdebat op Vlaams, Belgisch en Europees niveau te informeren en bij te sturen. Wij zullen zelf geen individuele resultaten publiek maken, tenzij mits goedkeuring van de betrokken partij.

We stellen de eerste resultaten voor tijdens de AI-week op 18 maart. Wie wil kan nog input geven tot het einde van april. Hierna verwerken we alle input in een rapport om aanbevelingen te doen vanuit Vlaanderen.

Heb je nog vragen in verband met dit onderzoek? Neem dan contact op met Frederic Heymans of Thomas Gils