Event

Verslag Data-Date #1: ons panel boog zich over de voorstellen van de EU voor betrouwbare AI

08.07.2020

Op dinsdag 10 maart ging de eerste Data-Date van het Kenniscentrum Data & Maatschappij voor. In deze reeks van evenementen nodigt het Kenniscentrum externe sprekers uit om inhoudelijk bij te dragen aan het debat rond Artificiële Intelligentie (AI). Voor de eerste Data-Date lag meteen een heet hangijzer op tafel: de White Paper van de Europese Commissie over AI.

Brahim Bénichou en Thomas Gils van het Kenniscentrum en beiden onderzoekers bij CiTiP (KULeuven), trokken 7 opvallende conclusies uit de white paper. Benieuwd naar hun conclusies? Bekijk het opiniestuk dat ze hierover schreven.

Onze panelleden Nathalie Dumarey (VVSG), Astrid Eichstädt (Unia), Simon November (Test Aankoop), Jelle Hoedemaekers (Agoria) en Dieter Somers (Voka) pikten in op de presentatie en gaven hun kritische bedenkingen op de White Paper. We lichten de belangrijkste bedenkingen en bevindingen hieronder even toe.


Enkele opmerkelijke bevindingen en bedenkingen

  • Het panel erkende de nood aan een Europees antwoord om te bepalen wat AI is en wat de technologie voor Europa kan betekenen. Europa houdt nu op basis van de White Paper een brede consultatieronde met betrekking tot beleid rond AI. Het panel apprecieert deze aanpak, maar merkt tegelijk op dat het is niet voor iedere belanghebbende eenvoudig is om hierop input te geven, ten dele door een gebrek aan kennis en vaardigheden. De vraag is dan ook hoe deze brede consultatieronde precies verder zal verlopen en of die aanpak ook effectief zal leiden tot een grotere betrokkenheid van belanghebbenden.
  • Moet er een autoriteit of een regulator komen die zich ontfermt over een kader en aangepaste wetgeving over AI? Daar hadden de panelleden geen pasklaar antwoord op. Het is wel duidelijk en ook cruciaal dat - als er zo’n autoriteit komt - deze de kennis en vaardigheden moet hebben om AI-toepassingen te evalueren en op te treden indien nodig. Het Kenniscentrum Data & Maatschappij kan hieraan bijdragen door pijnpunten in de huidige regelgeving te identificeren, zodat onze overheden deze kunnen aanpassen.
  • Een cruciaal element in de White Paper is het onderscheid tussen sectoren en toepassingen met een hoog risico, en andere. Dit onderscheid is volgens de panelleden erg moeilijk te maken. Op voorhand is het namelijk moeilijk in te schatten of een sector of een toepassing al dan niet een hoog risico heeft. Wellicht zijn er enkele sectoren en toepassingen waar van bij het begin een hoog risico kan worden geschat (bv. zaken gerelateerd aan veiligheid of de gezondheidszorg), maar ook bij andere sectoren en toepassingen kan er mogelijks een hoog risico spelen. Het panel vroeg zich af wat de precieze parameters zullen zijn die bepalen of een sector en toepassing een hoog risico inhoudt?
  • Kan certificering hier een mogelijk oplossing bieden? Op dit moment zijn er nog onvoldoende standaarden voor AI, waardoor certificering nog niet mogelijk is. Dat maakt van certificering momenteel nog enkel maar een interessant streefdoel dat onbereikbaar blijft zolang de weg ernaar toe onduidelijk is. Een mogelijke manier van werken is hier om te vertrekken vanuit een actuele vraag van een groep gelijkaardige klanten of aanbieders. Een goed voorbeeld hiervan zijn de standaardclausules voor lokale overheden met betrekking tot aanbestedingen van AI, deze aanpak wordt momenteel ontwikkeld en getest in Nederland.
  • Verder kwamen ook data-eigenaarschap, en wie toegang moet hebben tot data, ter sprake tijdens het panelgesprek. Dit zijn belangrijke elementen, die ook moeten worden aangestipt in de White Paper. Deze elementen worden wel aangehaald in de Europese Datastrategie.

Conclusie

De White Paper rond AI geeft een aantal duidelijke streefdoelen voor Europa. Het panel onthaalde het document algemeen gesproken positief als een gespreksstarter om het beleid verder uit te werken. De White Paper licht evenwel nog niet toe hoe we die streefdoelen kunnen bereiken, waardoor een aantal moeilijke politieke keuzes nog niet zijn gemaakt. Hoog tijd om na te gaan welke stappen we vanuit Vlaanderen verder willen nemen!

Willemien Laenens

Kenniscentrum Data & Maatschappij