Enkele opmerkelijke bevindingen en bedenkingen

• Het panel erkende de nood aan een Europees antwoord om te bepalen wat AI is en wat de technologie voor Europa kan betekenen. Europa houdt nu op basis van de White Paper een brede consultatieronde met betrekking tot beleid rond AI. Het panel apprecieert deze aanpak, maar merkt tegelijk op dat het is niet voor iedere belanghebbende eenvoudig is om hierop input te geven, ten dele door een gebrek aan kennis en vaardigheden. De vraag is dan ook hoe deze brede consultatieronde precies verder zal verlopen en of die aanpak ook effectief zal leiden tot een grotere betrokkenheid van belanghebbenden.

• Moet er een autoriteit of een regulator komen die zich ontfermt over een kader en aangepaste wetgeving over AI? Daar hadden de panelleden geen pasklaar antwoord op. Het is wel duidelijk en ook cruciaal dat - als er zo’n autoriteit komt - deze de kennis en vaardigheden moet hebben om AI-toepassingen te evalueren en op te treden indien nodig. Het Kenniscentrum Data & Maatschappij kan hieraan bijdragen door pijnpunten in de huidige regelgeving te identificeren, zodat onze overheden deze kunnen aanpassen.

• Een cruciaal element in de White Paper is het onderscheid tussen sectoren en toepassingen met een hoog risico, en andere. Dit onderscheid is volgens de panelleden erg moeilijk te maken. Op voorhand is het namelijk moeilijk in te schatten of een sector of een toepassing al dan niet een hoog risico heeft. Wellicht zijn er enkele sectoren en toepassingen waar van bij het begin een hoog risico kan worden geschat (bv. zaken gerelateerd aan veiligheid of de gezondheidszorg), maar ook bij andere sectoren en toepassingen kan er mogelijks een hoog risico spelen. Het panel vroeg zich af wat de precieze parameters zullen zijn die bepalen of een sector en toepassing een hoog risico inhoudt?

• Kan certificering hier een mogelijk oplossing bieden? Op dit moment zijn er nog onvoldoende standaarden voor AI, waardoor certificering nog niet mogelijk is. Dat maakt van certificering momenteel nog enkel maar een interessant streefdoel dat onbereikbaar blijft zolang de weg ernaar toe onduidelijk is. Een mogelijke manier van werken is hier om te vertrekken vanuit een actuele vraag van een groep gelijkaardige klanten of aanbieders. Een goed voorbeeld hiervan zijn de standaardclausules voor lokale overheden met betrekking tot aanbestedingen van AI, deze aanpak wordt momenteel ontwikkeld en getest in Nederland.

• Verder kwamen ook data-eigenaarschap, en wie toegang moet hebben tot data, ter sprake tijdens het panelgesprek. Dit zijn belangrijke elementen, die ook moeten worden aangestipt in de White Paper. Deze elementen worden wel aangehaald in de Europese Datastrategie.