De plannen voor Europese AI-beleid: welke reacties kwamen er op de publieke consultatie?
31.08.2020
De Europese Commissie is dit voorjaar de dialoog aangegaan met Europese burgers, lidstaten en relevante stakeholders over de Europese beleidsplannen rond artificiële intelligentie (AI). Eerder heeft de Europese Commissie een beleidsvoorstel gedaan in de vorm van een ‘AI White Paper’, waarop iedereen kon reageren. Ook het Kenniscentrum Data & Maatschappij nam deel aan het debat. De belangrijkste opmerkingen van deze publieke consultatie zijn nu gebundeld in een rapport. We overlopen de voornaamste resultaten.
Wat hield het eerste voorstel in?
De Europese Commissie bouwde zijn AI-beleidsvoorstel op rond drie fundamenten:
- De ontwikkeling van een ecosysteem van topkwaliteit via gerichte acties voor de ondersteuning, ontplooiing en de aanvaarding van AI in de Europese economie en overheden.
- Opties voor een toekomstig wetgevend kader voor AI om tot een ecosysteem van vertrouwen te kunnen komen.
- Veiligheids- en aansprakelijkheidsaspecten rond AI.
Het initiële voorstel van de Commissie bespraken we uitgebreid op de eerste Data-Date van het Kenniscentrum. Op dit basisvoorstel werd de voorbije maanden feedback verzameld. Deelnemers konden hun bedenkingen uiten in de vorm van standpuntnota’s en aan de hand van een online bevraging.
Wie reageerde op het voorstel?
Er kwam veel reactie op het voorstel, zowel uit de publieke als private sector zoals overheden, bedrijven, NGO’s, experts, academici en burgers. De feedback kwam niet enkel uit de 27 lidstaten van de Europese Unie, maar ook uit landen zoals India, China, Japan, Brazilië, de VS, Canada en Groot-Brittannië. In totaal ontving de Europese Commissie 1215 bijdragen.
Wat waren de opmerkingen?
1. Een ecosysteem van AI-topkwaliteit in Europa
Om een dynamisch en goed functionerend ecosysteem tot stand te brengen, stelt de Europese Commissie in de White Paper een reeks acties voor:
- Nauwe samenwerking tussen de lidstaten
- Gerichte inspanningen van de Onderzoeks- en Innovatiegemeenschap
- Inzetten op het bijbrengen van vaardigheden
- Aandacht voor Kleine en Middelgrote Ondernemingen (KMO’s)
- Samenwerking met de privésector
- Het vergroten van de acceptatie van AI in de publieke sector
Bij de deelnemers aan het feedbackproces is er vooral een sterke vraag om het aanleren van AI-vaardigheden via trainingsprogramma’s en het ondersteunen van onderzoek hoog op de agenda te zetten via een gecoördineerde aanpak van de lidstaten. De respondenten vermelden verder dat testfaciliteiten en Europese dataruimtes een belangrijk aandeel moeten krijgen in het Europese AI-beleid.
Uit de voorstellen om AI-onderzoek en innovatie te versterken krijgt is er meer bijval om bestaande netwerken voor onderzoek en innovatie verder uit te bouwen (86% is voorstander), dan om een nieuw onderzoekscentrum op te richten (64% is voorstander). Verder vragen de respondenten ook voldoende aandacht voor publiek-private samenwerkingen (PPP).
Uit de voorstellen om KMO’s te ondersteunen, blijkt uit de reacties veel waarde te worden gehecht aan de rol van Digitale Innovatie Hubs. Deze hubs moeten het voortouw nemen op vlak van kennistransfers en de ondersteuning van AI-expertise voor KMO's. Ook toegang tot testfaciliteiten en het op touw zetten van samenwerkingen tussen KMO's, grote bedrijven en de academische sector wordt gezien als een belangrijke taak voor deze Digitale Innovatie Hubs.
De bovenstaande acties werden door de respondenten als prioriteiten naar voren geschoven.
2. Een ecosysteem van vertrouwen
De White Paper-consultatie peilde bij de respondenten naar de voornaamste bezorgdheden rond de ontwikkeling van AI. Daarbij kwam de mogelijkheid dat AI fundamentele rechten schendt of dat het gebruik kan leiden tot discriminatie naar voren als voornaamste bekommernissen. Om die gevaren aan te pakken verwachten de respondenten voornamelijk soelaas van een nieuw wetgevend kader dan van een aanpassing van de huidige wetgeving. Slechts een kleine minderheid (3%) denkt dat de huidige wetgeving volstaat om AI te reguleren.
Opvallend is de verdeeldheid bij de respondenten over de aanpak van AI-toepassingen die een hoog risicogehalte hebben. Eén groep (42,5%) vindt dat de introductie van nieuwe verplichte voorschriften beperkt moet blijven tot applicaties met een hoog risico, terwijl een andere groep (30%) de voorschriften liever doortrekt naar alle applicaties.
Eenzelfde verdeeldheid is er ook over het gebruik van biometrische identificatie, een verzameling van technieken om lichaamskenmerken van een individu te herkennen. De meningen hierover gaan van een algemene ban, over specifieke EU-regulering, tot regulering voor een aantal uitzonderingen of zelfs helemaal geen richtlijnen voor biometrische identificatie.
3. Veiligheids- en aansprakelijkheidsimplicaties voor AI
Wettelijke kaders voor veiligheid en aansprakelijkheid moeten ervoor zorgen dat alle producten en diensten - inclusief die waarin opkomende digitale technologieën zijn geïntegreerd - veilig, betrouwbaar en consistent functioneren en dat schade efficiënt wordt verholpen.
Een meerderheid (60,7%) van de respondenten is voorstander van een herziening van de bestaande productaansprakelijkheidsrichtlijnen, om zo ook risico’s veroorzaakt door AI-toepassingen te dekken. Een iets minder grote groep (47%) wil ook dat de nationale aansprakelijkheidsregels worden aangepast voor alle AI-toepassingen.
Meer in detail geven respondenten aan dat volgende AI-gerelateerde risico's moeten worden gedekt: cybersecurityrisico's en persoonlijke veiligheidsrisico's, gevolgd door risico’s voor de geestelijke gezondheid.
Volgende stap
Van de feedback van alle stakeholders is nu een diepgaande analyse en een impactevaluatie opgesteld. Een volledig samenvattend verslag zal deze algemene conclusies bevatten, naast een kwalitatieve analyse van de respectieve antwoorden op de online-vragenlijsten, een analyse van de ontvangen standpuntnota's en de resultaten van diverse workshops en openbare hoorzittingen. Vervolgens zal de Europese Commissie op basis hiervan een wetsvoorstel uitwerken.
Het Kenniscentrum Data en Maatschappij volgt dit dossier verder op. Wie de volledige feedback op de publieke consultatie wil raadplegen, kan die lezen op de website van de Europese Commissie.
