Blog

De weg naar een Europese AI-regelgeving: wat houdt de Inception Impact Assessment in?

24.09.2020

De Europese wetgeving rond artificiële intelligentie (AI) begint stilaan vorm te krijgen. De Europese Commissie heeft deze zomer het Inception Impact Assessment (IIA) gepresenteerd. Dit is een voorstel tot wetgeving die de vereisten voor de ontwikkeling van AI opstelt. De Europese Commissie presenteerde eerder dit jaar ook al een beleidsvoorstel in de vorm van een White Paper.

De IIA schetst de regelgevingsdoelstellingen en beleidsopties van de Commissie. Meer precies is het de ambitie om ervoor zorgen dat AI ontworpen en gebruikt wordt binnen een passend wettelijk kader, met als algemeen doel de ontwikkeling en actualisering van veilige en rechtmatige AI te bevorderen. Daarbij moet men toezien dat de technologie voor inclusieve maatschappelijke resultaten zorgt, terwijl een gunstig klimaat voor innovatie behouden blijft.

Waarom is er regelgeving nodig?

Als de Europese Unie geen actie onderneemt om specifieke vereisten voor AI vast te stellen, blijven bepaalde risico's in verband met AI onaangeroerd. Die risico’s kunnen zowel materieel als immaterieel zijn. Materiële risico’s kunnen te maken hebben met de veiligheid en gezondheid van personen (bijvoorbeeld een ongeluk met een autonoom voertuig). Immateriële risico’s kunnen betrekking hebben op verlies van privacy, beperkingen in het recht op vrije meningsuiting of discriminatie (bijvoorbeeld indien AI toegepast wordt bij de rekrutering van nieuwe werknemers).

De al bestaande EU-wetgeving over de grondrechten, consumentenbescherming, productveiligheid en -aansprakelijkheid blijft relevant en is van toepassing op een groot aantal nieuwe AI-toepassingen, maar er kunnen problemen ontstaan met de handhaving van de bestaande EU-wetgeving en nationale aansprakelijkheidsregels. Bovendien zou een ongewijzigd EU-beleid kunnen leiden tot een grotere versnippering van regels als gevolg van interventies op het niveau van de lidstaten. Om deze redenen is specifieke AI-regelgeving noodzakelijk.

Welke mogelijkheden heeft de Europese Commissie?

Om de risico’s die verband houden met de ontwikkeling en het gebruik van AI aan te pakken, neemt de Europese Commissie vier verschillende beleidsopties in overweging.

  1. Een soft law of zelfregulerende benadering

    Deze optie moedigt de industrie aan om zelf een regelgevend kader te creëren, zonder dat er een wetgevingsinstrument van de EU aan te pas komt. De zelfreguleringsaanpak kan voortbouwen op eerdere initiatieven van de Commissie zoals bijvoorbeeldde ethische richtlijnen voor betrouwbare AI en de bijhorende evaluatielijst die de High-Level Expert Group voor AI ontwikkelde.

  2. Het gebruik van labels

    Hiermee wil de Europese Commissie met labels eindgebruikers helpen om AI-toepassingen te identificeren die zich houden aan bepaalde verplichtingen voor betrouwbare AI. Een AI-systeem zou dus een label krijgen dat aangeeft in welke mate het voldoet aan de ethische richtlijnen. Dit moet het vertrouwen van de eindgebruiker doen toenemen en de naleving van bepaalde regels controleren.

  3. Verplichte voorwaarden voor alle of bepaalde types artificiële intelligentie

    De derde optie voorziet verplichtingen voor bijvoorbeeld data die gebruikt wordt om een algoritme te trainen (trainingsdata), degelijkheid, accuraatheid en menselijk toezicht op een AI-systeem. De Europese Commissie heeft hierbij ook drie subopties geformuleerd:

    1. De verplichtingen beperken zich tot één specifieke toepassing, namelijk systemen voor biometrische identificatie (op afstand).
    2. De verplichtingen zijn enkel van toepassing op AI-toepassingen met een hoog risico
    3. De verplichtingen zijn van toepassing op alle AI-toepassingen.

  4. Een combinatie van een van de bovenstaande opties, rekening houdend met de verschillende risiconiveaus die een bepaalde AI-toepassing kan genereren.

    Deze laatste optie is een contextspecifieke en risico-gebaseerde aanpak.

Volgende stap

Net als bij het White Paper-voorstel hield de Commissie een publieke consultatie. Burgers, bedrijven, organisaties en andere betrokken partijen hadden tot 10 september de mogelijkheid om het voorstel door te nemen en feedback in te dienen. De Europese Commissie zal nu een uitvoerige analyse maken van de feedback en met een hernieuwd voorstel komen. De presentatie en stemming van het definitieve wetsvoorstel is voorzien voor de eerste drie maanden van volgend jaar