Waarom is er regelgeving nodig?

Als de Europese Unie geen actie onderneemt om specifieke vereisten voor AI vast te stellen, blijven bepaalde risico's in verband met AI onaangeroerd. Die risico’s kunnen zowel materieel als immaterieel zijn. Materiële risico’s kunnen te maken hebben met de veiligheid en gezondheid van personen (bijvoorbeeld een ongeluk met een autonoom voertuig). Immateriële risico’s kunnen betrekking hebben op verlies van privacy, beperkingen in het recht op vrije meningsuiting of discriminatie (bijvoorbeeld indien AI toegepast wordt bij de rekrutering van nieuwe werknemers).

De al bestaande EU-wetgeving over de grondrechten, consumentenbescherming, productveiligheid en -aansprakelijkheid blijft relevant en is van toepassing op een groot aantal nieuwe AI-toepassingen, maar er kunnen problemen ontstaan met de handhaving van de bestaande EU-wetgeving en nationale aansprakelijkheidsregels. Bovendien zou een ongewijzigd EU-beleid kunnen leiden tot een grotere versnippering van regels als gevolg van interventies op het niveau van de lidstaten. Om deze redenen is specifieke AI-regelgeving noodzakelijk.

Welke mogelijkheden heeft de Europese Commissie?

Om de risico’s die verband houden met de ontwikkeling en het gebruik van AI aan te pakken, neemt de Europese Commissie vier verschillende beleidsopties in overweging.

1. Een soft law of zelfregulerende benadering
   
   Deze optie moedigt de industrie aan om zelf een regelgevend kader te creëren, zonder dat er een wetgevingsinstrument van de EU aan te pas komt. De zelfreguleringsaanpak kan voortbouwen op eerdere initiatieven van de Commissie zoals bijvoorbeeld de ethische richtlijnen voor betrouwbare AI en de bijhorende evaluatielijst die de High-Level Expert Group voor AI ontwikkelde.
   
   
2. Het gebruik van labels
   
   Hiermee wil de Europese Commissie met labels eindgebruikers helpen om AI-toepassingen te identificeren die zich houden aan bepaalde verplichtingen voor betrouwbare AI. Een AI-systeem zou dus een label krijgen dat aangeeft in welke mate het voldoet aan de ethische richtlijnen. Dit moet het vertrouwen van de eindgebruiker doen toenemen en de naleving van bepaalde regels controleren.
   
   
3. Verplichte voorwaarden voor alle of bepaalde types artificiële intelligentie
   
   De derde optie voorziet verplichtingen voor bijvoorbeeld data die gebruikt wordt om een algoritme te trainen (trainingsdata), degelijkheid, accuraatheid en menselijk toezicht op een AI-systeem. De Europese Commissie heeft hierbij ook drie subopties geformuleerd:
   
   
   1. De verplichtingen beperken zich tot één specifieke toepassing, namelijk systemen voor biometrische identificatie (op afstand).
   2. De verplichtingen zijn enkel van toepassing op AI-toepassingen met een hoog risico
   3. De verplichtingen zijn van toepassing op alle AI-toepassingen.
      
      
4. Een combinatie van een van de bovenstaande opties, rekening houdend met de verschillende risiconiveaus die een bepaalde AI-toepassing kan genereren.
   
   Deze laatste optie is een contextspecifieke en risico-gebaseerde aanpak.