Samenvatting

Dit voorstel van rapport komt uit het ‘Special Committee on Artificial Intelligence in a Digital Age’ en werd opgesteld door Axel Voss. Eerst beschrijft het 6 toepassingsgevallen van AI en de plaats van de EU in de globale AI-race. Vervolgens is er een lijst van Europese beleidsvoorstellen, waaronder enkele aanpassingen aan de AI-verordening.

Wat betreft het eerste luik, stelt het rapport dat de zes besproken toepassingsgevallen tot drie gemeenschappelijke vaststellingen leiden:

• Rechtsonzekerheid, onvoldoende digitale infrastructuur en een gebrek aan AI-vaardigheden staan in de weg van een succesvolle wijdverspreide toepassing van AI-technologie.
• AI-technologie zelf is niet gevaarlijk, maar sommige toepassingen zijn dat wel.
• Gelet op het feit dat AI-technologie nog volop ontwikkeld wordt, kan het werkelijke potentieel nog enkel verbeeld worden. Zowel in economisch als sociaal opzicht lijken de opportuniteiten die AI biedt enorm.

Over de plaats van de EU in de globale AI-race stelt het rapport dat de VSA en China het voordeel hebben van een grotere eengemaakte markt, grote flexibiliteit op het vlak van digitaal beleid en een sterkere politieke toewijding hebben tot het zijn of blijven van een leidende kracht in verband met AI. De EU heeft daarentegen het voordeel dat het verder staat op het vlak van regelgeving. Daarom moet de EU trachten om een ‘first-mover advantage’ te creëren door een toekomstgericht en innovatievriendelijk regelgevingskader voor de ontwikkeling en het gebruik van AI te ontwikkelen.

Wat betreft het tweede luik, weerklinken voornamelijk de reeds afgekondigde Europese beleidsvoorstellen (e.g. Data Strategy, Digital Compass, etc.) in het voorstel van rapport. Er wordt daarom enkel stilgestaan bij enkele opvallende passages.

Zo bevat het rapport een heel onderdeel met voorgestelde wijzigingen of aanvullingen aan de voorgestelde AI-verordening (§105-121). Dit is merkwaardig omdat het Europees Parlement de parlementaire debatten daaromtrent nog formeel moet aanvatten. De voorstellen kunnen dus worden beschouwd als voorafname op hoe bepaalde fracties binnen het Europees parlement denken dat de AI-verordening zou moeten worden aangepast. Interessante voorstellen zijn:

• De definitie van AI moet in lijn worden gebracht met hoe dat begrip op het niveau van de OESO wordt begrepen.
• ‘Laag risico’ toepassingen van AI moeten het voorwerp zijn van zelfregulering. Enkel ‘hoog risico’ AI-toepassingen vereisen een wetgevend kader.
• De parameters om te bepalen of een AI-toepassing een hoog risico vormt, moeten worden uitgebreid. Er moet worden rekening gehouden met o.a. de waarschijnlijkheid van een ‘worst-case scenario’, de gebruikte technieken en beheersmechanismen en de autonomie van het AI-systeem. Bij afkondiging zou dit onmiddellijk verduidelijkt moeten worden door middel van richtlijnen voor AI-ontwikkelaars.
• KMO’s en start-ups zouden een B2B-uitsluiting moeten verkrijgen, wat zou betekenen dat zij in B2B-relaties niet moeten voldoen aan de wettelijke vereisten. Op die manier wordt de financiële impact beperkt en zou het interessanter moeten zijn om in dergelijke bedrijven te investeren.
• Er zou een nieuwe set van ethische richtlijnen moeten worden aangenomen die zich concentreert op drie categorieën van waarden en principes. De tweede en derde categorie zouden slechts verplicht zijn in bepaalde gevallen (bv. bepaalde sectors of openbare aanbestedingen).
  • 1^e categorie: respect voor enkele fundamentele principes (bv. respect voor menselijke waardigheid)
  • 2^e categorie: goede praktijken in AI-ontwikkeling (bv. transparantie en uitlegbaarheid)
  • 3^e categorie: Duurzaamheidsprincipes
• Het vereiste dat AI-systemen zouden moeten getraind worden op ‘volledig foutvrije’ gegevens, moet worden veranderd.
• Er moet worden ingezet op het bieden van octrooibescherming aan AI-ontwikkelaars en er moet worden verduidelijkt of AI zelf intellectuele eigendomsrechten zou kunnen verkrijgen. (Onder het huidig recht kan dat eigenlijk niet.)
• Wat betreft algemene beleidsaanpak voor hoog risico AI-toepassingen, stelt het rapport voor om gebruik te maken van verplichte voorafgaande risico-zelfbeoordelingen, gecombineerd met markttoezicht en handhaving door de overheid. Zodoende zou de nalevingslast op organisaties beperkt moeten zijn.
• Logboeken van ‘algoritmische activiteit’ zouden veilig bewaard moeten worden en hoog risico AI-toepassingen zouden ‘killswitches’ moeten hebben.
• De huidige aansprakelijkheidsregels moeten niet ingrijpend aangepast worden, al moeten er wel specifieke wijzigingen gebeuren (zoals bv. de begrippen product en producent uit het productaansprakelijkheidsrecht). In die context wordt ook geopperd om een aansprakelijkheidsmechanisme te creeëren rond de ‘operator’ van een AI-systeem (met een strikte aansprakelijkheid in geval van hoog risico AI, en een foutvermoeden ten nadele van de operator in geval van laag risico AI).

Andere opmerkelijke passages zijn:

• In §142 wordt opgeroepen tot de oprichting van regulatory sandboxes.
• In §152 roept het rapport de EU-lidstaten op om bevoegdheden op het vlak van cyberveiligheid toe te kennen aan de EU.
• In §154 wordt gesteld dat het gebruik van AI voor nationale veiligheid of militaire doeleinden niet onder burgerlijke AI-regulering zou mogen vallen.