Illustratie door Matt Cole via Vecteezy.com

De goedkeuring van de AI-verordening door het Europees Parlement heeft geen einde gemaakt aan de discussie rond de juridische definitie van AI. Integendeel, er heerst meer dan ooit onduidelijkheid over wat het begrip precies inhoudt. Deze blog werpt een blik op de veelbesproken definitie van AI en tracht de pijnpunten ervan bloot te leggen. Zowel het vage taalgebruik, het vrijblijvende karakter van een aantal belangrijke criteria, als het gebrek aan afstemming tussen concepten als autonomie en aanpassingsvermogen, kunnen de implementatie van de verordening bemoeilijken.

Wat is AI?

Het heeft heel wat voeten in de aarde gehad om tot een Europese definitie van AI te komen. De Commissie, het Parlement en de Raad hebben elk hun eigen versie voorgesteld. Na lange onderhandelingen heeft het Parlement de AI-verordening op 13 maart eindelijk goedgekeurd. Nu de tekst zo goed als vaststaat, is dit het uitgelezen moment om eens te kijken naar wat er precies is overeengekomen.

Volgens artikel 3(1) van de AI-verordening, is een AI systeem “een machinaal systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na de uitrol aanpassingsvermogen kan vertonen en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen.” Uit deze definitie volgt dat er drie functionele criteria zijn op basis waarvan een onderscheid kan gemaakt worden tussen een AI systeem enerzijds, en andere machinale systemen anderzijds. Het gaat over:

• (i) autonomie
• (ii) aanpassingsvermogen
• (iii) inferentievermogen.

Overweging 12 van de AI-verordening verduidelijkt hoe deze criteria moeten worden geïnterpreteerd. “Autonomie” betekent dat AI-systemen “een zekere mate van onafhankelijkheid van menselijke betrokkenheid bezitten en zonder menselijke tussenkomst kunnen functioneren.” “Aanpassingsvermogen” heeft dan weer betrekking op “zelflerende capaciteiten, waardoor het systeem tijdens het gebruik kan veranderen.” Daarnaast slaat “inferentievermogen” op “het proces waarbij output, zoals voorspellingen, inhoud, aanbevelingen of besluiten, wordt verkregen waarmee fysieke en virtuele omgevingen kunnen worden beïnvloed, en het vermogen van AI-systemen om modellen of algoritmen af te leiden uit input of data.” Overweging 12 van de AI-verordening verduidelijkt verder dat de “technieken die inferentie mogelijk maken bij de opbouw van een AI-systeem, benaderingen omvatten op basis van machinaal leren waarbij aan de hand van gegevens wordt geleerd hoe bepaalde doelstellingen kunnen worden bereikt, alsook op logica en kennis gebaseerde benaderingen waarbij iets wordt geïnfereerd uit gecodeerde kennis of uit een symbolische weergave van de op te lossen taak.” Het inferentievermogen van een AI-systeem overstijgt tot slot “de elementaire verwerking van gegevens en maakt leren, redeneren of modelleren mogelijk.”

Is deze definitie werkbaar?

Hoewel de EU duidelijk haar inspiratie heeft gehaald bij de OESO, blijft de definitie van de AI-verordening problematisch. Vooral het gebrek aan precisie van een aantal kerncriteria en drempels roept vragen op. Zo blijft het begrip “autonomie” bijzonder vaag. Men kan zich bijvoorbeeld de vraag stellen welk niveau van autonomie minimaal vereist is om aan dit criterium te voldoen. Verduidelijking is hier dus op zijn plaats. Bovendien geeft overweging 12 een te mechanistische invulling aan het begrip “autonomie” en lijkt de AI-verordening “autonoom” te verwarren met “automatisch”. Niet elk systeem dat zonder menselijke tussenkomst kan functioneren is immers noodzakelijk gebaseerd op AI. Een industriële robot kan bijvoorbeeld perfect zelfstandig bandwerk verrichten. De mens moet de robot enkel aanzetten en de rest gaat vanzelf. Hoewel er niet per se AI aan te pas komt, is de robot toch “autonoom” volgens de AI-verordening.

De AI-verordening verwaarloost dus het conceptuele onderscheid tussen autonoom en automatisch. Om dit punt te verduidelijken nemen we een korte filosofische omweg langs Immanuel Kant. Volgens Kant bestaat autonomie uit de keuze om zich vrijwillig aan bepaalde regels te onderwerpen, zonder druk van buitenaf. Om werkelijk autonoom te zijn zou de industriële robot uit ons voorbeeld zichzelf dus vrijwillig bepaalde regels moeten opleggen door zelf zijn parameters aan te passen. Autonomie en aanpassingsvermogen zijn met andere woorden twee kanten van dezelfde medaille. Het ene kan niet zonder het andere. De AI-verordening, daarentegen, haalt autonomie en aanpassingsvermogen uit elkaar. Aanpassingsvermogen is slechts een vrijblijvende eigenschap van AI systemen, geen dwingende vereiste. Dit blijkt uit het gebruik van het woord “kan” in artikel 3(1) en overweging 12 van de AI-verordening. Bijgevolg lijkt dit criterium weinig nut te hebben in de juridische definitie van AI, wat de verwarring alleen maar groter maakt. Kortom, het criterium van “aanpassingsvermogen” is relatief zwak. Dit heeft bovendien een vervelende bijwerking. Omdat aanpassingsvermogen gescheiden wordt van autonomie, verliest dit laatste begrip ook aan betekenis.

Inferentievermogen lijkt dus het meest bepalende criterium in de definitie van AI. Dit begrip is echter zeer ruim. Inferentievermogen omvat zowel benaderingen op basis van machinaal leren, als op logica en kennis gebaseerde benaderingen. Hier loert Bayesiaanse statistiek nog steeds om de hoek. Het originele voorstel van de Commissie maakte een onderscheid tussen drie verschillende AI-benaderingen. Naast machinaal leren en op logica en kennis gebaseerde benaderingen, verwees de Commissie ook naar statistische methoden en naar Bayesiaanse kansrekening in het bijzonder. Hiervan is in de nieuwe definitie gelukkig geen sprake meer. Toch is het nog steeds mogelijk dat de AI-verordening van toepassing is op geautomatiseerde statistische modellen. De opsomming van inferentietechnieken in overweging 12 van de AI-verordening is namelijk niet exhaustief. Het is bijgevolg niet uit te sluiten dat statistische methoden onder de definitie van AI vallen. Bovendien is het verschil tussen machinaal leren en statistiek niet altijd even duidelijk. Bayesiaanse inferentie was namelijk eerst een statistische methode alvorens het gebruikt werd in machinaal leren. Het inferentiecriterium bevat dus onvoldoende nuance om uitsluitsel te bieden over twijfelgevallen. Aanpassingsvermogen kan daarentegen wél als criterium dienen om een onderscheid te maken tussen machinaal leren en loutere statistische modellen. Gelman legt de vinger op de wonde: “Een statistisch model is een soort machine die gedurende een tijd lang zelfstandig kan functioneren, maar uiteindelijk onderhoud en aanpassing aan nieuwe omstandigheden vereist.” Het is dus des te jammer dat “aanpassingsvermogen” in de definitie van AI vrijblijvend is.

De geschiedenis en toekomst van de AI-verordening

De verwarrende definitie van de AI-verordening valt vooral op in vergelijking met haar inspiratiebron, de OESO-definitie van AI. Volgens de OESO is een AI-systeem “een machinaal systeem dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen. AI systemen variëren naargelang hun niveau van autonomie en aanpassingsvermogen na de uitrol.” De OESO-definitie is minder vrijblijvend en daarom werkbaarder dan de definitie van de AI-verordening. Er wordt namelijk van uitgegaan dat ieder AI systeem over een minimaal niveau van autonomie en aanpassingsvermogen beschikt. Bovendien houdt de OESO-definitie geen rekening met de intenties van de ontwerper van een AI-systeem. De AI-verordening is daarentegen van toepassing op AI systemen die ontworpen zijn om met verschillende niveaus van autonomie te werken. Dat leidt tot de vraag of een systeem kwalificeert als AI indien het aan de criteria van de definitie van de AI-verordening voldoet, zonder evenwel met die bedoeling te zijn ontworpen, of andersom. De OESO-definitie laat daarentegen geen ruimte voor zulke verwarring. Er wordt enkel gekeken naar het functionele aspect van AI systemen. De intenties van de ontwerper spelen géén rol.

Hoewel het allesbehalve eenvoudig is om AI te definiëren, creëren de veranderingen van de EU aan de OESO-definitie enkel meer juridische onzekerheid. Er wacht rechters bijgevolg een moeilijke opdracht om een eenduidige interpretatie te geven aan de definitie van de AI-verordening. Uiteraard kunnen zij hierbij steunen op richtlijnen van het AI-bureau en de bevoegde nationale autoriteiten. Zoals besproken in deze blog, zal er vooral aandacht moeten worden besteed aan de betekenis van begrippen zoals “autonomie”, “aanpassingsvermogen” en “inferentievermogen”. Ook de onderlinge relatie tussen deze drie criteria zal verder moeten worden uitgeklaard.

Over de auteurs

Deze blog werd geschreven door Tervel Bobev (in het EN) en vertaald door Arno Cuypers, juridische onderzoekers aan CiTiP-KULeuven. De auteur bedankt Thomas Gils voor feedback bij het schrijven.

Originele versie: https://www.law.kuleuven.be/citip/blog/defining-ai-in-the-ai-act-pin-the-tail-on-the-system/

Deze blog werd mede mogelijk gemaakt door de onderzoeksprojecten RE4DY (Grant Agreement no. 101058384) en MOZAIK (FWO - SBO dossier S003321N)