SAMENVATTING

De Spaans wetsbepaling is de eerste in zijn soort en heeft als doel om werknemers, door middel van algoritmische transparantie, een zekere mate van controle te geven over de AI-systemen die een invloed hebben op hun arbeidssituatie. Vrij vertaald, klinkt de bepaling als volgt:

“De werknemersraad heeft het recht om op gezette tijdstippen, door de onderneming, te worden geïnformeerd over de parameters, regels en instructies die gebruikt worden door de algoritmes of artificiële intelligentie-systemen, met inbegrip van profilering, die een invloed hebben op de besluitvorming die gevolgen kan hebben voor de arbeidsvoorwaarden, de toegang tot en het behoud van werk.”

Deze bepaling vindt zijn oorsprong in de discussie omtrent de arbeidsrechtelijke status van maaltijdkoeriers (zelfstandig of niet). Net zoals in verschillende andere Europese landen, hebben Spaanse rechtbanken herhaaldelijk geoordeeld dat dergelijke “riders” werknemers zijn, en geen zelfstandigen (waardoor ze beter sociaal beschermd zijn). Een belangrijke factor in die context is dat veel van dergelijke digitale platformen gebruik maken van algoritmes die bepaalde minimumvereisten opleggen. Indien een koerier de vooropgestelde vereisten niet haalt, zal dat, vaak automatisch, negatieve gevolgen hebben (en mogelijk resulteren in een ontslag).

Deze norm heeft dan ook als doel om ervoor te zorgen dat dergelijke algoritmes niet enkel de commerciële belangen in acht nemen, maar ook mensen-en arbeidsrechten. Door een transparantieverplichting omtrent de gebruikte parameters, regels en instructies op te leggen, wordt er geprobeerd om de werking van dergelijke algoritmes uit de obscuriteit te halen.

De bepaling heeft echter ook beperkingen:

• Zo wordt niet bepaald hoe werknemers wijzigingen aan het algoritme kunnen afdwingen of, meer algemeen, welke juridische handelingen zij zouden kunnen stellen ter afdwinging van hun informatierecht. Van werkelijke of rechtstreekse controle is er dus niet echt sprake en de vraag stelt zich naar hoe deze vereiste in feite zal worden afgedwongen/gerespecteerd (bv. hoe regelmatig is “op gezette tijdstippen”? Wat wordt er begrepen onder “parameters, regels en instructies”?)
• Het gaat niet om een individueel maar een collectief informatierecht, ten voordele van een werknemersraad (cfr. ondernemingsraad in België). Dat betekent dat kleinere bedrijven (< 50 werknemers) niet aan deze verplichting moeten voldoen. Daarenboven blijken dergelijke werknemersraden in Spanje gebonden door vertrouwelijkheidsverplichtingen, wat de mogelijkheid tot publiek debat of onderzoek beperkt.

Tot slot, de Spaanse regering plant een expertengroep op te richten met als taak om de effecten van algoritmes en AI op de werkgelegenheid te onderzoeken, in een poging om "naar een eerlijke en op rechtengebaseerde technologische transitie te gaan". Dit zou kunnen betekenen dat de tekortkomingen van de bepaling in de nabije toekomst worden verholpen. In die zin heeft een van de grootste Spaanse vakbonden al voorgesteld om het toepassingsgebied en -voorwaarden van de nieuwe norm te verruimen, een register voor algoritmes te creëren, een ruimer recht op uitleg, een aangepaste aansprakelijkheidsregeling en auditrechten te voorzien - vergelijkbaar met de bepalingen van het Europese voorstel van AI-verordening (cfr. de vereisten die zouden gelden voor risicovolle AI-systemen: bv. transparantie, data kwaliteit en uitlegbaarheid).