Ten eerste wil deze vereiste onrechtvaardige vertekening (bias) voorkomen.

De gegevenssets die in AI-systemen gebruikt worden kunnen onvolledig zijn, onbedoelde historische vertekeningen of slechte governance-modellen bevatten. Hierdoor kunnen er onbedoelde (in)directe vooroordelen en discriminatie tegen bepaalde groepen of mensen ontstaan. Dit kan vooroordelen en marginalisering mogelijks versterken. Aanwijsbare en discriminerende vertekening moet in de verzamelingsfase waar mogelijk worden verwijderd. Er kan ook sprake zijn van vertekening in de manier waarop AI-systemen worden ontwikkeld (bijv. het programmeren van algoritmen). Deze vertekening kan worden tegengegaan door toezichtsprocessen in te stellen om het doel, de beperkingen, de vereisten en de beslissingen van het systeem op een heldere en transparante manier te analyseren en te behandelen.

Ten tweede houdt het verband met toegankelijkheid en universeel ontwerp.

Met name in B2C-domeinen (Business to Consumer) moeten systemen gericht zijn op de gebruiker en op zo’n manier ontworpen zijn dat alle mensen gebruik kunnen maken van AI-systemen of diensten, ongeacht hun leeftijd, geslacht, mogelijkheden of karakteristieken. In het bijzonder is het belangrijk dat deze technologie toegankelijk is voor mensen met een beperking. AI-systemen zouden geen gebruik mogen maken van een one size fits all benadering, maar moeten principes van universeel ontwerp in overweging nemen, gericht op het breedst mogelijke scala aan gebruikers, hierbij rekening houdend met de relevante toegankelijkheidsstandaarden.

Ten derde staat participatie van belanghebbenden centraal.

Om betrouwbare AI-systemen te ontwikkelen is het aangeraden om de belanghebbenden te raadplegen die gedurende de levenscyclus van het project, er direct of indirect mee te maken zullen hebben. Het is nuttig om, ook na de implementatie, regelmatig feedback te vragen en initiatieven op lange termijn op te stellen voor de participatie van belanghebbenden, bijvoorbeeld door te verzekeren dat werknemers geïnformeerd en geconsulteerd worden en ook kunnen participeren gedurende het volledige toepassingsproces van AI in een organisatie.

Binnen dit principe behandelen we de volgende subcomponenten:

• voorkomen van onrechtvaardige vertekeningen
• verzekeren van toegankelijkheid en universeel ontwerp

Voorkomen van onrechtvaardige vertekening (bias)

Is er een strategie of procedure opgesteld om de creatie of versterking van oneerlijke bias te vermijden, zowel betreffende het gebruik van inputdata als voor het ontwerp van het algoritme? Werd rekening gehouden met diversiteit en representativiteit van eindgebruikers en/of onderwerpen in de data?

• Algemeen

Er zijn reeds verschillende voorbeelden van AI-systemen die discrimineren. Denk aan robot TAY die binnen de kortste keren racistisch werd, Google Photos dat zwarte vrienden per ongeluk kwalificeerde als apen of het algoritme van Amazon dat vrouwen discrimineerde tijdens een sollicitatie. Er zijn (vooralsnog) geen specifieke bepalingen rond discriminatie door AI-systemen. Toch is er al heel wat relevante anti-discriminatie wetgeving die mogelijks relevant is in een AI-context, zeker omdat het vaak mensen zijn of vooroordelen die aan de basis liggen van bias in AI-systemen.

De toepasselijke en relevante wetgeving rond anti-discriminatie is vrij uitgebreid en terug te vinden op Europees, nationaal en regionaal niveau. Deze wetgeving kan zowel algemeen als specifiek zijn en dient als inspiratiebron voor specifieke wetgeving om algoritmische discriminatie tegen te gaan.

• Algemene bepalingen rond anti-discriminatie: Europees Verdrag Rechten van de Mens

Er is heel wat Europese regelgeving rond discriminatie in het algemeen. Het Europees Verdrag voor de Rechten van de Mens (EVRM) is een verdrag dat afdwingbaar is en waarin de mensen- en burgerrechten voor alle inwoners van de lidstaten van de Raad van Europa zijn geregeld.

Art. 14 voorziet in een verbod van discriminatie. Het genot van de rechten en vrijheden in het EVRM moet worden verzekerd zonder enig onderscheid op welke grond ook, zoals geslacht, ras, kleur, taal, godsdienst, politieke of andere mening, nationale of maatschappelijke afkomst, het behoren tot een nationale minderheid, vermogen, geboorte of andere status.

Rechtspraak van het Europese Hof voor de Rechten van de mensen toont dat zowel directe als indirecte discriminatie verboden is.

Bij directe discriminatie wordt iemand expliciet ongelijk behandeld op basis van een beschermde grond, bijvoorbeeld nationaliteit of geslacht. In het geval van indirecte discriminatie gaat het om een praktijk die op het eerste zicht neutraal lijkt, maar die in realiteit leidt tot discriminatie van personen op basis van een beschermde grond zoals etniciteit. In dit laatste geval is het niet relevant of er de intentie was om te discrimineren, het zijn de gevolgen van de praktijk die gelden.

• Algemene bepalingen rond anti-discriminatie: Europese Unie

De verwijzing naar non-discriminatie is terug te vinden in de basisverdragen van de EU:

• Art. 20-26 Handvest van de grondrechten van de Europese Unie: gelijkheid voor de wet, non-discriminatie, verscheidenheid van cultuur, godsdienst en taal, de gelijkheid van mannen en vrouwen, de rechten van het kind, de rechten van ouderen en de integratie van personen met een handicap;
• Art. 10 Verdrag betreffende de werking van de Europese Unie: bestrijding van iedere discriminatie op grond van geslacht, ras of etnische afkomst, godsdienst of overtuiging, handicap, leeftijd of seksuele gerichtheid;
• Art. 2, 3(3) en 9 van het Verdrag betreffende de Europese Unie: nadruk op gelijkheid, non-discriminatie, rechtvaardigheid, pluralisme, de rechtsstaat en eerbiediging van mensenrechten waaronder de rechten van personen die tot minderheden behoren.

De EU heeft 4 algemene richtlijnen rond discriminatie uitgevaardigd:

• Richtlijn 2000/43 van 29 juni 2000 voorziet in een gelijke behandeling van personen ongeacht ras of etnische afstamming;

• Richtlijn 2000/78 van 27 november 2000 voorziet in een algemeen kader voor gelijke behandeling in arbeid en beroep. De criteria zijn godsdienst of overtuiging, handicap, leeftijd, seksuele geaardheid;
• Richtlijn 2004/113 van 13 december 2004 en Richtlijn 2006/54 van 5 juli 2006 (herschikking) voorziet in gelijke kansen en gelijke behandeling van mannen en vrouwen in arbeid en beroep. De criteria zijn geslacht inclusief zwangerschap en moederschap.

Ook op het niveau van de EU is zowel directe als indirecte discriminatie verboden. Daarnaast heeft de EU een aantal specifieke richtlijnen uitgevaardigd:

• Richtlijn 79/7 van 19 december 1978 betreffende de geleidelijke tenuitvoerlegging van het beginsel van gelijke behandeling van mannen en vrouwen op het gebied van de sociale zekerheid. De richtlijn is van toepassing op de beroepsbevolking;
• Richtlijn 2010/41 van 7 juli 2010 betreffende de toepassing van het beginsel van gelijke behandeling van zelfstandig werkzame mannen en vrouwen;
• Richtlijn 2010/18 van 8 maart 2010 inzake een raamovereenkomst over ouderschapsverlof.

Bovendien moet er rekening gehouden met de regelgeving rond de verwerking van persoonsgegevens, waarin gewaarschuwd wordt voor mogelijke discriminerende gevolgen zoals:

• De AVG;
• Richtlijn 2016/680 van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen;
• Richtlijn (2016/681 van 27 april 2016 over het gebruik van persoonsgegevens van passagiers (PNR-gegevens) voor het voorkomen, opsporen, onderzoeken en vervolgen van terroristische misdrijven en ernstige criminaliteit.

• Algemene bepalingen rond anti-discriminatie: Belgische wetgeving

Die 4 Europese Richtlijnen werden op federaal niveau omgezet in de onderstaande 3 wetten van 10 mei 2007. Zij vormen de juridische basis voor de bestrijding van discriminatie.

• Wet van 30 juli 1981 tot bestraffing van bepaalde door racisme of xenofobie ingegeven daden gewijzigd door de wet van 10 mei 2007. Deze wet verbiedt discriminatie op basis van nationaliteit, zogenaamd ‘ras’, huidskleur, afkomst of nationale of etnische afstamming;

• Wet van 10 mei 2007 ter bestrijding van bepaalde vormen van discriminatie. Deze wet verbiedt discriminatie op grond van geloof of levensbeschouwing, handicap, leeftijd, seksuele geaardheid, burgerlijke staat, vermogen, politieke overtuiging, syndicale overtuiging, taal, huidige of toekomstige gezondheidstoestand, fysieke of genetische eigenschap, sociale afkomst;

• Algemene bepalingen rond anti-discriminatie: Vlaamse wetgeving

• Wet van 10 mei 2007 ter bestrijding van discriminatie tussen vrouwen en mannen.
  Deze wet verbiedt elke vorm van discriminatie op basis van geslacht. Discriminatie op basis van geslachtsverandering, genderidentiteit en genderexpressie wordt hieraan gelijkgesteld.

In Vlaanderen is het antidiscriminatiebeleid vastgelegd in een aantal decreten:

• Decreet van 8 mei 2002 houdende evenredige participatie op de arbeidsmarkt.
  Dit decreet beschrijft dat alle groepen uit de bevolking evenveel recht hebben om aan de arbeidsmarkt deel te nemen, ongeacht de specifieke eigenschappen van bepaalde bevolkingsgroepen;

• Decreet van 10 juli 2008 houdende een kader voor het Vlaamse gelijkekansen- en gelijkebehandelingsbeleid. Dit decreet is de omzetting van de 4 eerder aangehaald Europese Richtlijnen;

• Specifieke bepalingen rond anti-discriminatie

• Decreet private arbeidsbemiddeling van 10 december 2010. Dit decreet bevat een beperkt aantal bepalingen over discriminatie (o.a. de wetgeving voor uitzendkantoren).

Naast de algemene bepalingen zijn er ook een aantal specifieke bepalingen rond discriminatie. Deze zijn onder andere opgenomen in art. III.2 WER over de vrijheid van vestiging. Het vergunningstelsel mag geen discriminerende werking hebben ten aanzien van de betrokken dienstverrichter. Voorbeelden zijn een betere behandeling van de Belgische dienstverlener, het opleggen van bijkomende voorwaarden aan de buitenlandse dienstenverlener. Ook ten aanzien van afnemers van diensten wordt bepaald dat ze niet onderworpen mogen worden aan discriminerende vereisten op grond van nationaliteit of woonplaats (art. III.80-81 WER). Voorbeelden zijn de ontvangst van televisiediensten afkomstig van een andere lidstaat, overeenkomsten inzake mobiele telefonie, aanbod van goederen en diensten op het internet.

Een andere bepaling houdt verband met de toegang tot betaalrekeningen en basisbankdienst. De consument mag op geen enkele manier worden gediscrimineerd op grond van zijn nationaliteit of verblijfplaats, of op grond van een zogenaamd ras, huidskleur, afkomst of nationale of etnische afstamming (art. VII.56/1 WER). Deze verplichting van non-discriminatie geldt wanneer de consument de opening van een betaalrekening aanvraagt, er toegang toe krijgt of een dergelijke rekening aanhoudt, of wanneer hij wenst gebruik te maken van de basisbankdienst. Voor wat betreft de basisbankdiensten mag er “in generlei opzicht” andere discriminatie zijn, zoals bijvoorbeeld de financiële situatie van de consument (art. VII.57 §2 WER).

Er zijn ook anti-discriminatie bepalingen in voege over het sluiten van een kredietovereenkomst. Een kredietgever is gehouden tot het raadplegen van de Centrale om de kredietwaardigheid van de persoonlijke zekerheidsstellers of consumenten te beoordelen. De voorwaarden inzake toegang tot de Centrale of elke ander bestand dat aangewend wordt om de kredietwaardigheid van de consument of een persoonlijke zekerheidssteller te beoordelen, of om na te gaan of deze kredietwaardigheid wordt gehandhaafd, mogen niet discriminerend zijn (art. VII.77.1 § 1 WER).

Op het gebied van verzekeringen gelden de algemene wetten. Verzekeringsmaatschappijen maken gebruik van segementering. Dit is een techniek die de verzekeraar aanwendt om de premie en eventueel ook de dekking te differentiëren in functie van een aantal specifieke karakteristieken van het te verzekeren risico, met de bedoeling tot een betere overeenstemming te komen tussen de verwachtingswaarde van de schade en de kosten die een bepaalde persoon ten laste legt van de collectiviteit van de verzekeringnemers en de premie die hij voor de geboden dekking moet betalen. De wet betreffende de verzekeringen stelt wel dat elke segmentatie op het vlak van acceptatie, tarifering en/of de omvang van de dekking objectief moet worden gerechtvaardigd door een legitiem doel en de middelen voor het bereiken van dat doel moeten passend en noodzakelijk zijn (art. 44).

Werd gezorgd voor een mechanisme dat het mogelijk maakt om problemen met bias, discriminatie of de slechte prestaties van het AI-systeem aan te geven?

• Gegevensbescherming

Onder de AVG moet elke organisatie die persoonsgegevens verwerk nagaan of daar risico’s aan verbonden zijn. Indien een organisatie vermoedt dat een AI-systeem naar alle waarschijnlijkheid een hoog risico inhoudt voor de rechten en vrijheden van natuurlijke personen, moet zij een GEB uitvoeren (art. 35).

Bovendien kunnen betrokkenen zelf actie ondernemen door een beroep te doen op hun recht op inzage en hun recht op rectificatie. Betrokkenen kunnen te weten komen welke informatie een organisatie over hun in bezit heeft (art. 15). Dit stelt hen in staat om te controleren of deze informatie juist en volledig is. Is dit niet het geval, dan kunnen ze om een rectificatie van hun persoonsgegevens verzoeken (art. 16).

• Productveiligheid

Ook voor producten of diensten die gebruik van maken van AI (embedded software) zijn er reeds een aantal relevante bepalingen voorhanden. Dit kwam bij vorige vereisten al uitvoerig aan bod.

In navolging van art. 5, lid 1 van de Richtlijn Productveiligheid bepaalt art. IX.8 §2 WER dat de producenten van producten en diensten binnen het bestek van hun activiteiten maatregelen moeten nemen die zijn afgestemd op de kenmerken dan de door hen geleverde producten en diensten om 1) op de hoogte te blijven van de risico’s van deze producten en diensten en 2) de passende acties te ondernemen om de risico’s van deze producten te voorkomen. Dit omvat het uit de handel nemen, het aangepast en doeltreffend waarschuwen van de gebruikers en het terugroepen. Art. IX.8 §3 WER voorziet voor de distributeurs dat zij bijdragen tot de naleving van de veiligheidseisen o.a. binnen het bestek van hun activiteiten deelnemen aan de bewaking van de veiligheid van de op de markt gebrachte producten.

Krachtens art. IX.8 §4 WER stellen de producenten en distributeurs het Centraal Meldpunt voor Producten onmiddellijk in kennis wanneer zij weten, of op grond van de hun ter beschikking staande gegevens beroepshalve behoren te weten, dat een product of dienst voor de gebruiker risico’s met zich meebrengt die onverenigbaar zin met de algemene veiligheidsverplichting. Deze verplichting geldt ook voor de producenten en distributeurs van producten die aan specifieke veiligheidswetgeving onderworpen zijn. Soms worden ook specifieke verplichtingen opgelegd door Europese regelgeving (bv. art. 11 van de Bouwproductenverordening).

Zowel producenten als distributeurs hebben de verplichting om tijdens de levensduur van producten deel te nemen aan de constante bewaking van de productveiligheid en gebruikers de informatie ter beschikking stellen die hem in staat stelt zich een oordeel te vormen over de aan een product inherente risico’s gedurende (art. IX.8 van het WER).

Zowel voor als het op de markt brengen van een product of dienst is de producent verplicht om alle mogelijke bedreigingen te testen die het product kunnen treffen teneinde te kunnen voldoen aan de algemene veiligheidsverplichting, de bewakingsplicht en andere verplichtingen zoals vermeld in specifieke regelgeving. Deze verplichtingen werden hierboven reeds besproken.

Artikel 8 van de Wet Productaansprakelijkheid bepaalt dat de producent aansprakelijk is voor de schade die veroorzaakt wordt door veilige producten, tenzij hij o.a. bewijst dat het op grond van de stand van de wetenschappelijke en technische kennis op het tijdstip waarop hij het product in het verkeer bracht onmogelijk was het bestaan van het gebrek te ontdekken. Een producent van producten heeft er dus alle baat bij om de risico’s en bedreigingen op voorhand te identificeren.

De risico-gebaseerde aanpak van de veiligheidsverplichting impliceert dat voor bepaalde producten strengere regels gelden dan voor andere. Voor bepaalde categorieën van producten (bv. voor medische hulpmiddelen of bepaalde machines) kunnen strengere conformiteitsbeoordelings-procedures worden opgelegd dan andere. Dit houdt op zich reeds in dat er een onderscheid wordt gemaakt in de risico’s van verschillende producten.

Een risico-inschatting moet ook altijd worden gemaakt bij het nemen van corrigerende maatregelen door producenten. In de praktijk wordt bij het plannen van een corrigerende maatregel altijd een risicobeoordeling gemaakt. Dit wordt verduidelijkt doordat uitdrukkelijk wordt bepaald dat ‘passende’ acties moeten worden genomen om de risico’s van de producten te voorkomen. In de praktijk zal men eerst een risicobeoordeling uitvoeren, zowel wanneer het product op de markt wordt gebracht als bij een corrigerende maatregel. Deze hangt af van de corrigerende actie. De basisprincipes van deze risicobeoordeling werden reeds uitgelegd in de Gids voor corrigerende acties van de Europese Commissie.

Werden mechanismen voorzien om de rechtvaardigheid van een AI-systeem te waarborgen?

• Algemeen

De ontwikkeling, de installatie en het gebruik van AI-systemen moeten rechtvaardig zijn. De AI HLEG erkent dat er veel verschillende interpretaties van rechtvaardigheid bestaan. De groep stelt evenwel dat rechtvaardigheid zowel een inhoudelijke als een procedurele dimensie heeft.

• Inhoudelijk

Dit impliceert een toezegging om de gelijke en rechtvaardige verdeling van zowel voordelen als kosten te waarborgen en ervoor te zorgen dat personen en groepen vrij zijn van onrechtvaardige vertekening, discriminatie en stigmatisering. Indien onrechtvaardige vertekening kan worden voorkomen, zouden AI-systemen zelfs de maatschappelijke rechtvaardigheid kunnen vergroten. Gelijke kansen wat betreft toegang tot onderwijs, goederen, diensten en technologie moeten ook worden bevorderd. Daarnaast mag het gebruik van AI-systemen nooit tot gevolg hebben dat de (eind)gebruikers worden misleid of worden beperkt in hun keuzevrijheid. Verder impliceert rechtvaardigheid dat beroepsbeoefenaars op het gebied van AI het beginsel van evenredigheid tussen middelen en doelen moeten eerbiedigen en zorgvuldig moeten afwegen hoe ze tegengestelde belangen en doelstellingen in evenwicht kunnen brengen.

• Procedureel

Dit omvat het vermogen om beslissingen die worden genomen door AI-systemen en door de mensen die deze systemen beheren, aan te vechten en er effectief beroep tegen in te stellen. Om dat te kunnen doen moet de entiteit die verantwoordelijk is voor de beslissing, identificeerbaar zijn en moet het besluitvormingsproces verklaarbaar zijn.

• Gegevensbescherming

Persoonsgegevens moeten worden verwerkt op een wijze die ten aanzien van de betrokkene rechtmatig, behoorlijk en transparant is (art. 5 AVG).

Werden opleidings- en bewustwordingsinitiatieven opgezet om AI-ontwerpers en ontwikkelaars bewust te maken van de mogelijke bias die ze kunnen inbrengen in het ontwerp en de ontwikkeling van het AI-systeem?

Hoewel er in wetgeving niet meteen iets te vinden is, zijn er een aantal voorbeelden en gebruiken die ontwerpers en ontwikkelaars hierover willen bewust maken zoals de Machine Learning Crash Course, Google’s Responsible AI Practices en enkele informatieve blogs. Ook in verschillende AI-opleidingen komen ethische aspecten reeds uitvoerig aan bod.

Toegankelijkheid en universeel ontwerp

Werd ervoor gezorgd dat het AI-systeem overeenkomt met de diversiteit aan voorkeuren en vaardigheden in de samenleving?

Het VN Verdrag inzake de Rechten van Personen met een Handicap bevat een bepaling over toegankelijkheid. Teneinde personen met een handicap in staat te stellen zelfstandig te leven en volledig deel te nemen aan alle facetten van het leven, moeten overheden passende maatregelen nemen om personen met een handicap op voet van gelijkheid met anderen de toegang te garanderen tot de fysieke omgeving, tot vervoer, informatie en communicatie, met inbegrip van informatie-en communicatietechnologieën en -systemen, en tot andere voorzieningen en diensten die openstaan voor, of verleend worden aan het publiek, in zowel stedelijke als landelijke gebieden (art. 9). Verder verschenen een aantal interessante documenten rond datakwaliteit en/of representativiteit in een AI-context.

Werd nagegaan of de user interface van het AI-systeem gebruikt kan worden door personen met speciale noden of beperkingen of personen die het risico lopen te worden uitgesloten?

• Verdragsrechtelijke bepalingen

Het VN Verdrag inzake de Rechten van Personen met een Handicap bevat opnieuw een relevante bepaling. Overheden nemen eveneens passende maatregelen om de toegang voor personen met een handicap tot nieuwe informatie en communicatietechnologieën en -systemen, met inbegrip van het internet, te bevorderen. Ook moeten maatregelen worden genomen om het ontwerp, de ontwikkeling, productie en distributie van toegankelijke informatie-en communicatietechnologieën, en communicatiesystemen in een vroeg stadium te bevorderen, opdat deze technologieën en systemen tegen minimale kosten toegankelijk worden (art. 9).

• Overheidsopdrachten

Richtlijn 2014/24 betreffende het plaatsen van overheidsopdrachten bepaalt dat voor alle aanbestedingen die zijn bedoeld voor gebruik door natuurlijke personen, hetzij door het grote publiek, hetzij door het personeel van de aanbestedende dienst, technische specificaties, uitgezonderd in behoorlijk gemotiveerde gevallen, zodanig moeten worden opgesteld dat rekening wordt gehouden met de criteria inzake toegankelijkheid voor personen met een handicap of de geschiktheid van het ontwerp voor alle gebruikers. In deze technische specificaties worden de voor een werk, dienst of levering gestelde kenmerken voorgeschreven (art. 42).

Ook in de Wet inzake overheidsopdrachten van 17 juni 2016 staan een aantal relevante bepalingen rond technische specificaties. In geval van overheidsopdrachten voor werken wordt een technische specificatie gedefinieerd als alle technische voorschriften opgenomen in de opdrachtdocumenten die een omschrijving geven van de vereiste kenmerken van een materiaal, een product of een levering, zodat dit of deze beantwoordt aan het gebruik waarvoor het materiaal, product of de levering door de aanbesteder is bestemd. Een ontwerp dat aan alle vereisten voldoet met inbegrip van de toegankelijkheid voor gehandicapten en gebruiksgeschiktheid behoren daartoe. Dit geldt ook voor overheidsopdrachten voor levering of voor diensten (art. 2, 44°).

• Toegankelijkheid van de websites en mobiele applicaties van overheidsinstanties

Op federaal niveau werd Richtlijn 2016/2102 omgezet in de wet van 19 Juli 2018 inzake toegankelijkheid van de websites en mobiele applicaties van overheidsinstanties. Overheidsinstanties nemen de noodzakelijke maatregelen om hun websites en mobiele applicaties toegankelijker te maken, overeenkomstig de bepalingen van deze wet, door ze waarneembaar, bedienbaar, begrijpelijk en robuust te maken. Op Vlaams niveau werd deze richtlijn opgenomen in het Vlaams Bestuursdecreet (Afdeling 4. Toegankelijkheid van websites en mobiele applicaties).

Richtlijn 2019/882 betreffende de toegankelijkheidsvoorschriften voor producten en diensten zal in de toekomst ook relevant zijn. De Richtlijn bevat toegankelijkheidsvoorschriften voor belangrijke producten en diensten zoals: telefoons, computers; bankdiensten voor consumenten; elektronische communicatiediensten met inbegrip van bijvoorbeeld telefoon- en internetdiensten; toegang tot audiovisuele mediadiensten en elektronische handel.

De Richtlijn bevat eveneens gemeenschappelijke toegankelijkheids­voorschriften inzake het ontwerp van de gebruikersinterface en van de functionaliteit van producten, en meer specifieke toegankelijkheids­voorschriften voor bepaalde elektronische apparatuur voor gebruik door consumenten. Voor consumentenproducten die onder de richtlijn vallen, moeten de verpakking, de montage-instructies en andere productinformatie toegankelijk zijn. De richtlijn moet uiterlijk omgezet zijn op 28 juni 2022.

Werd ervoor gezorgd dat er rekening gehouden werd met de beginselen van universeel ontwerp en toegang in elke stap van het proces?

• Algemeen

Het W3C Web Accessibility Initiative (WAI) ontwikkelt standaarden en ondersteuningsmateriaal om organisaties te helpen de toegankelijkheid te begrijpen en te implementeren. Er wordt daarbij een onderscheid gemaakt tussen de begrippen toegankelijkheid, bruikbaarheid en inclusie. Ook de Europese Richtlijn betreffende de toegankelijkheidsvoorschriften voor producten en diensten is van belang in dit opzicht.

• Standaarden

Er zijn een aantal standaarden.

• CEN/CLC/JTC 12 - Design for All
• European Committee for Standardization - Design for All bepaalt de eisen die een organisatie in staat moeten stellen om producten, goederen en diensten te ontwerpen, te ontwikkelen en te leveren, zodat ze toegankelijk zijn voor, begrepen worden door en gebruikt worden door een zo groot mogelijk aantal gebruikers, waaronder personen met een handicap.
• ISO/IEC 40500:2012 bevat een breed scala aan aanbevelingen voor het toegankelijker maken van web content. Het volgen van deze richtlijnen zal de inhoud toegankelijk maken voor een breder scala aan mensen met een handicap.
• ISO/IEC TR 29138-1:2018 definieert toegankelijkheidsoverwegingen voor mensen met een handicap, onafhankelijk van een bepaalde technologie, hardware of software.
• ISO/IEC 30071-1:2019 stelt eisen aan het ontwikkelingsproces in plaats van aan de daaruit voortvloeiende producten en diensten.
• W3C Web Content Accessibility Guidelines (WCAG) 2.0 geeft aanbevelingen voor het toegankelijk maken van web-content in het algemeen, en specifiek voor personen met een beperking.
• Authoring Tool Accessibility Guidelines (ATAG) voorzien richtlijnen voor het ontwerp van web-inhoud authoring tools die toegankelijk zijn voor personen met een handicap en om actoren te helpen meer toegankelijke web-inhoud te creëren.
• User Agent Accessibility Guidelines (UAAG) leggen uit hoe gebruikersagenten toegankelijk kunnen worden gemaakt voor mensen met een handicap.
• ETSI EN 301 549 is geschikt voor overheidsopdrachten voor ICT-producten en -diensten in Europa.
• Principles of Universal Design behelzen het ontwerp van producten en omgevingen om door iedereen te kunnen worden gebruikt mensen, voor zover mogelijk, zonder aanpassing of gespecialiseerd ontwerp.

Participatie van belanghebbenden

Participatie van belanghebbenden wordt benadrukt, maar de AI HLEG geeft geen voorbeelden van dergelijke mogelijkheden en werkt het concept ook niet verder uit. Participatie is een waarde die vaak geïdentificeerd wordt, maar zelden verder wordt geoperationaliseerd. Het zou helpen indien er concrete aanbevelingen gedaan zouden worden omtrent hoe belanghebbenden te engageren. Er moet ook werk gemaakt worden van de ontwikkeling van digitale skills van de bevolking zodat iedereen AI kan begrijpen, al is het maar op een basisniveau.

Er kan alvast inspiratie gevonden worden in de traditie van het participatory design waar gebruikers en belanghebbenden doorheen het volledige ontwikkelingstraject van een bepaalde oplossing/ beleid/product/dienst worden betrokken. Er kan worden onderzocht hoe die traditie zich kan vertalen naar AI-projecten. Digitale inclusie kan voor bepaalde toepassingen een extra aandachtspunt zijn.

Discriminatie

Indirecte discriminatie kan verborgen blijven voor zowel de organisatie als het slachtoffer. Zelflerende algoritmes zijn vaak ‘zwarte dozen’. Zo hebben de meeste mensen een gebrek aan expertise om te begrijpen hoe zulke systemen tot bepaalde beslissingen komen. Zelfs de experten die het systeem opgesteld hebben weten niet altijd hoe het systeem zich in de realiteit zal gedragen. Wegens het gebrek aan transparantie in beslissingen van zelflerende algoritmes, is het moeilijk voor personen om na te gaan of zij gediscrimineerd worden.

De wetgeving rond discriminatie beschermt personen tegen discriminatie op basis van bepaalde beschermde kenmerken zoals geslacht en etniciteit. Maar algoritmen kunnen nieuwe categorieën van personen genereren op basis van schijnbaar onschuldige kenmerken, bijvoorbeeld de keuze van webbrowser of postcode, en dus ook resulteren in discriminatie. Algoritmische besluitvorming kan sociale ongelijkheid versterken. Zo heeft algoritmische prijsbepaling er in een aantal gevallen toe geleid dat arme mensen hogere prijzen aangerekend kregen. Beleidsmatig kan/moet hier meer aandacht aan worden gegeven en kan hierover bijkomende informatie worden verzameld en verspreid. Er kan bijvoorbeeld worden nagegaan of het consumentenrecht in staat is een antwoord te bieden op algoritmische discriminatie en of er eventueel aanpassingen nodig zijn.

Opleidings- en bewustwordingsinitiatieven kunnen (blijvend) worden opgezet voor ontwikkelaars van AI-systemen. Hierbij moet niet alleen aandacht gaan naar de typische gronden voor discriminatie (bv. etniciteit, geslacht), maar ook naar mogelijk nieuwe vormen van discriminatie (bv. browsergedrag) en naar de mogelijkheid dat op het eerste zicht ‘onschuldige’ gegevens (bv. postcode, diploma) toch kunnen leiden tot een vorm van discriminatie. Instrumenten zoals een GEB of een AIIA zijn belangrijk om mogelijke risico’s vanaf de beginfase van een AI-systeem in te schatten. De AIIA en de GEB maken beide gebruik van een risicobenadering en hanteren gedeeltelijk dezelfde logica. Beide instrumenten zijn complementair, maar niet onderling inwisselbaar. Een GEB is enkel gericht op de risico’s die verwerking van persoonsgegevens met zich mee kan brengen voor de betrokkene. De AIIA is een breder instrument dat zich richt op alle mogelijke ethische en juridische vraagstukken die geassocieerd kunnen worden met de toepassing van AI. Bovendien kijkt de AIIA niet alleen naar risico’s, maar biedt het ook een kader voor het maken van ethische keuzes voor de inzet van AI.

Beleidsmakers kunnen nagaan of en in welke mate een dergelijke beoordeling aangewezen zou zijn voor organisaties. Zij kunnen tevens nagaan of er adequate mechanismen voorhanden zijn die problemen met bias, discriminatie of de slechte prestaties van het AI-systeem aangeven. Indien dit niet het geval zou zijn kan er onderzocht worden of de ontwikkeling van een dergelijk mechanisme mogelijk is en op welke manier. Te denken valt bijvoorbeeld aan een meldpunt voor problemen in verband met AI-systemen.

Inclusie

De AI HLEG benadrukt de noden van personen met een speciale nood of handicap of degenen die het risico lopen te worden uitgesloten. Bovendien stelt ze ook vragen rond de vertegenwoordiging van verschillende groepen uit de samenleving en de mogelijke gevolgen van een dergelijke vertegenwoordiging voor de toegankelijkheid en de inclusiviteit.

Er worden echter geen vragen gesteld over mogelijke problemen rond toegang die kunnen voortvloeien uit financiële criteria of technologische ongeletterdheid, die evenzeer tot uitsluiting kunnen leiden. Digitale geletterdheid wordt belangrijker voor het algemene publiek. Vaak wordt de nadruk gelegd op technische vaardigheden en inzichten. Kinderen komen impliciet aan bod, maar het is duidelijk dat voor wat betreft toegang en ontwerp hiervoor een specifieke aanpak is vereist. Van belang is ook dat mensen bewust worden van de grotere impact op de samenleving, maar ook op hun eigen persoon, bijvoorbeeld door het risico op discriminatie. Beleidsmakers kunnen hier opnieuw een rol spelen met betrekking tot bewustwording en informatieverstrekking.