beleidsmonitor

China – Algemene en specifieke ethische principes voor AI

De Chinese overheid heeft een eerste set van algemene en specifieke ethische principes met betrekking tot AI gepubliceerd. De principes leggen de nadruk op de bescherming van de rechten van gebruikers en het behouden van menselijke controle. De afkondiging van deze principes kadert in het grotere Chinese doel om tegen 2030 de globale leider in AI te zijn.

Wat: Beleidsoriënterend document/ethische richtlijnen

Impactscore: 4

Voor wie: AI-ontwikkelaars, burgers, middenveldorganisaties, beleidsmakers

URL:

Overheidsite (originele versie) :http://www.most.gov.cn/kjbgz/2... + Vertaling

South China Morning Post: https://www.scmp.com/tech/big-...

Het Chinese ministerie van Wetenschap en Technologie publiceerde eind september de eerste (Chinese) set van ethische principes met betrekking tot AI (titel in Engels: New Generation Artificial Intelligence Ethics Specifications), met de nadruk op de rechten van gebruikers en het behouden van menselijke controle. De lijst werd opgesteld door het National Governance Committee of New Generation Artificial Intelligence en volgt op eerdere algemene principeverklaringen die kaderden binnen het NGAIDP of bv. vanuit BAAI kwamen.

De afkondiging van deze principes kadert binnen het ruimere Chinese doel om de globale AI leider te zijn tegen 2030, maar ook binnen het doel om de invloed van de Chinese BigTech-bedrijven (Baidu, Tencent etc.) te beperken.

Zes algemene principes

Er worden zes algemene ethische basisprincipes afgekondigd:

  1. Improving human well-being: omvat o.a. het respecteren van fundamentele rechten, maar ook het bevorderen van ‘mens-machine harmonie’ en voorrang geven aan publieke belangen
  2. Promoting fairness and justice: omvat o.a. het streven naar inclusiviteit (bv. kwetsbare of ondervertegenwoordigde groepen) en een eerlijke verdeling van de voordelen van AI over de hele samenleving
  3. Protection privacy and security: omvat het respecteren van de toepasselijke gegevensbeschermingsprincipes
  4. Ensuring controllable and trustworthy AI: dit principe omvat dat mensen de werkelijke beslissingsmacht moeten hebben/behouden, het recht hebben om AI-diensten al dan niet te aanvaarden, interactie met een AI-systeem te allen tijde te beëindigen, de werking van een AI-systeem te allen tijde te stoppen en dat AI te allen tijde onder betekenisvolle menselijke controle moet staan.
  5. Strengthening accountability: omvat o.a. de regel dat de uiteindelijke verantwoordelijkheid altijd bij mensen moet liggen en dat er de nodige verantwoordingsmechanismen moeten worden gecreëerd.
  6. Improving ethical literacy: omvat o.a. het algemeen verspreiden van kennis omtrent AI en ethiek en het sterk promoten van het toepassen van AI-ethiek

Specifieke principes voor vier domeinen

Verder worden er ook specifieke, toegepaste principes afgekondigd voor AI-gerelateerd(e) bedrijfsvoering en onderzoek, maar ook met betrekking tot het aanbieden en gebruik van AI-systemen.

  • Met betrekking tot bedrijfsvoering wordt o.a. benadrukt dat AI-ethiek actief moet worden geïntegreerd in bedrijfsprocessen, dat er systematische risicobeoordelingen moeten plaatsvinden en dat er interdisciplinair moet worden samengewerkt met het oog op inclusiviteit.
  • Met het oog op onderzoek wordt verboden om onderzoek te doen naar AI-systemen die strijdig zijn met ethische en morele verplichtingen, moet de kwaliteit van gegevens gewaarborgd worden, moet er gewerkt worden aan veilige, transparante, begrijpbare, robuuste,… AI-systemen waarbij bevooroordeelde en discriminerende resultaten moeten worden vermeden.
  • Als het gaat over het aanbieden van AI-systemen wordt o.a. bepaald dat een gegevens- of platform-monopolie niet mag worden gebruikt om de markt te verstoren, maar ook dat aan gebruikers moet worden meegedeeld of er AI wordt gebruikt in producten of diensten. Daarenboven moeten de functies en beperkingen van de AI-systemen wordt toegelicht en moeten er gemakkelijke oplossingen worden voorzien zodat gebruikers de (werkelijke) keuze hebben om AI-producten of – diensten al dan niet te gebruiken, waarin zij niet op enige manier mogen worden gehinderd. Tot slot moeten er ook noodmechanismen worden voorzien en moeten systemische risico’s worden voorkomen. (Hier blijkt duidelijk uit dat de Chinese Bigtech-bedrijven worden geviseerd, aangezien veel van hun diensten gebruik maken van recommender-algoritmes, waarbij dat niet altijd duidelijk is voor gebruikers.)
  • Wat betreft het gebruik van AI-systemen, moet ervoor worden gezorgd dat AI-producten of diensten geen illegale activiteiten uitvoeren, noch mogen zij de nationale, openbare of industriële veiligheid wezenlijk in gedrang brengen. Zij mogen evenmin het openbaar belang schaden