De tekst behandelt ethische vraagstukken over AI, voor zover zij binnen het mandaat van de UNESCO vallen.

De tekst is georiënteerd rond 4 waarden, 10 principes en nog eens 10 beleidsacties.

Waarden

1. Mensenrechten en fundamentele vrijheden moeten door AI-systemen worden geëerbiedigd, beschermd en bevorderd.
2. Alle personen en actoren die betrokken zijn bij AI-systemen (ontwikkeling, ingebruikname,…) moeten zich houden aan wetten, standaarden en praktijken die tot doel hebben het milieu en zijn ecosysteem te beschermen en te herstellen en duurzame ontwikkeling nastreven.
3. AI-systemen moeten diversiteit en inclusiviteit eerbiedigen, beschermen en bevorderen
4. AI-actoren moeten een participatieve en faciliterende rol spelen om vreedzame en rechtvaardige samenlevingen te waarborgen. AI-systemen mogen bijvoorbeeld niet segregeren, mensen in gevaar brengen of mensen tegen elkaar opzetten.

Principes

1. Proportionaliteit en geen schade berokkenen : het gebruik van AI-systemen moet bepaald worden door het beginsel van proportionaliteit en eProportionaliteitvenredigheid
2. Veiligheid en beveiliging: Ongewenste schade en veiligheidsrisico's moeten worden vermeden en moeten gedurende de gehele levenscyclus van AI-systemen worden aangepakt, voorkomen en weggenomen om de veiligheid en beveiliging van mens, milieu en ecosysteem te waarborgen.
3. Fairness en discriminatie: AI-actoren moeten eerlijkheid en non-discriminatie waarborgen en er tevens voor zorgen dat de voordelen van AI-technologieën voor iedereen beschikbaar zijn.
4. Duurzaamheid: AI-technologie moet voortdurend beoordeeld worden op menselijke, sociale, culturele, economische en milieu-impact en daarbij duurzaamheid nastreven.
5. Privacy: De persoonlijke levenssfeer moet gedurende de gehele levenscyclus van de AI-systemen worden beschermd;
6. Menselijk toezicht en bepaling: de lidstaten moeten ervoor zorgen dat de ethische en juridische aansprakelijkheid die uit AI-systemen voortvloeit, altijd aan de mens kan worden toegeschreven. Voorts mogen beslissingen over leven en dood in de regel niet aan AI-systemen worden overgelaten;
7. Transparantie en uitlegbaarheid: Er moeten inspanningen worden geleverd om transparantie en de uitlegbaarheid van AI-systemen na te streven
8. Responsibility and accountability: Er moeten passende mechanismen zijn voor toezicht, impactanalyse, audit en zorgvuldigheidseisen, met inbegrip van bescherming van klokkenluiders. Dit met oog op de waarborging van de verantwoordingsplicht voor AI-systemen.
9. Bewustzijn en geletterdheid: Bewustmaking voor en begrip van het publiek van AI-technologieën moeten worden bevorderd
10. Multistakeholder- en adaptief bestuur en samenwerking: Lidstaten moeten samenwerking nastreven, onder ander via het delen van best practices en het delen van data.

Beleidsdomeinen & acties

De beleidsacties operationaliseren de hierboven vermelde waarden en beginselen. De lidstaten worden verzocht doeltreffende maatregelen te nemen en ervoor te zorgen dat belanghebbenden, zoals particuliere ondernemingen, academische en onderzoeksinstellingen en het maatschappelijk middenveld, deze kaders naleven door ethische impactanalyses, zorgvuldigheidseisen, enz. te ontwikkelen, in overeenstemming met de richtlijnen. Dit zijn de belangrijkste of opvallendste aanbevelingen:

Sociale score en massasurveillance en verantwoordelijkheid.

AI-systemen mogen met name niet worden gebruikt voor sociale scoring of massatoezicht. Dit kan een impact hebben op de AI-verordening van de Europese Unie. De huidige tekst van de verordening voorziet een aantal uitzondering op dit vlak. De aanbeveling van UNESCO vraagt uitdrukkelijk om het gebruik over de hele lijn te verbieden. Om deze reden is het opvallend te noemen dat China deze tekst heeft ondertekend. China hanteert momenteel AI-systemen voor sociale score en massatoezicht in de maatschappij.

Ook autonome wapens zouden volgens UNESCO verboden moeten worden.

UNESCO vraagt verder nog dat de uiteindelijke verantwoordelijkheid en aansprakelijkheid wat betreft AI-systemen altijd bij de mens moet liggen en dat aan AI-technologieën geen rechtspersoonlijkheid mag toegekend worden.

Beschermen van het milieu

De lidstaten dienen de directe en indirecte milieueffecten gedurende de levenscyclus van het AI-systeem te beoordelen, met inbegrip van, maar niet beperkt tot, de koolstofvoetafdruk, het energieverbruik, en de milieueffecten van de winning van grondstoffen ter ondersteuning van de fabricage van AI-technologieën. Zij moeten ervoor zorgen dat alle AI-actoren de milieuwetgeving, het beleid en de praktijken naleven. Dit sluit aan bij de oproep die de GPAI onlangs lanceerde.

Onderwijs

De lidstaten dienen de verwerving van basisvaardigheden voor het onderwijs in AI te bevorderen, zoals basisgeletterdheid, rekenvaardigheid, coderings- en digitale vaardigheden, en media- en informatiekennis, alsmede kritisch denken, teamwerk, communicatie, sociaal-emotionele vaardigheden en vaardigheden op het gebied van AI-ethiek.

De lidstaten dienen, in overeenstemming met hun nationale onderwijsprogramma's en -tradities, leerplannen voor de ethiek van AI te ontwikkelen voor alle niveaus, en de kruiselingse samenwerking te bevorderen tussen het onderwijs in technische vaardigheden en de humanistische, ethische en sociale aspecten van het AI-onderwijs.

Arbeidsmarkt

De lidstaten moeten het effect van AI-systemen op de arbeidsmarkten en de gevolgen daarvan voor de onderwijsbehoeften in kaart brengen. UNESCO vraagt om hiervoor instrumenten te ontwikkelen. Deze aanbeveling sluit aan bij het werk dat het Kenniscentrum Data & Maatschappij momenteel verricht rond de ontwikkeling van een competentiemodel waarbij voor een tiental functieprofielen de ethische, maatschappelijke en juridische competenties voor het ontwerp, de ontwikkeling en de implementatie van datatoepassingen en AI in kaart worden gebracht.

UNESCO vraagt ook om stappen te ondernemen om de actieve werkbevolking voor te bereiden op de wijzigende vraag naar competenties van de arbeidsmarkt. Dit omvat het opzetten van bij- en omscholingsprogramma's, het vinden van doeltreffende mechanismen om werknemers tijdens die overgangsperioden in dienst te houden, en het onderzoeken van vangnetprogramma's voor degenen die niet kunnen worden omgeschoold. De lidstaten moeten programma's ontwikkelen en uitvoeren om de geconstateerde uitdagingen te onderzoeken en aan te pakken. De lidstaten moeten ervoor zorgen dat er voldoende overheidsmiddelen zijn om deze programma's te ondersteunen. De Hoge Raad voor Werkloosheid in België stuurde onlangs een waarschuwing uit waarin het zegt dat België op dit vlak onvoldoende voorbereid is.

Verdere stappen

UNESCO zal ook na de publicatie van deze tekst zijn lidstaten blijven ondersteunen om de uitvoering van de aanbevelingen mogelijk te maken. Het gaat daarom (1) een Readiness Assessment Methodology ontwikkelen om de vooruitgang van lidstaten te monitoren en (2) een wereldwijd aanvaarde methode ontwikkelen voor ethische impactanalyses.