Samenvatting

De gids stelt dat organisaties bij de ontwikkeling en het gebruik van AI drie fundamentele Data Stewardship waarden in acht moeten nemen, namelijk respectvol (respectful), nuttig (beneficial) en eerlijk (fair) zijn ten aanzien van de belanghebbenden.

Conform bestaande (internationale) normen zet de gids vervolgens zeven (herkenbare) ethische beginselen voorop met betrekking tot de ontwikkeling en het gebruik van AI:

• Verantwoordingsplicht: organisaties moeten verantwoordelijk zijn voor wat ze doen en moeten hun acties adequaat kunnen verantwoorden (3.1.);
• Menselijk toezicht: organisaties moeten ervoor zorgen dat er voldoende menselijk toezicht is op de werking van AI (3.2.);
• Transparantie en interpreteerbaarheid: organisaties moeten hun gebruik van AI en de relevante policies openbaar maken, en streven naar verbetering van de interpreteerbaarheid van geautomatiseerde besluiten en besluiten die met behulp van AI zijn genomen (3.3.);
• Gegevensbescherming: er moet worden gezorgd voor een doeltreffende gegevensbeleid/beheer (3.4.);
• Eerlijkheid (fairness): organisaties moeten vooroordelen (bias) en discriminatie bij het gebruik van AI vermijden (3.5.);
• Gunstige AI (beneficial): organisaties moeten AI gebruiken op een manier die voordelen biedt en schade voor belanghebbenden minimaliseert (3.6.); en
• Betrouwbaarheid, robuustheid en veiligheid: organisaties moeten ervoor zorgen dat AI-systemen betrouwbaar werken, fouten kunnen opvangen en beschermd zijn tegen aanvallen (3.7.).

Om ervoor te zorgen dat deze waarden en ethische beginselen in praktijk worden gebracht, moeten organisaties passende policies, praktijken en procedures implementeren. Organisaties dienen met betrekking tot onderstaande punten rekening te houden met een aantal in de gids opgenomen aanbevelingen wanneer zij AI ontwikkelen en gebruiken gedurende de gehele levenscyclus van hun bedrijfsprocessen:

• AI-strategie en -beheer (4.1.);
• Risicobeoordeling en menselijk toezicht (4.2.);
• Ontwikkeling van AI-modellen en beheer van AI-systemen (4.3.); en
• Communicatie en interactie met belanghebbenden (4.4.).

Zo wordt bijvoorbeeld voorgesteld om een AI governance committee of gelijkaardige entiteit op te richten dat toezicht houdt op de hele levenscyclus van AI, gaande van ontwikkeling, het gebruik tot de buitenwerkingstelling. Ook de nodige technische documenten moeten worden bewaard en er moet duidelijk worden aangegeven dat mensen met AI-systemen interageren, tenzij dit duidelijk is onder de omstandigheden en de context van het gebruik. Kortom, de gids bevat dus heel wat concrete richtsnoeren voor bedrijven om betrouwbare AI te ontwikkelen.