Trustworthy AI Project Planner

Bij het ontwikkelen van een AI-systeem komt heel wat kijken: technische keuzes, data-infrastructuur, juridische aspecten… Maar hoe zorg je er ook voor dat je project vanaf het begin ethisch onderbouwd is en hoe prioriteer je waar je eerst op moet focussen?

Deze verkorte vragenlijst helpt je om bij de start van een AI-project stil te staan bij de belangrijkste ethische aandachtspunten, gebaseerd op het Europese Trustworthy AI kader. 

Waarom deze planner gebruiken?

De planner is een praktisch hulpmiddel om ethische reflectie vanaf het begin van een AI-project te structureren. Door bewust na te denken over acht ethische principes, kun je als projectmanager of product owner snel inschatten:

• Welke principes relevant zijn voor jouw project
• Wanneer je ermee aan de slag gaat
• Welke acties nodig zijn
• Wie verantwoordelijk is voor de opvolging

Het resultaat is een overzichtelijk plan van aanpak, afgestemd op jouw AI-project, inclusief een prioritering van de meeste belangrijkste aandachtspunten.

Er is een langere self-assessment lijst die je kan gebruiken maar die bestaat uit meer dan 100 vragen. Deze vragenlijst is korter en helpt je op weg om te identificeren wat de prioriteiten zijn volgens het Trustworthy AI kaderwerk.

Wanneer gebruik je deze planner?

De planner is bedoeld om al in een vroeg stadium ethische aandachtspunten mee te nemen in ontwerp, ontwikkeling en planning. Zie het als een gids bij de projectopzet.

Je kan deze spreadsheet integreren in je sectie ethiek in je projectvoorstel of project initation document. Op die manier kunnen reviewers in één oogopslag zien hoe je met welke relevante principes aan de slag gaat.

Voor wie is deze planner bedoeld?

Voor projectmanagers, product owners of gelijkaardige profielen die verantwoordelijk zijn voor de opstart en coördinatie van een AI-project. We raden aan om de vragenlijst in te vullen samen met een multidisciplinair team, bijvoorbeeld met collega’s die technische, juridische, maatschappelijke of ethische expertise hebben.

De planner is gebaseerd op de 7 principes uit het ALTAI-kader van de Europese High-Level Expert Group on AI, met extra aandacht voor de fundamentele rechten van de mens in een achtste principe:

1. Menselijk handelen en toezicht
2. Technische robuustheid en veiligheid
3. Privacy en data governance
4. Transparantie
5. Diversiteit, non-discriminatie en rechtvaardigheid
6. Maatschappelijk en ecologisch welzijn
7. Aansprakelijkheid
8. Fundamentele rechten
    

Voor elk principe bevat de vragenlijst twee reflectievragen. Deze vragen verwijzen naar de huidige iteratie die je voor ogen hebt in je project. Bijvoorbeeld bij het maken van een proof-of-concept die niet in productie wordt gezet. Dit wil zeggen dat bepaalde ethische vereisten nog niet relevant zijn omdat ze pas in een latere iteratie bekeken kunnen of moeten worden. Tijdens een proof-of-concept kan het zijn dat robuustheid en cyberveiligheid nog niet worden opgenomen omdat dit pas echt relevant is bij implementatie. Het idee is met andere woorden om een planning te maken en te prioriteren wat nu in een bepaalde iteratie kan en moet gedaan worden.

De planner is een excel bestand dat je samen met je team gaandeweg kan invullen.

1. Lees per principe de twee vragen, deze helpen je om na te denken over de mogelijke ethische impact van je AI-systeem.
2. Vul voor elk vraag de kolommen in (zie hieronder).
3. Bespreek de antwoorden met je team, zo kom je tot een gedeeld inzicht en plan van aanpak.
4. Bewaar het document, je kan het later opnieuw gebruiken als referentie, verantwoording of bij evaluaties.

Wat vul je in per kolom?

• Relevantie: Is dit principe van toepassing op jouw project? Kies bijvoorbeeld: ‘Hoog’, ‘Middel’, ‘Laag’, ‘Niet relevant’.
• Tijdstip: Geef aan wanneer jullie dit aspect aanpakken. Kies uit: 'werd al geïmplementeerd', 'implementeren we binnenkort', 'implementeren we later', 'plannen we niet te implementeren'.
• Acties: Noteer welke concrete stappen jullie zullen nemen om dit principe toe te passen.
• Verantwoordelijke & deadline: Duid aan wie binnen of buiten het team verantwoordelijk is voor de opvolging van deze acties.
• Opmerkingen: Gebruik deze kolom voor bijkomende uitleg: waarom iets (niet) relevant is, welke keuzes zijn gemaakt, of waar nog onzekerheden zijn.

Deze planner is geen afvinklijst, maar een hulpmiddel om ethiek werkbaar te maken vanaf het prille begin van je AI-project. Gebruik ze als aanleiding voor gesprek, samenwerking en kritisch nadenken.

Dit is een planningstool om te prioriteren, daarom is het belangrijk om te kunnen bepalen wat nu relevant is en kan worden opgelost, maar ook wat pas later kan worden aangepakt zodat de lijst van ethische vereisten haalbaar en realistisch wordt.

Deze planner is beschikbaar onder een CC BY-NC-ND 4.0 licentie. Dat betekent dat deze tool gedeeld mag worden onder de volgende voorwaarden:

• Naamsvermelding: Je moet de licentiegever Kenniscentrum Data & Maatschappij correct vermelden, een link naar de licentie opnemen en aangeven of er wijzigingen zijn aangebracht. Dit mag op elke redelijke manier, zolang het niet de indruk wekt dat de licentiegever jou of jouw gebruik ondersteunt.
• Niet-commercieel: Je mag het materiaal niet gebruiken voor commerciële doeleinden.
• Geen afgeleide werken: Als je het materiaal bewerkt, aanpast of erop voortbouwt, mag je het gewijzigde materiaal niet verspreiden.

Image by Hanna Barakat  & Archival Images of AI + AIxDESIGN via https://betterimagesofai.org - license CC BY 4.0