Ethics Inc., een ontwerpspel voor ethische AI
Steeds meer organisaties vinden het belangrijk om ‘ethisch verantwoorde’ AI-toepassingen te ontwikkelen. Maar wat is precies ethisch verantwoord? En hoe ontwerp je AI-systemen die aan ethische richtlijnen voldoen? In het coöperatieve kaartenspel Ethics Inc. ontwerp je samen ethisch verantwoorde AI-toepassingen. Je stelt user stories samen, waarbij je relevante waarden bepaalt en afweegt, om zo samen met het team tot consensus te komen.
Vanuit Stichting Toekomstbeeld der Techniek (STT) is dit spel samen met het lectoraat Artificial Intelligence van de Hogeschool Utrecht (HU) ontwikkeld in samenspraak met de NEN. Het spel is grafisch vormgegeven door YURR.studio.
Wat je wil weten voor je verder leest
- Voor wie: iedereen binnen bedrijven die tech ontwikkelen
- Procesfase: ontwikkeling van nieuwe tech of upgraden van bestaande tech
- Systeemonderdeel: Brede toepassing over het hele systeem
- Prijsindicatie: PDF versie vrij beschikbaar, geprinte versie is betaald
Methode
In het spel worden de spelers benaderd door de startup ‘Ethics Inc.’ om een betrouwbare AI-toepassing te ontwikkelen die voldoet aan Europese richtlijnen. De spelers vormen samen een denktank om de startup te adviseren over hoe zij deze toepassing het best kunnen ontwikkelen. Om tot een advies te komen worden verschillende stappen doorlopen met verschillende kaarten.
Voor een vooraf geselecteerde groep stakeholderskaarten wordt voor elk een user story geconstrueerd aan de hand van belangenkaarten en uitdagingkaarten. De belangen worden daarna gewogen met hulp van wegingskaarten door de spelers. Discussie wordt gestimuleerd om de groep samen tot consensus te laten komen. In de volgende stap worden deze belangen met elkaar vergeleken en is er ruimte voor discussie over conflicterende belangen en overeenkomstige belangen. Als laatste is het zaak om tot een advies te komen over de ideale AI toepassing op basis van de belangenkaarten die zijn overgebleven.
Resultaat
Met hulp van het spel ga je in discussie over ethische waarden en belangen van nieuwe toepassingen en kom je tot consensus. Zo maak je samen een vertaalslag van abstracte waarden naar concrete gebruikscontexten voor ontwerpprincipes van de ideale AI toepassing.
| Waarden zoals benoemd in de tool |
Gerelateerde ALTAI-principes |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Links
Deze tool werd niet ontwikkeld door het Kenniscentrum Data & Maatschappij. We beschrijven de tool op onze website omdat die je kan helpen bij het behandelen van ethische, juridische of maatschappelijke aspecten van AI-toepassingen. Het Kenniscentrum is niet verantwoordelijke voor de kwaliteit van de tool.