AI blindspots

Hoe kan je rekening houden met maatschappelijke vooroordelen en structurele ongelijkheden voor, tijdens en na de ontwikkeling van je data- of AI-toepassing? Om je hierbij te kunnen helpen, ontwikkelde het Kenniscentrum Data & Maatschappij de AI blindspots kaartenset.

Bij de ontwikkeling van een nieuwe AI-toepassing ligt de focus op verbetering: je AI-toepassing is pas geslaagd wanneer het een (betere) oplossing biedt voor het probleem dat je wil aanpakken. Daarbij worden (onvoorziene) negatieve gevolgen van je AI-toepassing soms over het hoofd gezien. De AI Blindspots kaartenset helpt je 'AI Blindspots' - ethische valkuilen - te identificeren door te reflecteren over de beslissingen en acties die je neemt in het ontwikkelingsproces van je data- of AI-toepassing. Zo kan je jouw data- of AI-toepassing verbeteren en tegelijkertijd mogelijke negatieve neveneffecten van je toepassing aanpakken.

De kaartenset kan jou en je team helpen om...

• een cultuur van ethisch en maatschappelijk bewustzijn te creëren;
• uitdagingen te identificeren voordat ze schade veroorzaken;
• de algemene kwaliteit en acceptatie van je product te verbeteren;
• met je stakeholders te communiceren over de ethische, maatschappelijke en juridische impact van je product én hoe je hier als bedrijf mee omgaat.

De kaartenset bestaat uit 2 types kaarten:

• De AI Blindspots kaarten zijn verdeeld in drie fasen, namelijk de planningsfase, de ontwikkelingsfase en de implementatiefase. Elke kaart presenteert een blindspot en bevat:
  • een reeks vragen die je toelaten te reflecteren over mogelijke 'blindspots';
  • een 'use case' om het belang van die 'blindspot' aan te tonen;
  • enkele tools en tips die je kunnen helpen de 'blindspot' te detecteren/te reduceren.
• De Ethische Dilemma kaarten zijn voorbeelden van situaties waarin een ethisch probleem opduikt.

Hieronder vind je zes methodes om de AI Blindspots kaartenset te gebruiken in je organisatie.

Ter sensibilisering, als gespreksstarter:

• Een gespreksstarter voor jou en je bedrijf om de ethische, juridische en maatschappelijke aspecten van data- en AI-toepassingen te bespreken.

Ter sensibilisering, in een workshop:

• Een workshop met je team waarin jullie focussen op één 'Ethische Dilemma'-kaart naar keuze en hiervoor oplossingen proberen te bedenken. Daarna haal je de AI Blindspots kaarten erbij ter inspiratie en kijk je of je andere oplossingen kan bedenken of een van de al bedachte oplossingen concreter kan maken. > template beschikbaar (zie 'Downloads')
• Een workshop met je team waar de groep wordt opgedeeld in 3 kleinere groepen. Opnieuw focus je op één 'Ethische Dilemma'-kaart naar keuze. Maar iedere groep bekijkt een andere fase van de AI Blindspots kaarten (planning, development, implementation) en probeert aan de hand van hun kaarten oplossingen te bedenken voor het dilemma.> template beschikbaar (zie 'Downloads')
• Een workshop met je team waarin je focust op een eigen geïdentificeerd ethisch dilemma - schrijf dit neer op de 'Ethische Dilemma'-jokerkaart. Bedenk vervolgens in groep een of meerdere oplossingen voor dit dilemma. Je kan de AI Blindspots kaarten gebruiken ter inspiratie.
• Een workshop met je team waarin je met behulp van een omgekeerde brainstorm vereisten voor je data- of AI-toepassing bedenkt. Een omgekeerde brainstorm lost het probleem niet op, maar maakt het zelfs groter. Gebruik de AI Blindspots kaarten en vraag jezelf af: "Hoe kunnen we ervoor zorgen dat deze blindspot een realiteit wordt voor onze data- of AI-toepassing?". Zet deze (negatieve) onethische maatregelen nu om naar (postitieve) ethische vereisten voor je data- of AI-toepassing. > template beschikbaar (zie 'Downloads')

Ter evaluatie:

• Gebruik de AI Blindspots kaarten als een controle-instrument bij de planning, de ontwikkeling of de implementatie van je data- of AI-toepassing. Heb je rekening gehouden met deze blindspots? Zo niet, overleg dan met je team hoe je met de blindspots zal omgaan.

Deze kaartenset is een aanpassing van de tool 'AI Blindspot' ontwikkeld door Ania Caldeeron, Dan Taber, Hong Qu and Jeff Wen van het Berkman Klein Center, een MIT Media Labs's 2019 Assembly Program. 

De AI Blindspots kaartenset is verkrijgbaar onder een CC BY 4.0 licentie.