Workshopmethodiek: Aan de slag met de ‘AI Blindspots’-kaarten
19.01.2021
De ‘AI Blindspots’-kaarten van het Kenniscentrum Data & Maatschappij maken je alert op ethische blinde vlekken in je AI-project, en geven je tips om die te vermijden. Maar hoe gebruik je de tool nu in de praktijk met je collega’s? Het Kenniscentrum Data & Maatschappij werkte hiervoor een workshopmethodiek uit. In dit artikel lichten we die toe.
Wat zijn nu ook weer ‘AI blindspots’-kaarten?
Bij de ontwikkeling van een nieuwe AI-toepassing is de mindset gericht op verbetering: je AI-toepassing is pas geslaagd wanneer die een (betere) oplossing biedt voor het probleem dat je initieel wou aanpakken. Dat maakt het moeilijk om ook rekening te houden met onvoorziene negatieve gevolgen en ethische valkuilen (‘blindspots’) van je AI-toepassing. Als je deze ‘blindspots’ identificeert door te reflecteren over de beslissingen en acties die je neemt in het ontwikkelingsproces van je data- of AI-toepassing, kun je de toepassing verbeteren en tegelijkertijd mogelijke negatieve neveneffecten van de toepassing aanpakken. De ‘AI Blindspots’ kaartenset helpt je rekening te houden met mogelijke valkuilen in het ontwikkelingsproces van je data- of AI-toepassing.
De kaartenset bestaat uit twee type kaarten:
- De ‘AI Blindspots’-kaarten zijn opgedeeld in drie fasen, namelijk de plannings-, ontwikkelings- en implementatiefase. Iedere kaart presenteert een ‘blindspot’ en bevat: een reeks vragen die je toelaten te reflecteren over deze blindspot', een 'use case' om het belang van die 'blindspot' aan te tonen, en enkele tools en tips die je kunnen helpen de 'blindspot' te detecteren en te reduceren.
- De Ethische Dilemma kaarten geven voorbeeldsituaties waarbij een ethisch probleem zich stelt. Deze kaarten kan je gebruiken om de ‘AI Blindspots’-kaarten te toetsen aan een fictief ethisch probleem.
Workshopmethodiek
Idealiter doe je deze workshop met een veelvoud van drie aanwezigen (3,6,9, etc.), zodat de groep gemakkelijk kan worden verdeeld in drie gelijke groepen. Als dit niet het geval is, geen probleem, dan kan de workshop alsnog doorgaan.
Voorzie in de ruimte waarin de workshop zal doorgaan drie tafels op een afstand van elkaar. Iedere groep zit aan een aparte tafel, waarop ook schrijfmateriaal (pen en papier/post-its) te vinden is.
Voor de workshop van start gaat, print je het volgende materiaal af: éénmaal de ‘AI Blindspots’ kaartenset en driemaal de templates (zie downloads). Verdeel de templates over de drie groepen, net zoals de ‘AI Blindspots’-kaarten van de plannings-, ontwikkelings- of implementatiefase. Iedere groep werkt dus met ‘AI blindspots’-kaarten uit één specifieke fase.
Doe je de workshop online? Voorzie dan een online meeting platform waarin je kan werken met break-out rooms, voor iedere groep een aparte break-out room. In plaats van het materiaal te printen kan je de URL naar de kaartenset en de URL naar de templates in de groepschat kopiëren zodat alle deelnemers hier gemakkelijk toegang tot hebben.
Nu de voorbereidingen klaar zijn, kan de workshop starten.
STAP 1: Identificeer een ethisch dilemma
Zoek met de hele groep naar een ethisch dilemma waarop wordt gewerkt tijdens deze workshop. Ofwel kiezen jullie één van de Ethische Dilemma kaarten in de ‘AI Blindspots’ kaartenset, ofwel zoeken jullie samen naar een ethisch dilemma dat dichter aansluit bij jullie product of dienst. Hiervoor ga je als volgt te werk:
Iedere deelnemer schrijft een mogelijk ethisch dilemma op een post-it.
De post-its worden verzameld en geclusterd (Welke dilemma’s horen bij elkaar?).
Elke deelnemer krijgt één stem om het ethisch dilemma aan te duiden waarop die wil werken. Je kan dit aanduiden door een kruisje te zetten bij de bijhorende (geclusterde) post-it(s).
De stemmen worden geteld per ethisch dilemma.
Doe je de workshop online? Dan kan je hier best een online tool zoals Miro voor gebruiken.
In het verdere verloop van de workshop zal enkel worden gewerkt met het ethisch dilemma met de meeste stemmen. Hou de andere ethische dilemma’s zeker bij voor een latere workshop.
STAP 2: Verken de ‘AI Blindspots’-kaarten
Iedere groep krijgt 10 à 15 min. tijd om door de ‘AI Blindspots’-kaarten te gaan die op de tafel liggen. Zijn de kaarten voor iedereen duidelijk? Deelnemers stellen hun vragen aan de groep en de andere formuleren samen een antwoord. Ga zo verder tot de inhoud van de kaarten voor iedereen duidelijk is.
Let op: de groepen hoeven niet door alle ‘AI Blindspots’-kaarten te gaan, maar enkel de kaarten die werden toegewezen aan de groep.
STAP 3: Toets de kaarten aan een ethisch dilemma
Bekijk in de afzonderlijke groepjes welke kaarten relevant kunnen zijn voor het gekozen ethisch dilemma. Neem deze kaarten eruit en vul in de eerste lege pagina van de template bij stap 2 de vakjes verder aan. Doe dit door de volgende vragen te beantwoorden voor iedere relevante kaart:
Welke ‘AI Blindspots’-kaart hebben jullie gekozen?
Waarom hebben jullie deze kaart gekozen? Met andere woorden, waarom is deze kaart relevant voor het ethisch probleem?
Hoe heeft deze kaart jullie geholpen?
Beantwoord deze vragen in de kleinere groepjes, of iedere deelnemer kan een kaart eruit pikken en de bovenstaande vragen beantwoorden voor die specifieke kaart. Zijn de groepen klein, dan kan je hier een gemeenschappelijke oefening van maken. maar bij grotere groepen is het aangeraden om dit individueel te doen zodat iedereen actief meedenkt.
STAP 4: Bespreek de relevante kaarten in groep
Bij de vorige stap wordt in kleinere groepjes nagedacht over mogelijke ‘AI Blindspots’ bij een ethisch dilemma. De kaarten hebben mogelijk ook enkele oplossingen voor de blindspots aangereikt. Misschien hebben deelnemers zelf een aantal ‘AI Blindspots’ voor het product of de dienst ontdekt waar nog geen ‘AI Blindspots’-kaart van bestaat. Hiervoor kun je in de ‘AI Blindspots’ kaartenset enkele blanco’s terugvinden: met deze kaarten kun je zelf een ’blindspot’ toevoegen.
In de laatste stap van de workshop komen de drie groepen samen en vertelt iedere groep aan de andere groepen welke ‘AI Blindspots’-kaarten van hun tafel relevant zijn voor het ethische dilemma. Hierbij lichten ze ook toe waarom deze kaarten relevant zijn en hoe ze geholpen hebben. Welke inzichten gaven de kaarten?
De bedoeling is om aan de hand van deze toelichtingen een groepsgesprek te hebben over de mogelijke ethische valkuilen en blinde vlekken van het product of de dienst waarbij zich een ethisch dilemma stelt. Worden deze valkuilen en blinde vlekken ook gedragen door de andere groepen? Hoe gaan we als bedrijf of organisatie deze valkuilen en blinde vlekken trachten te voorkomen? Wie of wat is hiervoor nodig? Dit kunnen allemaal discussiepunten zijn die in deze stap worden besproken.
Enkele extra tips
Een aantal extra tips om de workshop succesvol te doen verlopen:
Reserveer minstens twee uur voor deze workshop.
Voorzie bij voorkeur drie begeleiders: zo heeft ieder groepje een begeleider.
Je kan de templates printen en die op het standaardformaat gebruiken, of teken ze over op een groter blad voor meer schrijfruimte.
Zorg ervoor dat iedereen actief meewerkt en -denkt. Je kan dit doen door bijvoorbeeld gericht vragen te stellen aan personen die iets minder actief meewerken in de workshop en te werken met individuele oefeningen (bv. in stap 3).
Start je workshop… succes!
Download hier de volledige ‘AI Blindspots’ kaartenset en ga ermee aan de slag binnen je organisatie. Je kan ook de bovenvermelde templates downloaden zodat je hiervan gebruik kan maken in de workshop. Succes!
