Tool

AI Blindspots Kaartenset

Hoe kan je rekening houden met mogelijke vooroordelen en structurele ongelijkheden voor, tijdens en na de ontwikkeling van een AI-systeem? Om je hierbij te kunnen helpen, ontwikkelde het Kenniscentrum Data & Maatschappij de AI Blindspots kaartenset.


De kaartenset laat je toe om vooroordelen en ongelijkheden die vaak over het hoofd worden gezien (cfr. blindspots) te detecteren. Dit doe je door op voorhand te reflecteren over beslissingen en acties die je wenst uit te voeren. De kaartenset daagt je uit na te denken over (mogelijks te nemen) beslissingen en acties en reikt je hiervoor enkele tools en tips aan.

De kaartenset is een herwerking van de AI Blindspot kaartenset van Ania Calderon, Dan Taber, Hong Qu en Jeff Wen, die deze kaartenset ontwikkelden tijdens het 2019 Assembly program van Berkman Klein Center en MIT Media Lab. De originele kaartenset licht mogelijke blindspots toe die zich kunnen voordoen voor, tijdens en nadat een model wordt ontwikkeld.

De AI Blindspots kaartenset van het Kenniscentrum Data & Maatschappij focust momenteel nog louter op mogelijke blindspots die kunnen opduiken voorafgaand aan de ontwikkeling van een systeem. In de toekomst wordt deze kaartenset verder uitgewerkt met mogelijke blindspots voor de twee andere fases, namelijk tijdens en nadat een systeem wordt ontwikkeld.

Praktisch

Iedere blindspot kaart bestaat uit:

  • Een reeks vragen die je jezelf kan stellen om zo mogelijke blindspots te identificeren,
  • Een use case die aantoont waarom het belangrijk is rekening te houden met blindspots,
  • Tools en tips die je helpen om blindspots te detecteren en/of te verminderen.

De kaartenset bestaat ook uit een jokerkaart zodat je eventueel andere blindspots, waarmee je in contact bent gekomen, kan toevoegen.

Benieuwd? Download de kaartenset en ga hiermee aan de slag (in jouw team).

De kaartenset werd aangepast op basis van de AI Blindspot card set van Ania Caldeeron, Dan Taber, Hong Qu and Jeff Wen, die de kaartenset ontwikkelden tijdens het Berkman Klein Center een MIT Media Labs's 2019 Assembly Program. Hun kaartenset focust op mogelijke blindspots voor, tijdens en na de ontwikkeling van een model. De kaartenset is vekrijgbaar onder een CC BY 4.0 licentie.