Tool

AI Blindspot Kaartenset

Hoe kan je rekening houden met mogelijke vooroordelen en structurele ongelijkheden voor, tijdens en na de ontwikkeling van een AI-systeem? Om je hierbij te kunnen helpen, ontwikkelde het Kenniscentrum Data & Maatschappij de AI Blindspots kaartenset.

De kaartenset laat je toe om vooroordelen en ongelijkheden die vaak over het hoofd worden gezien (cfr. blindspots) te detecteren. Dit doe je door op voorhand te reflecteren over beslissingen en acties die je wenst uit te voeren. De kaartenset daagt je uit na te denken over (mogelijks te nemen) beslissingen en acties en reikt je hiervoor enkele tools en tips aan.

De AI Blindspots kaartenset van het Kenniscentrum Data & Maatschappij focust momenteel nog louter op mogelijke blindspots die kunnen opduiken voorafgaand aan de ontwikkeling van een systeem. In de toekomst wordt deze kaartenset verder uitgewerkt met mogelijke blindspots voor de twee andere fases, namelijk tijdens en nadat een systeem wordt ontwikkeld.

De kaartenset is een herwerking van de AI Blindspot kaartenset van Ania Calderon, Dan Taber, Hong Qu en Jeff Wen, die deze kaartenset ontwikkelden tijdens het 2019 Assembly program van Berkman Klein Center en MIT Media Lab. De originele kaartenset licht mogelijke blindspots toe die zich kunnen voordoen voor, tijdens en nadat een model wordt ontwikkeld. Deze kaartenset is beschikbaar onder een CC BY 4.0 licentie.

Benieuwd? Download de kaartenset (EN) en ga ermee aan de slag in je team.

De kaartenset is beschikbaar onder een CC BY 4.0 licentie, dus je kan het downloaden en bewerken naar believen, zolang je de nodige credits geeft.

Praktisch

Iedere blindspot kaart bestaat uit:

  • Een reeks vragen die je jezelf kan stellen om zo mogelijke blindspots te identificeren,
  • Een use case die aantoont waarom het belangrijk is rekening te houden met blindspots,
  • Tools en tips die je helpen om blindspots te detecteren en/of te verminderen.

De kaartenset bevat ook een jokerkaart zodat je eventueel andere blindspots, waarmee je in contact bent gekomen, kan toevoegen. Denk je dat de update relevant kan zijn voor anderen? Laat het ons even weten!