TOOL

AI Blindspots healthcare

Hoe kan je rekening houden met maatschappelijke vooroordelen en structurele ongelijkheden in het gezondheidszorgsysteem dat gebruik maakt van artificiële intelligentie (AI)? Om je hierbij te kunnen helpen, ontwikkelde het Kenniscentrum Data & Maatschappij de AI Blindspots healthcare kaartenset.

Deze kaartenset helpt je voorkomen dat maatschappelijke vooroordelen en structurele ongelijkheden in het AI-gezondheidszorgsysteem worden herhaald, wat absoluut noodzakelijk is vanwege het gevoelige karakter van de gegevens en de kwetsbare status van patiënten. Elke persoon die betrokken is bij de AI-zorgketen speelt een belangrijke rol bij het omgaan met deze blinde vlekken, en daarom zal deze kaartenset artsen, verplegend personeel, managers, IT-personeel en ethische commissieleden helpen om blinde vlekken proactief op te sporen en strategieën aanreiken om met deze blinde vlekken om te gaan.

Wat je wil weten voor je verder leest

  • Voor wie: artsen, verplegend personeel, managers, IT-personeel en ethische commissieleden
  • Projectfase: probleemanalyse/ideatie, ontwerp, ontwikkeling, implementatie, evaluatie/iteratie
  • Systeemonderdeel: gehele toepassing en gebruikers
  • Prijs: vrij beschikbaar
  • Taal: Engels (Nederlandse vertaling volgt)

Waarom zou je de kaartenset gebruiken?

De kaartenset stelt jou en je team in staat om betrouwbaardere en inclusievere AI-systemen te creëren. Het helpt je:

  • uitdagingen te identificeren voordat ze schade veroorzaken;
  • ethische kwesties aan te pakken;
  • deze binnen jouw team te bespreken en acties te formuleren;
  • correct te communiceren naar doelgroepen en patiënten.

Wat kan je vinden in de kaartenset?

De kaartenset bestaat uit 2 type kaarten:

  • De AI Blindspots kaarten zijn verdeeld in twee groepen, namelijk 'general blindspots' en 'specific blindspots'. 'General blindspots' zijn blindspots waarvan het nuttig is om deze met iedereen die binnen de zorgcirkel werkt te bespreken. Bij de 'specific blindspots' hoeft niet iedereen mee aan de tafel te zitten aangezien deze kaarten interessanter zijn voor specifieke profielen (bv. sterke focus op wetgeving). Elke kaart presenteert een blindspot en bevat:
    • Een reeks vragen die je toelaten te reflecteren over mogelijke 'blindspots'
    • Een 'use case' om het belang van die 'blindspot' aan te tonen
    • Enkele tools en tips die je kunnen helpen de 'blindspot' te detecteren/te reduceren
  • De Ethische Dilemma kaarten zijn voorbeelden van situaties waarin een ethisch probleem opduikt.

Hoe kan je de kaartenset gebruiken?

Hieronder vind je een overzicht van een zestal methodes om de AI Blindspots kaartenset te gebruiken in je gezondheidsorganisatie. Voor de derde en vierde workshopmethode werkten we een draaiboek voor de moderator uit. Op die manier kan je zelf een workshop rond AI Blindspots organiseren binnen je team.

Als gespreksstarter:

  1. Een gespreksstarter voor jou en je gezondheidszorgorgnisatie om de ethische, juridische en maatschappelijke aspecten van data-/AI-toepassingen te bespreken.

Tijdens een workshop:

  1. Een workshop met je team waarin jullie focussen op één Ethische Dilemma kaart naar keuze en hiervoor oplossingen proberen te bedenken. Daarna haal je de AI Blindspots kaarten erbij ter inspiratie en kijk je of je andere oplossingen kan bedenken of een van de reeds bedachte oplossingen concreter kan maken. > template beschikbaar (zie downloads)
  2. Een workshop met je team waar de groep wordt opgedeeld in de diverse aanwezige functieprofielen. Opnieuw focus je op één Ethische dilemma kaart naar keuze. Maar iedere groep bekijkt hun 'specific blindspots' en probeert aan de hand van deze kaarten oplossingen te bedenken voor het dilemma. Daarna bespreek je de verschillende perspectieven plenair, samen met de 'general blindspots', om tot een geïntegreerde oplossing te komen. > template beschikbaar (zie downloads)
  3. Een workshop met je team waarin je focust op een eigen geïdentificeerd ethisch dilemma - schrijf dit neer op de Ethische Dilemma jokerkaart. Bedenk vervolgens in groep een of meerdere oplossingen voor dit dilemma. Je kan de AI Blindspots kaarten gebruiken ter inspiratie. Download het draaiboek voor een gedetailleerd stappenplan en handleiding om de workshop zelf te organiseren binnen je team.
  4. Een workshop met je team waarin je met behulp van een omgekeerde brainstorm vereisten voor de data-/AI-toepassing bedenkt. Een omgekeerde brainstorm lost het probleem niet op, maar maakt het zelfs groter. Gebruik de AI Blindspots kaarten en vraag jezelf af: "Hoe kunnen we ervoor zorgen dat deze blindspot een realiteit wordt voor onze (toekomstige) data-/AI-toepassing?". Zet deze (negatieve) onethische maatregelen nu om naar (postitieve) ethische vereisten voor de data-/AI-toepassing. > template beschikbaar (zie downloads). Download het draaiboek voor een gedetailleerd stappenplan en handleiding om de workshop zelf te organiseren binnen je team.

Ter evaluatie:

  1. Gebruik de AI Blindspots kaarten als een double-check wanneer je een data-/AI-toepassing voor de gezondheidszorg ontwerpt, ontwikkelt, implementeert of wanneer je dit overweegt te doen. Heb je rekening gehouden met deze blindspots? Zo niet, overleg dan met je team hoe je met de blindspots zal omgaan.
1

General/algemene blindspots

De AI Blindspots kaarten zijn verdeeld in twee groepen, namelijk 'general blindspots' en 'specific blindspots'. 'General blindspots' zijn blindspots waarvan het nuttig is om deze met iedereen die binnen de zorgcirkel werkt te bespreken. Voor de 'general blindspots' identificeerden we de volgende AI Blindspots:

  1. Suitability

  2. Explainability & transparency
  3. Trust
  4. Willingness
  5. Diversity
  6. (Digital) Inequality
  7. Trade-off
  8. Consent
  9. Datafication of health data
  10. Accuracy & quality
  11. Impact on work(floor)

  12. Undesirable impact
  13. Ownership

Klik op een blindspot en kom meer te weten over hoe je deze kan identificeren en detecteren/reduceren.

2

Specific/Specifieke blindspots

De 'specific blindspots' zijn de tweede groep kaarten waarbij niet iedereen mee aan tafel hoeft te zitten. Deze kaarten zijn namelijk interessanter voor enkele specifieke profielen doordat zij bijvoorbeeld sterk focussen op het wegevend kader. Op de kaarten wordt telkens geduid welke profielen best naar deze kaarten kijken. Voor de 'specific blindspots' identificeerden we de volgende AI Blindspots:

  1. Doelgroep: management
    1. Broad discussion
    2. Education & sensibilisation
    3. Large selection
    4. Changing purpose

  2. Doelgroep: management & IT
    1. Standardisation
    2. Data minimisation
    3. Security

  3. Doelgroep: IT
    1. Availability of data
    2. Contextual factors

  4. Doelgroep: dokters, verpleegkundigen & management
    1. Human vs machine
  5. Doelgroep: ethisch commité & management
    1. Data governance & privacy

Klik op een blindspot en kom meer te weten over hoe je deze kan identificeren en detecteren/reduceren.

Ethische dilemma's

Downloads

En nu...?

  • Download de kaartenset en ga er zelf mee aan de slag!
  • Download ook de onderstaande PDF met 2 templates voor de AI Blindspots healthcare kaartenset te gebruiken. Bij de eerste template start je vanaf een ethisch dilemma en ga je aan de slag met de AI Blindspots healthcare kaarten (workshopmethode 1 en 2). De tweede template kan je gebruiken voor de reversed brainstorm met de AI Blindspots healthcare kaartenset (workshopmethode 4). In de PDF wordt telkens een ingevuld exemplaar meegegeven als voorbeeld.
  • Wil je liever een gedetailleerd stappenplan om een in-house workshop rond AI Blindspots te organiseren? Download dan zeker het draaiboek.

De kaartenset werd aangepast op basis van 'AI Blindspot' van Ania Caldeeron, Dan Taber, Hong Qu and Jeff Wen, die de kaartenset ontwikkelden tijdens het Berkman Klein Center een MIT Media Labs's 2019 Assembly Program. De AI Blindspots kaartenset is verkrijgbaar onder een CC BY 4.0 licentie.

Het Kenniscentrum Data & Maatschappij paste de originele kaartenset aan de Vlaamse context aan, om de ontwikkeling van betrouwbare AI in Vlaanderen te ondersteunen. Deze kaartenset vind je hier.

In een latere fase werkte het Kenniscentrum Data & Maatschappij samen met VIVES Hogeschool om een versie van de AI Blindspots kaartenset specifiek voor de zorgcontext te maken. VIVES Hogeschool werkte aan deze Blindspots-kaartenset binnen het project ‘AI in ziekenhuizen: ethische en juridische aspecten’, gefinancierd door ESF Vlaanderen.