AI Blind Spots in de (gezondheids)zorg

Met deze kaartenset denk je na over hoe je AI op een verantwoorde en inclusieve manier kan inzetten in de (gezondheids)zorg. De kaarten helpen je om blinde vlekken te ontdekken: ethische valkuilen zoals vooroordelen in gegevens. Door deze vroeg te herkennen, vergroot je de kans dat AI echt een positieve impact heeft in de (gezondheids)zorg. 

De kaartenset focust op AI-toepassingen die het zorgproces ondersteunen, bijvoorbeeld bij diagnostiek. Er bestaat ook een aparte kaartenset over Generatieve AI van het Kenniscentrum Data & Maatschappij. Neem die erbij als je ook wilt nadenken over de risico’s en uitdagingen van Generatieve AI. 

Elke kaart beschrijft één blinde vlek. Je vindt op de kaart telkens een centrale vraag, de categorie(ën) waartoe de blinde vlek behoort, een korte uitleg, een concreet voorbeeld en enkele reflectievragen. Zo helpt de kaartenset je om mogelijke risico’s van AI-toepassingen in de (gezondheids)zorg in kaart te brengen en ermee aan de slag te gaan. 

Als je op basis van deze oefening verdere actiepunten wilt opstellen, dan raden we je aan om de Aanpak Begeleidingsethiek methode te gebruiken. Deze methode focust op de hoe-vraag: op welke manier kan een AI-toepassing op een goede manier worden ontwikkeld en geïmplementeerd? De methode werd ontwikkeld door ECP - Platform voor de Informatievoorziening.

De AI Blind Spots kaarten zijn onderverdeeld in vier categorieën: 

• Toepassing: Aandachtspunten bij het ontwerp, de training en de ontwikkeling van AI-toepassingen.
• Gebruik: Overwegingen bij het inzetten van AI-toepassingen.
• Uitkomsten: Mogelijke risico’s verbonden aan de analyses, voorspellingen, aanbevelingen, … van AI-toepassingen.
• Organisatie & samenleving: De bredere gevolgen van AI voor zorggebruikers, organisaties in de (gezondheids)zorg en de samenleving.

Je kan de kaartenset voor verschillende doeleinden inzetten:

• om meer bewustzijn te creëren over aandachtspunten bij AI-gebruik;
• als leidraad om afspraken te maken over het gebruik van AI (zoals een gedragscode);
• om risico’s te ontdekken tijdens het ontwikkelen of invoeren van een AI-toepassing;
• als startpunt voor gesprekken over mogelijke gevolgen van AI binnen de organisatie. 

De kaartenset is ontwikkeld voor zorgverleners, innovatiemanagers, AI-professionals en onderzoekers. Je kunt ermee in je team reflecteren over blinde vlekken en ethische dilemma’s. We sporen aan om ook zorggebruikers, mantelzorgers, beleidsmakers of bestuurders te betrekken. Zo neem je meerdere diverse en interdisciplinaire perspectieven mee. Zeker als je een gedragscode wil ontwikkelen of nadenkt over de inzet van AI-toepassingen in de organisatie, is het van belang om zo veel mogelijk verschillende perspectieven mee te nemen.

De ‘AI Blind Spots in de (gezondheids)zorg’ is een tool van het Kenniscentrum Data & Maatschappij (KDM). Voor de kaartenset vertrokken we van eigen inzichten en de medewerking van imec-SMIT (Vrije Universiteit Brussel) en LiCalab (Thomas More Hogeschool), en bevindingen uit workshops die het KDM faciliteerde rond AI-gebruik in de zorg met experts en professionals. 

De tool is gebaseerd op de AI Blindspot van Ania Calderon, Dan Taber, Hong Qu, en Jeff Wen, ontwikkeld tijdens het Berkman Klein Center and MIT Media Lab’s 2019 Assembly program. 

Deze kaartenset is gemaakt met behulp van ChatGPT 4o om verwoordingen te verbeteren en voorbeelden van blind spots te genereren. 

Publicatiejaar: 2025 

De kaartenset is beschikbaar onder een CC BY-NC-ND 4.0 licentie.

Afbeelding: Elise Racine / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/