Op donderdagmiddag 24 juni zette het Kenniscentrum Data & Maatschappij opnieuw haar eigen publicaties in de kijker. Tijdens de tweede brAInbytes stelden we onze nieuwe kaartenset AI Blindspots healthcare voor, die we in samenwerking met VIVES Hogeschool ontwikkelden. VIVES Hogeschool werkte aan deze kaartenset binnen het project ‘AI in ziekenhuizen: ethische en juridische aspecten’, gefinancierd door ESF Vlaanderen.

De kaartenset helpt je voorkomen dat maatschappelijke vooroordelen en structurele ongelijkheden worden herhaald in het AI-gezondheidszorgsysteem, wat absoluut noodzakelijk is vanwege het gevoelige karakter van de gegevens en de kwetsbare status van patiënten. Elke persoon die betrokken is bij de AI-zorgketen speelt een belangrijke rol bij het omgaan met deze blinde vlekken. De kaartenset helpt daarom artsen, verplegend personeel, managers, IT-personeel en ethische commissieleden blinde vlekken proactief op te sporen en reikt strategieën aan om met deze blinde vlekken om te gaan. In dit verslag vatten we kort samen wat er tijdens de brAInbyte is verteld over de kaartenset.

• Willemien Laenens van het Kenniscentrum legde kort de AI blindspots healthcare kaarten uit. Een kaart bevat een thema of blindspot die volgens ons steeds besproken moet worden bij een innovatie. De set bestaat uit drie soorten kaarten. Er zijn kaarten die het best besproken worden in een diverse groep (CEO, IT, verpleegkundige,...) en er zijn specifieke kaarten die voornamelijk voor een bepaald functieprofiel van belang zijn om over na te denken. Er zijn ook onze ethische vraagstukken, dit zijn kaarten om na te denken over een case als je er zelf nog geen hebt maar wel wil gaan experimenteren met de kaartenset.

• Chloë Delcour (VIVES Hogeschool) licht toe hoe zij tijdens een workshop in AZ Delta gebruik maakten van de kaarten om een discussie over de ethische aspecten van AI aan te gaan binnen de opleiding ‘Aan de slag met AI in de zorg’.

  • De AI blindspots healthcare kaarten en poster hebben geholpen om het gesprek te starten.

  • Het is aan te raden om voor een sessie zowel IT, management, verpleegkundigen,... uit te nodigen om het thema breed te verkennen en de blinde vlekken beter te leren kennen.

  • Participanten kozen kaarten en gaven aan waarom deze belangrijk zijn. Dit werkte goed om de kaarten te bespreken voor het identificeren van ethische valkuilen.

  • Het werkt het best om de kaarten toe te passen op concrete toepassingen. Als die (nog) niet ter beschikking zijn, dan kan je ook gebruik maken van de ethische vraagstukken, bijvoorbeeld om te oefenen, zolang die concreet genoeg zijn voor de participanten. Het gaat dan om een bestaande of bijna geïmplementeerde toepassing, iets waar je gemakkelijk over na kan denken.

  • Er is wel nood aan een Nederlandstalige versie voor breed gebruik binnen het ziekenhuis.

• An Jacobs heeft als senior onderzoeker en professor bij imec-SMIT, Vrije Universiteit Brussel ook kunnen meewerken aan de AI blindspots healthcare kaarten. Volgens haar bieden de kaarten een goede balans om verder te denken, voorbij het opvoeren van efficiëntie (wat vaak het hoofdidee is van automatisering en AI). De kaarten en methode zorgen voor het breder maken van de problematiek zodat er geen tunnelvisie optreed waarbij werknemers, patiënten en waarden mogelijk uit het zicht raken.

• Ten laatste, hebben de panelleden het naar aanleiding van een tweetal publieksvragen gehad over in hoeverre een focus op ethische vragen het ontwikkelingsproces (onnodig) kan vertragen of versnellen en of er met de kaarten niet voorbij wordt gegaan aan de centrale vraag of AI wel de juiste oplossing biedt. De consensus was dat het op voorhand identificeren van ethische problemen juist adopties kan versnellen en ook parallel kan lopen aan het ontwikkelingsproces. Ook is er binnen de AI blindspots healthcare kaarten ruimte om vast te stellen of AI wel nodig is. Ethiek treedt meer op als een begeleider om morele bezwaren een plaats te geven en op te lossen.