Blog

AI en covid-19: Een pandemie mag geen excuus zijn voor ‘function creep’

03.07.2020

Covid-19 stelt de wereld voor een ongeziene gezondheidscrisis. Tegelijk is geen enkele pandemie tot nog toe zo goed in kaart gebracht. Hoe kunnen we de enorme hoeveelheden data en rekenkracht combineren om deze pandemie te bestrijden? Welke rol kan er in deze crisis weggelegd zijn voor AI-toepassingen of andere datagedreven toepassingen? En hoe ver gaan we daarin mee, voor we vinden dat onze fundamentele rechten in gevaar komen? Er zijn voorbeelden van dagdagelijkse AI-toepassingen die in het belang van de publieke gezondheid plots extra functies krijgen, die ons op andere terreinen benadelen, de zogenaamde 'function creep'. We bekijken even een aantal mogelijkheden - en aandachtspunten - van naderbij.

AI-systemen in tijden van covid-19

AI-toepassingen zijn alomtegenwoordig en er zijn heel wat manieren te bedenken waarop AI-systemen ons kunnen helpen in de bestrijding van de covid-19-pandemie. Een inderhaast georganiseerde virtuele conferentie over covid-19 en AI vindt volgende week plaats en zal de mogelijkheden ten gronde bekijken en bespreken. Maar we zien vandaag al dat AI-systemen onder meer op volgende manieren worden ingezet:

  • De opvolging en de voorspelling van het verdere verloop van de pandemie. Op basis van natural language processing en machine learning kunnen AI-systemen het verdere verloop van de pandemie al met een aantal dagen voorsprong voorspellen. Hierbij vertrekken ze onder meer van nieuwsberichten, sociale media berichten, en overheidsdocumenten om de outbreak te detecteren. Een gedetailleerdere anticipatie van het verdere verloop van de pandemie en nieuwe mogelijke haarden kan een aanzienlijk verschil maken in de kwaliteit van de voorbereidingen en de genomen maatregelen.
  • De diagnose van covid-19 op basis van CT-scans versnellen. Ook de departementen medische beeldvorming van ziekenhuizen kunnen bij een groot aantal patiënten overbelast geraken. Door een verdere automatisering van de beeldanalyse kunnen dokters diagnoses mogelijks sneller en mogelijks accurater stellen.
  • Automatisering logistieke of operationele taken. Bij tal van taken kunnen drones of robotica hulp bieden. Drones kunnen worden ingezet voor medische bevoorrading. Robots kunnen we inzetten om maaltijden of goederen te leveren, of ruimtes klaar te maken. Zo zijn er momenteel bijvoorbeeld robots beschikbaar die autonoom kunnen steriliseren op basis van ultraviolet licht.
  • Ontwikkeling medicijn of vaccin. AI-systemen kunnen bestaande databanken van geneesmiddelen scannen om te bekijken welke medicijnen mogelijk ook werken tegen covid-19. Ook bij de ontwikkeling van nieuwe medicijnen is enorme rekenkracht nodig. Zo werkt momenteel het Vlaamse Supercomputer Centrum mee aan de ontwikkeling van een covid-19 medicijn. Andere voorbeelden zijn Google's DeepMind of Benevolent AI. Een grote uitdaging hierbij is ookhoe het medicijn op een versnelde, maar toch veilige en correcte manier kan worden goedgekeurd. Verschillende Europese fast-track calls lopen momenteel om een versnelde ontwikkeling van covid-19-medicijnen te stimuleren. Wil je hier graag zelf aan bijdragen? Installeer dan Folding@Home (zie kader onderaan).
  • Bewaking van de kwaliteit van gezondheidscommunicatie rond Covid-19. AI-systemen kunnen bijdragen de opsporing van fake news omtrent covid-19 en de verdere verspreiding van foute berichten tegengaan. Ook kunnen chatbots ingezet worden die burgers informatie op maat geven, zoals bv. Covidbot Penny.
  • Controle op nakomen van gezondheidsmaatregelen, detecteren van een gebrek aan therapietrouw. Op basis van gezichtsherkenning, locatietracering en andere technologieën kunnen we nagaan in welke mate patiënten of risicogroepen bv. in het openbaar maskers dragen, waar zij zich begeven en met wie zij in contact komen. Drones kunnen verder worden ingezet om op publieke plaatsen te patrouilleren en overtredingen op quarantaineregels vast te stellen.
  • In kaart brengen van het sociale netwerk van een besmette persoon. We laten via bluetooth, sociale media en GPS tal van digitale sporen achter, die we kunnen gebruiken om mensen te informeren wanneer ze met besmette persoon in contact zijn gekomen.
“Bij het bedwingen van de covid-19-outbreak ontstaat er op een bepaald punt een trade-off tussen publieke en maatschappelijk/economische belangen.”

Persoonlijke vs. publieke belangen

Terwijl AI-systemen op al deze vlakken een aanzienlijke bijdrage kunnen leveren, zoeken ze zeker in het laatste voorbeelden de grenzen op van wat we maatschappelijk aanvaardbaar vinden. De verregaande manier waarop dat voor covid-19 nu al gebeurt in China, Taiwan, Zuid-Korea en Israël toont hoe burgers en overheden daar momenteel erg verschillend over denken.

Ook de Belgische federale regering bekijkt momenteel hoe telecomdata kunnen dienen om de verdere verspreiding van het virus in kaart te brengen, zicht te krijgen op wat de impact van de maatregelen is en welke nieuwe maatregelen nodig zijn. Deze 'data against corona'-taskforce betrekt momenteel actief de gegevensbeschermingsautoriteit (GBA) en een ethisch comité ziet toe op de werking. Individuen kunnen hierbij niet worden geïdentificeerd, en analyses waarbij wordt gekeken of er contact is geweest tussen personen en dragers van het virus zijn momenteel als disproportioneel ingeschat. Ook Europa is aan het onderzoeken wat het momenteel uit telecomdata kan leren, en hoopt zo een rem te zijn op mogelijks controversiëlere toekomstige praktijken van lidstaten.

Wanneer het beleid maatregelen treft om dit type gezondheidscrisis te managen, moet grondig worden afgewogen in welke mate het recht op privacy en zelfbeschikking kunnen blijven gelden. Zeker wanneer het aankomt op controle op gezondheidsmaatregelen is er vaak een trade-off tussen persoonlijke (autonomie, privacy, vrijheid) en publieke/economische belangen. Hoe een outbreak wordt bedwongen en de mate waarin persoonlijke belangen daarbij moeten inboeten moet in proportie zijn met het risico dat de outbreak met zich mee brengt.

Dat is natuurlijk een erg moeilijke oefening, maar er bestaan richtlijnen die kunnen helpen om deze afweging te maken. Voorbeelden hiervan zijn:

Op globaal niveau is er momenteel geen allesomvattend kader dat toezicht of surveillance bij een pandemie reguleert. Doordat het ethische beleid rond AI-systemen gefragmenteerd is, bestaat er het risico dat ‘surveillancetechnologie’ verregaander wordt ingezet, wat kan leiden tot ‘function creep’ – waarbij steeds nieuwe functies worden toegevoegd aan bestaande toepassingen of technologieën, waardoor ze op een andere manier worden ingezet dan oorspronkelijk de bedoeling was. Wat kan helpen om dit tegen te gaan, is een duidelijk openbaar register van initiatieven waarin persoonsgegevens worden verwerkt in de strijd tegen covid-19. Hierin moeten dan duidelijke eindtermijnen gedefinieerd staan van deze initiatieven.

In Europa beschermt de GDPR de Europese burgers bij datagebruik. Maar de GDPR voorzien ook wettelijke uitzonderingen, zoals Artikel 9, waarbij verantwoordelijk gebruik van de technologie is toegelaten tijdens gezondheidscrisissen. Nieuwe legislatieve initiatieven op Europees niveau moeten verhinderen dat nieuwe vormen van sociale controle ontstaan in crisisperiodes, want deze kunnen nog lang nadat de pandemie is verlopen, gevolgen met zich meedragen.

Zorg zelf voor extra rekenkracht voor de ontwikkeling van het Covid-19 medicijn

Stel een deel van de processor van je thuiscomputer ter beschikking voor wetenschappelijk onderzoek, en zorg er zo mee voor dat er sneller een medicijn voor covid-19 komt. Dat is het idee achter het Folding@Home-initiatief.

Kort gezegd: om een antilichaam te maken moet je proteïne vouwen en dat is een erg complexe taak. Er is software die alle mogelijke combinaties onderzoekt waarop dit kan gebeuren, maar aangezien er zo veel mogelijkheden zijn, is dit een erg tijdsintensief proces. Je kan het proces versnellen door veel computers in te schakelen en de rekenkracht te verdelen. Met Folding@Home doe je precies dat: je downloadt een programma op je computer dat mee deze simulaties helpt uitvoeren. Je kan het volledige verhaal achter dit project online beluisteren.

Alpha fold, een project van Google Deepmind, is een AI-toepassing die op hetzelfde traject werkt en evengoed probeert te voorspellen hoe je proteïnen vouwt.

Je kan dus een eenvoudige bijdrage aan de wetenschap leveren door Folding@Home te installeren. Je kan de applicatie zo instellen dat je werkgeheugen enkel wordt aangesproken wanneer jij het niet gebruikt.ik z

Auteur:

Auteur:

Pieter Duysburgh

Operational Lead Kenniscentrum Data & Maatschappij

Contact