Op woensdag 3 november 2021 organiseerde het Britse Ada Lovelace Institute een online panelgesprek omtrent verantwoord AI-onderzoek. Het debat werd gemodereerd door Andrew Strait, een Ada Lovelace-medewerker en had vier deelnemers: Margaret Mitchel (ex-Google en huidig hoofd AI Ethics bij HuggingFace), Gabrielle Samuel (onderzoeker aan King’s College London), Brhmie Balaram (Hoofd AI-onderzoek en – ethiek bij het NHS AI LAB) en Yves-Alexandre de Montjoye (professor aan Imperial College Londen).

Volgens de agenda zouden de volgende drie vragen behandeld worden, maar in feite werd enkel de eerste expliciet behandeld:

• What does responsible AI research look like, and what role does data protection play in conducting responsible AI research?
• What have the impacts of data protection regulations been on research culture, data sharing and access to data?
• What have the impacts of data protection regulations been on the ability of researchers to create socially beneficial research?

Zoals je kan zien in de opname, worden de sprekers eigenlijk gevraagd om het statement ‘more data leads to better research’ te becommentariëren.

Margaret Mitchell wees er in dat verband op dat deep learning het beweerde voordeel heeft dat er geen nood is aan dure geannoteerde of gecureerde gegevenssets waardoor je vrij gemakkelijk en snel aan veel gegevens kunt geraken. Ze benadrukte dat dat echter niet noodzakelijk positief is en dat dan nog steeds aandacht moet geschonken worden aan hoe die gegevens tot stand komen en uit welke bron afkomstig zijn zodat eventuele vooroordelen kunnen geïdentificeerd worden.

Gabrielle Samuel stelde dat gegevensbeheer inderdaad belangrijk is, maar dat het niet het enige is waar aandacht aan moet geschonken worden om tot verantwoord AI-onderzoek te komen. Ook energiebehoeften, de duurzaamheid en de sociale impact van AI-systemen (bv. machtsverhoudingen) moeten van bij het begin in kaart worden gebracht. Zo kan er gestreefd worden naar een ecosysteem van verantwoordelijkheid, met een speciale rol voor financieringsinstanties die goed moeten overwegen in welke soorten AI zij investeren en niet enkel met het oog op economische groei.

Brhmie Balaram gaf enerzijds aan dat wettelijke vereisten (te) vaak als minimumvereisten worden beschouwd en dat organisaties doorgaans niet verder gaan. Anderzijds zijn die wettelijke vereisten dikwijls te onduidelijk en vaag voor bv. onderzoekers waardoor de toepassing vaak moeilijk is en de vereisten dus baat zouden hebben bij een duidelijkere formulering.

Tot slot stelde Yves-Alexandre de Montjoye dat het op zich goed is dat er steeds meer gegevens gebruikt worden in onderzoek, maar dat dat wel op een correcte manier dient te gebeuren. Zo benadrukte hij onder andere het belang van anonimisering van gegevens met het oog op wetenschappelijk onderzoek.

Tijdens het gesprek komen er uiteraard nog andere onderwerpen aan bod, maar daarvoor nodigen we jou uit om de video te bekijken.