Paper: 'Emotional AI: A societal challenge'

Andrew McStay
Professor of Digital Life, Bangor University, UK

Hoe moeten we als samenleving omgaan met AI technologie die diep in onze privé-levens doordringt, en de meest intieme delen van ons leven bepaalt? Volgens Andrew McStay moeten we een nieuw type data, namelijk ‘intieme data’, definiëren om dat type ‘emotionele AI’ te kunnen reguleren.

Emotionele Artificial Intelligence (emotional AI) refereert naar AI-technologieën die worden ingezet om het menselijke gevoelsleven te leren kennen, aan te voelen en ermee te interageren. Zo’s technologieën in toenemende mate aanwezig in alledaagse objecten en praktijken. Voorbeelden zijn het gebruik bij digitale assistenten (zoals slimme speakers), en auto- en grenscontroles. Emotionele AI wordt ook gebruikt om de ‘emotionaliteit’ van ruimtes te reguleren en te optimaliseren, zoals werkplekken, ziekenhuizen, gevangenissen, restaurants en winkels.

Deze manieren waarop emotionele AI wordt ingezet, roept fundamentele maatschappelijke vragen op. Maar volgens de auteur wordt er in de regulering van persoonsgegevens momenteel een te sterke nadruk gelegd op identificatie, terwijl niet-identificerende zachte biometrische gegevens over het gevoelsleven werden genegeerd. Hij roept op tot een nieuwe klasse van gegevens: ‘intieme gegevens’ (i.e. gegevens die gevoelig zijn, zonder dat ze daarom persoonlijk zijn). Bovendien pleit hij voor een groeps- en collectief begrip van privacy.

Volgens McStay is er in principe niets mis is met deze technologieën: ze kunnen ons helpen, assisteren en vermaken, op voorwaarde dat ze gebouwd en gebruikt worden op een manier die aansluit bij de wensen van individuen en groepen. Hij pleit er dan ook voor dat emotionele AI en ‘intieme data’ de nodige aandacht krijgt van de Europese regulatoren.