Paper: 'Gelaatsherkenning in publieke ruimtes'

Wim De Mulder

Technische Universiteit Eindhoven, Faculteit Wiskunde en Informatica

Geautomatiseerde gelaatsherkenning is op dit moment een ‘hot topic’, met zowel voor – als tegenstanders. Met deze paper wil Wim De Mulder dan ook een breed publiek aanspreken en tevens een bijdrage leveren aan het maatschappelijke debat.

Wim De Mulder legt eerst kort uit hoe de technologie van automatische gelaatsherkenning werkt en geeft een aantal toepassingen waarvoor het gebruikt kan worden, zoals het opsporen van criminelen of vermiste personen. Ze kan eveneens ingezet worden in de commerciële sfeer, door bijvoorbeeld instapkaarten voor een vlucht te vervangen door het systeem van automatische gelaatsherkenning, waarbij de software de persoon identificeert als een betalende klant.

Maar, zoals het vaak het geval is met technologie, zijn er ook risico’s aan verbonden, zoals een databank die foutieve persoonlijke kenmerken bevat. Door het inzetten van AI-toepassingen kunnen deze risico’s evenwel gedeeltelijk verminderd worden.

Verder staat hij ook stil bij ethische vragen, zoals de potentiële ontmenselijking en het “Big Brother” gehalte. Op Europees niveau zijn in dit kader een aantal initiatieven genomen. Zo heeft bijvoorbeeld de High-Level Expert Group on AI een aantal ethische richtlijnen ontwikkeld voor een betrouwbaar gebruik van AI en heeft de Raad van Europa tien aanbevelingen gedaan die ervoor moeten zorgen dat het inzetten van AI in overeenstemming is met de mensenrechten.

Ten slotte kaart hij een aantal juridische kwesties aan en pleit hij voor een concreter juridisch kader voor het gebruik van AI software voor automatische gelaatsherkenning. Daarbij is het belangrijk om, ondanks de bezorgdheden, zeker ook niet de voordelen van AI uit het oog te verliezen.

Deze paper geeft de visie van de auteur weer en is niet noodzakelijk een weergave van de visie van het Kenniscentrum Data & Maatschappij en CiTiP. Met deze paper willen we bijdragen aan het bestaande debat rond AI.