Wat we onthouden uit het panelgesprek:

• AI kan ondersteuning bieden bij rekrutering, maar kan en mag daarbij geen autonome beslissingen nemen. AI neemt zo geen jobs weg van rekruteerders, maar helpt hen bij de uitvoering van hun taken.

• Aan de hand van datamining en -matching kan AI discriminatie bij rekrutering verminderen. Datamining en -matching laten namelijk toe processen te identificeren, te controleren of te evalueren, en aan te passen als nodig. Op die manier kan een structurele bias (vooringenomenheid of ongelijkheid) worden opgespoord - wat op individueel niveau bijna niet mogelijk is.

• Bias in AI-systemen kan een gevolg van discriminatie in de samenleving zijn. Mensen denken namelijk zelf vaak in stereotypen, en deze weerspiegelen zich in de data waarmee AI-systemen worden getraind. Het is daarom belangrijk om bewust te zijn van deze stereotypen en vooroordelen zodat we deze kunnen detecteren en corrigeren binnen AI-systemen.

• Of en op welke manier we de uitkomsten van AI-systemen corrigeren, is een kwestie van beleid. Zo bleek uit historische data bv. dat vrouwen vaker dan mannen op zoek gaan interimjobs. Of een AI-systeem dan net vaker of minder vaak interim-jobs moet voorstellen aan vrouwen, is niet een keuze van het AI-systeem zelf, maar van de visie die beleidsvoerders hebben op tewerkstelling.

• Om een bias op te sporen, is een belangrijke rol weggelegd voor computerwetenschappers, maar ook juristen, bedrijfsleiders, etc. Zij moeten samenwerken en systemen ethisch maken. Er is geen pasklaar antwoord op de vraag hoe je een systeem ethisch maakt en hoe je ethische principes operationaliseert. Een interdisciplinaire denkoefening en dialoog is nodig en zal in de toekomst alleen maar belangrijker worden.

• Bij de ontwikkeling van zelflerende systemen moeten we eerlijkheidscriteria, zoals representativiteit en accuraatheid, opstellen en hanteren. Momenteel gebeurt dit nog niet voldoende. Het kan een belangrijk element zijn om tot ethisch verantwoorde AI-systemen te komen.

• Laurens Naudts waarschuwt hierbij voor onze eigen ethische bias met betrekking tot nieuwe technologie: we kijken naar vormen van discriminatie die we al kennen. Dat maakt ons mogelijk blind voor andere vormen van discriminatie die we nog niet kennen.

• Er een duidelijk wetgevend kader nodig om deze eerlijkheidscriteria vast te leggen. Dit wetgevend kader moet een leidraad worden om met elkaar in dialoog te gaan. Eerlijkheidscriteria zullen soms namelijk niet compatibel zijn met elkaar. Welk criterium zullen we dan boven het andere kiezen?

• Datakwaliteit, AI-modellen en ethische maatstaven zijn allen bewegende doelen. Het idee dat één lijst van principes alles zal oplossen klopt niet. Om een zelflerend systeem op het rechte pad te houden is constante monitoring nodig van data, model en uitkomst in de maatschappij.

Conclusie

Het panel maakte duidelijk dat er veel aandachtspunten zijn bij AI in recruitment, maar er zeker ook opportuniteiten zijn. Het systeem kan bijvoorbeeld ook bias in de eigen datasets opsporen. Het is belangrijk om dit debat interdisciplinair en publiek te voeren, aangezien het ons allen aanbelangt.

We moeten werken aan een gemeenschappelijke taal waarin diverse disciplines (ethici, computerwetenschappers, juristen, …) met elkaar in gesprek kunnen gaan om zo aandachtspunten, maatstaven en grenzen voor het gebruik van AI binnen rekrutering te verduidelijken.

Vanuit het panel en het publiek was er een duidelijke vraag om een kader te scheppen waarin AI in rekrutering kan worden ingezet. Wil je meewerken aan dit kader? Contacteer ons dan via info@data-en-maatschappij.ai.