Wacht niet op wetgeving om verantwoorde technologie te ontwikkelen
01.03.2022
door Jonne van Belle, Rob Heyman & Willemien Laenens (imec-SMIT, VUB)
AirTags als een voorbeeld van onbedachte innovatie
Stel dat jouw product massaal wordt misbruikt om vrouwen te tracken zonder dat ze er weet van hebben? Apple zit de laatste dagen met de handen in het haar na de vele berichten over de AirTags, kleine bluetooth trackers die gemakkelijk kunnen worden achtergelaten in iemands zak of tas om die persoon te volgen. iPhone-gebruikers krijgen een melding van een onbekend apparaat als zo’n AirTag in hun buurt is, maar de apparaatjes zijn zo klein dat ze moeilijk terug te vinden zijn. En wat met Android-gebruikers? Zij zullen geen waarschuwing ontvangen en niet te weten komen dat ze worden gevolgd.
Het misbruik van de AirTags had niet voorkomen kunnen worden door enkel een regelgevend kader voor de ontwikkeling van technologie in te voeren. Er bestaat al wetgeving die stalking verbiedt, toch had Apple geen rekening gehouden met grootschalig misbruik in het ontwerp van de AirTags. Een grondige ethische analyse tijdens het ontwikkelingsproces van de AirTags had wel rode vlaggen geplaatst bij mogelijk onbedoeld, en strafbaar, gebruik van deze technologie. Wacht dus niet op die stok achter de deur en begin vandaag nog de transitie naar ethische technologie ontwikkeling.
Waarom ethiek?
Die tendens om te focussen op een ethische analyse van AI staat steeds meer op de voorgrond, zowel in de publieke opinie, bij beleidsmakers en investeerders. Europa - onder andere - zet sterk in op betrouwbare of trustworthy AI-systemen, denk onder meer aan de AVG en de HLEG Assessment List. Momenteel werkt Europa aan een AI-verordening, die bepaalde toepassingen van AI zal gaan verbieden en andere extra waakzaam zal benaderen om de rechten van burgers te beschermen.
Maar zoals het voorbeeld van de AirTags duidelijk aangeeft is wetgeving niet allesbepalend. Het is in eerste plaats de verantwoordelijkheid van de organisatie om ethische reflectie deel te maken van innovatie. Dat wil zeggen actief inzetten op het opsporen en wegwerken van ethische valkuilen zoals misbruik van technologie. Actief inzetten op ethiek in innovatie heeft veel voordelen als investering in de toekomst. Doordat je niet telkens wacht op een nieuw wettelijk kader dat bepaalt welke technologieën wel of niet ontwikkeld mogen worden, loop je minder risico dat je technologie over een paar jaar in de illegaliteit zal belanden. Je bespaart er op termijn ook investeringen mee uit want je voorkomt onaangename verrassingen. De waarde van je bedrijf wordt hoger ingeschat want je bent betrouwbaarder dan de concurrentie. Je technologie is gebruiksvriendelijker en zal met meer plezier gebruikt worden door je doelgroep. Als organisatie zorg je zo voor eerlijke, verantwoorde en toekomstbestendige producten die geen negatieve publiciteit opwekken.
Digital Ethicists, actieve bewakers van ethiek
Wat kan je nu al doen als organisatie? Bepaal de ambities van je organisatie en de waarden die je wil uitstralen en zorg ervoor dat je de waarden die je ambieert als organisatie ook omzet in actiepunten. Zonder concrete acties en een cultuur waarin ethische reflectie en conversatie gestimuleerd worden, is een lijst met principes een lege doos. Om een ethische wil direct in actie om te zetten, is het nuttig om tenminste één persoon binnen de organisatie deze taak als verantwoordelijke op zich te laten nemen.
Die verantwoordelijken, wij noemen ze Digital Ethicists, zijn nog niet talrijk aanwezig in organisaties. Ze bestaan al, maar hebben vaak nog niet het statuut van een Digital Ethicist verkregen waardoor veel van hun taken impliciet worden opgenomen.
Op de Data-Date vroegen we experten welke rol Digital Ethicists hebben. Zij zijn eerder coaches dan scheidsrechters. Ze begeleiden de organisatie in de transitie naar meer ethische technologie ontwikkeling en sturen bij waar nodig. Hun takenpakket is veelzijdig, van het betrekken van verschillende perspectieven in het ontwerpproces, werknemers stimuleren zich uit te spreken over wantoestanden, tot het opzetten van een ethische board die de eindbeslissing neemt over de ontwikkeling van een technologie.
Die verantwoordelijken waken over ethiek binnen de organisatie of krijgen die als expliciete taak. Zij worden het aanspreekpunt voor ethische technologie ontwikkeling binnen de organisatie, maar zij moeten hierin ondersteunt worden door het management om hun opdracht goed te kunnen uitvoeren.
Dit kan een verantwoordelijke, of een Digital Ethicist, vandaag al doen voor je organisatie:
Een stakeholderlijst maken van belangrijke partijen die direct of indirect beïnvloedt worden door je product of bedrijf zodat je deze kan contacteren als je niet weet hoe ze zich voelen bij een bepaalde innovatie.
Een oefening doen om te weten wat de opportuniteiten en uitdagingen zijn met betrekking tot ethiek en innovatie (op onze website staan al heel wat mogelijke methodes die je zo kan toepassen).
Over de genomen beslissingen die bepalend zijn voor de verdere ontwikkeling en het gebruik van je technologie communiceren.
Een cultuur creëren waar werknemers worden aangemoedigd om te reflecteren op de beslissingen die worden gemaakt en zich uit te spreken indien zij niet akkoord zijn met keuzes binnen een project.
Zich laten inspireren door onze noorderburen, diverse Nederlandse steden leggen er een algoritme-register aan. Een eerste goede stap richting meer transparantie over de gebruikte algoritmes en het dataverwerkingsproces van diverse digitale overheidsdiensten.
Auteurs
Willemien Laenens
Communicatie en Projecten Kenniscentrum Data & Maatschappij
Rob Heyman
Coördinatie Kenniscentrum Kenniscentrum Data & Maatschappij
Photo by Brett Jordan on Unsplash