Wat is de aanpak?

De aanpak begeleidingsethiek is een methode om een dialoog aan te gaan over ethiek en technologie en begeleidt op die manier de ethische ontwikkeling van producten en diensten. De aanpak is ontwikkeld vanuit het standpunt dat technologie en mens met elkaar zijn verweven. Technologie is niet iets wat we enkel moeten beheersen, of wat de mens zal verlossen, maar het is een onderdeel van onze leefwereld.

Vanuit dit idee is de vraag niet of een technologie wel of niet gemaakt mag worden, of goed of fout is, maar ligt de focus meer op de hoe-vraag: op welke manier kan de technologie op een goede manier worden ontwikkeld en geïmplementeerd? De methode vertrekt daarvoor vanuit de bestaande praktijk en kijkt naar de verschillende actoren, effecten en waarden in de context waarin de technologie zal worden ingezet. In een workshop gaan verschillende betrokkenen in dialoog hierover en proberen gezamenlijk tot vervolgacties te komen op het gebied van de technologie, de omgeving en het gebruik. Idealiter wordt de workshop aan het begin van het ontwikkelingsproces uitgevoerd.

Hoe werkt de workshop?

Aan de hand van een casus waarbij algoritmes worden ingezet voor het opsporen van uitkeringsfraude hebben we in een korte sessie de verschillende stappen van de aanpak doorlopen. In de eerste fase wordt de technologie in context verhelderd. In de fraudeopsporing casus adviseert een AI-systeem een ambtenaar dat er mogelijks een geval van fraude is. De ambtenaar neemt dit dan verder onder de loep. Het algoritme berekent op basis van gegevens uit meerdere systemen hoe groot het risico is dat iemand onterecht een uitkering ontvangt.

In de tweede fase wordt opgesteld welke actoren betrokken zijn in de casus. Dat kunnen allerlei verschillende actoren zijn, van gebruikers tot ontwikkelaars, adviseurs en beleidsmakers. Idealiter worden die ook allemaal betrokken in deze workshop. In een dialoog worden vervolgens de mogelijke positieve en negatieve effecten opgesomd en de waarden die belangrijk zijn bij deze technologie en de omgeving waarin de technologie zal worden gebruikt. Een aantal positieve effecten voor de casus rond uitkeringsfraude zijn bijvoorbeeld minder fraude en meer efficiënte inzet van ambtenaren. Discriminatie, bevooroordeling (bias) en intransparantie kunnen daarentegen als negatieve effecten optreden. Belangrijke waarden die spelen bij een dergelijk systeem zijn bijvoorbeeld rechtvaardigheid, transparantie en efficiëntie.

In de laatste fase maak je de vertaalslag van mogelijke effecten en waarden naar oplossingen. De oplossingen worden bedacht vanuit drie verschillende domeinen: de technologie, de omgeving en het gebruik. Bij het domein technologie gaat het om het (her)ontwerpen van het product met de ethische waarden in gedachten, door bijvoorbeeld ethics-by-design. Het fraudeopsporingssysteem kan bijvoorbeeld zo worden ontworpen dat het transparant is over welke gegevens er worden gebruikt en dat er een check op bias wordt ingevoerd. Het tweede domein is de omgeving: die kan ook worden (her)ingericht met het oog op de ethische waarden aan de hand van beleid, wetgeving, processen, organisatie en infrastructuur. Denk hierbij bijvoorbeeld aan het verplicht documenteren van de ethische keuzes die werden genomen tijdens de ontwikkeling van het systeem. Het laatste domein gaat over het gebruik. Dit domein gaat over hoe individuen met de technologie omgaan. Hier kan je bijvoorbeeld denken aan trainingen, bewustwording en communicatie rond het product om een ethischer gebruik te stimuleren.

Aan het eind van de workshop eindig je zo met een kleine hoeveelheid handelingsopties om te gaan implementeren rond de technologie. Niet alle oplossingen zullen haalbaar of relevant zijn, maar er zitten zeker ook goede ideeën tussen net doordat je vertrekt vanuit de waarden van de technologie, de effecten en de actoren die je voor ogen hebt.

Onze ervaringen

De aanpak maakt het ethische aspect van technologie heel praktisch en toepasbaar op daadwerkelijke projecten. Zelfs in een versnelde sessie hebben we meerdere creatieve ideeën kunnen bedenken om de technologie te verbeteren en op een juiste manier te implementeren. De aanpak wil ook meerdere perspectieven en actoren betrekken waardoor de uitkomsten van de workshop ook echt alle waarden rondom de technologie reflecteren. Het kan soms moeilijk zijn om al die actoren samen rond de tafel te krijgen, maar als het lukt levert dat zeker een meerwaarde op. Indien het echt niet mogelijk is om alle actoren samen te krijgen, kan je de workshop ook doen per team (bijvoorbeeld een sessie met het team communicatie, een sessie met potentiële gebruikers, een sessie met de ontwikkelaars, …). Komen dezelfde waarden naar boven tijdens de sessies? Welke oplossingen worden aangereikt in de verschillende groepen? Hoe verhouden en verschillen de gegeven oplossingen zich van elkaar? En wat leer je daaruit voor de verwezenlijking van je technologische innovatie?

Conclusie

In deze blogpost hebben we de aanpak begeleidingsethiek als tool verder uitgelicht omdat we na de snelsessie erg onder de indruk waren van de mogelijkheden en effectiviteit van de aanpak om op een relatief makkelijke en toegankelijke manier tot ethisch en maatschappelijk geïnspireerde oplossingen te komen. We raden deze tool dan ook zeker aan als je op zoek bent naar een workshopaanpak voor het verbeteren van de maatschappelijke impact van jouw innovatieproject.