Hoe maak je bewuste ethische keuzes in je AI-project?

Het Kenniscentrum Data & Maatschappij werkte samen met Dries De Roeck, ontwerper en onderzoeker bij ontwerpbureau Studio Dott, aan een logboek dat organisaties helpt op een bewuste en structurele manier rekening te houden met ethiek doorheen een innovatieproject. Het logboek helpt organisaties om ethische vraagstukken te identificeren en hieraan concrete acties te koppelen om deze aan te pakken of op te lossen. Op die manier kun je aantonen welke beslissingen je als organisatie maakte doorheen het ontwerp- en ontwikkelingstraject.

Waarom is logging belangrijk?

Bij de aanvang van een project krijg je bepaalde doelen of krijtlijnen vaak vooraf meegedeeld, alsook welke prestaties je zal moeten opleveren. Op basis hiervan stel je een projectplanning op waarbij je specificeert welke doelen je wil behalen tegen welke termijn om te komen tot een eindproduct. Hoe je tot dit eindproduct kan komen op een verantwoorde en ethische manier, maakt vaak geen onderdeel uit van de projectvereisten. Een doordachte strategie om rekening te houden met ethiek in het ontwerp- en ontwikkelingstraject van een innovatieproject ontbreekt dikwijls.

Welke gegevens moet je verzamelen voor de goede werking van het systeem, en welke gegevens wil je nog verzamelen? Hoe zal je hierover communiceren naar je gebruikers? Wat als het systeem op een niet voorziene manier wordt gebruikt? Wat zal de impact van het systeem zijn op de gebruiker, op diens omgeving en op de samenleving in het algemeen? Deze vragen zijn slechts een aantal voorbeelden van de vraagstukken en dilemma’s waarmee je als organisatie te maken krijgt. Met sommige vraagstukken zal je automatisch worden geconfronteerd, andere dilemma’s verschuilen zich meer onder de radar, maar zijn daarom niet minder belangrijk om over na te denken in teamverband.

Het logboek

Het logboek is een manier om als team actief na te denken over deze vraagstukken en dilemma’s en hier bewust keuzes over te maken. Ieder vraagstuk vraagt om een afweging, maar het is belangrijk om te verantwoorden aan de gebruikers, belanghebbenden en project reviewers waarom bepaalde keuzes werden gemaakt. Het logboek kan gezien worden als instrument bij een collectief leerproces binnen de organisatie, waarbij je bepaalde overwegingen logt en motiveert, en deze ook deelt met andere teams.Daarnaast blijft een groot vraagteken bij ethiek hoe je dit nu net in de praktijk omzet. Het logboek wil dit ondersteunen door steeds de vraagstukken te loggen, de overwegingen die hierbij komen kijken, de uiteindelijke keuze en daaraan gekoppeld ook enkele actiepunten.

Het logboek: praktisch

Het logboek is een manier om ethiek te integreren in de strategische krijtlijnen van een project. Het helpt je om ethische doelen die je wil behalen in je project te identificeren (zoals bijvoorbeeld transparantie en duurzaam innoveren), op basis van de waarden en normen van je organisatie. Eens die waarden en normen, en die ethische doelen, helder zijn, biedt het logboek een aanpak om die doelen om te zetten in de praktijk. Het raadt je diverse ethische (design)tools aan om verder na te denken over die doelen en hiermee gepaarde ethische vraagstukken en dilemma’s. Die uitdagingen kun je in het logboek registreren en actiepunten aan koppelen, die je toewijst aan een verantwoordelijke.

De ethische overwegingen die je maakt en documenteert aan de hand van het logboek, kun je nadien ook makkelijker communiceren naar je doelgroep of naar de project reviewers in de vorm van een rapport.

Het logboek is een startpunt om ethiek te operationaliseren, maar in welke fase in het project start je hier best mee? Idealiter doe je een eerste sessie met het projectteam bij de start van het project, waarin je de ethische doelen, en waarden en normen van de organisatie bespreekt aan de hand van de templates in het logboek. Vervolgens plan je op regelmatige tijdstippen een nieuwe sessie in waarin je aan de hand van een ethische (design)tool telkens je innovatie toetst en de ethische vraagstukken en uitdagingen op lijst, inclusief hieraan gekoppelde actiepunten.

Wat doet het logboek niet?

Het logboek heeft ook enkele beperkingen. Zo beschrijft het niet welke acties je minimaal moet ondernemen om aan ethiek te doen. Het stelt geen vereisten, en het raadt je ook niet aan welke ethische (design)tools je de meeste inzichten en resultaten kunnen opleveren.

Voor dat laatste werkt het Kenniscentrum Data & Maatschappij achter de schermen aan een keuzeboom om ethische (design) tools te kunnen selecteren op basis van bijvoorbeeld doelstelling, duurtijd, aantal deelnemers, resultaat, etc. Heb je momenteel al een vraag over een tool, of ben je op zoek naar een tool, maar weet je niet goed welke te kiezen? Dan kun je op de toolspagina van het Kenniscentrum Data & Maatschappij kijken. Geraak je er niet wijs uit? Contacteer ons dan via info@data-en-maatschappij.ai.

Afbeeldingen via unDraw: https://undraw.co/