Rapport

Rapport: Tools voor ethiek bij AI

17 februari 2020

Het Kenniscentrum Data & Maatschappij brengt een rapport naar buiten waarin we tools vergelijken die een kader bieden om ethiek te betrekken bij de ontwikkeling, het gebruik en de evaluatie van toepassingen die gebruik maken van artificiële intelligentie (AI).

Waarom moet ik dit rapport lezen?

Wie de actualiteit volgt rond artificiële intelligentie, is het vast niet ontgaan dat het daarbij steeds vaker gaat over de ethische aspecten van technologie die gebruik maakt van AI (zie bijvoorbeeld dit interview met Katleen Gabriels in De Afspraak).

Ethische vragen moeten dus een centrale plaats krijgen wanneer we met AI werken. Maar hoe pak je dat precies in de praktijk aan? Dat is vaak minder duidelijk. Dit rapport bekijkt een aantal tools van naderbij die daarbij kunnen helpen.

Voor wie is dit rapport bedoeld?

We schreven dit rapport voor iedereen die in de praktijk AI-toepassingen conceptualiseert, ontwikkelt, implementeert of evalueert. Dat kan onder meer gaan over projectleiders, business analisten, ontwerpers, ontwikkelaars, programmeurs, en testers.

Wat kan je precies lezen in het rapport?

Het rapport vergelijkt 18 ethische validatietools op een aantal dimensies. We keken telkens naar het doelpubliek, de voorgesteld methode, mogelijke uitkomsten, de fase in het proces waarin de tool kan worden gebruikt, de AI-componenten waar de tool op inzoomt, en de manier waarop ethiek wordt ingevuld.

Het hoofdrapport beschrijft de belangrijkste lijnen van de analyse en geeft een aantal punten aan voor de verdere ontwikkeling en verbetering van bestaande ethische tools.

In de bijhorende spreadsheet staan de tools opgelijst, met de analyse er telkens bij. Zo kun je zelf de tool vinden die in jouw werkpraktijk het best bruikbaar is.

Spring naar Enkele opvallende tools

Enkele opvallende tools

De beschikbare instrumenten verschillen onderling zeer sterk. We lichten voor jou een aantal opvallende tools toe.

Artificial Intelligence Impact Assessment (AIIA)
  • Tool ontwikkeld door ECP (Nederland).
  • Wat is het? Een gestructureerd stappenplan om de maatschappelijke baten van een AI-toepassing in kaart te brengen en de betrouwbaarheid, veiligheid en transparantie van de toepassing te analyseren.
  • Wat levert het op? Grondig afgewogen ethische beslissingen in het ontwikkelingsproces.
  • Vrij beschikbaar.
People + AI guidebook
  • Tool ontwikkeld door Google
  • Wat is het? Een handleiding voor UX-professionals en productmanagers die de gebruikservaring van mensen centraal zet in het ontwikkelingsproces
  • Wat levert het op? Concrete acties om de gebruikerservaring te optimaliseren bij AI-toepassingen
  • Vrij beschikbaar.
Aequitas
  • Tool ontwikkeld door Center for Data Science and Public Policy (University of Chicago)
  • Wat is het? Een open source tool om machine learning modellen te controleren op discriminatie en vooroordelen (bias)
  • Wat levert het op? De analyse levert een rapport op over de vooroordelen die het machine learning model kan produceren, op basis waarvan je onderlegde en onpartijdige beslissingen kan nemen voor verdere ontwikkeling en implementatie
  • Vrij beschikbaar.
Data ethics canvas
  • Tool ontwikkeld door Open Data Institute
  • Wat is het? Een canvas om van bij de start van een project en bij de uitrol ethische uitdagingen te identificeren
  • Wat levert het op? Inzicht in de ethische uitdagingen van een AI-project.
  • Tools zijn vrij beschikbaar, opleiding is betalend.
Ethical OS toolkit
  • Tool ontwikkeld door Institute for the Future & Omidyar Network’s Tech and Society Solutions Lab
  • Wat is het? Een toolkit bestaande uit scenario's, checklijsten, strategieën en use cases om bewust na te denken over de toekomstige impact van je gewenste technologie in de ontwerpfase
  • Wat levert het op? Een grondige reflectie over de impact van je gewenste technologie in de ontwerpfase, met een focus op 8 ethische risico’s
  • Vrij beschikbaar.

Hoe gaat het kenniscentrum hiermee verder?

De analyse is nog niet volledig. Niet alle tools staan opgenomen in het rapport, en er komen er altijd nieuwe bij. We bouwen in de toekomst verder op dit rapport door niet enkel nieuwe tools op te nemen, maar ze ook gemakkelijk doorzoekbaar te maken. Zo kan je je snel een tool vinden die past bij jouw wensen. We bekijken ook of er lacunes zijn in het aanbod en er aanvullende tools moeten worden ontwikkeld.

Opmerkingen, vragen? Laat het ons weten!