Tool

Tool: AI Ethics Cards

Datasystemen en algoritmen worden op grote schaal en met een ongeziene snelheid ingezet, waardoor onvoorziene gevolgen mensen kunnen treffen op diezelfde schaal en snelheid. Hoe kunnen mensen steeds op de eerste plaats worden gezet bij het ontwerp van data- en AI-systemen? Vooral wanneer die systemen in de loop van tijd veranderen en mee evolueren? Hierop proberen de AI Ethics Cards van IDEO (een wereldwijd design bedrijf) een antwoord te bieden.

De kaartenset bestaat uit vier grote design principes en tien activiteiten, bedoeld om te gebruiken in teams die werken aan de ontwikkeling van datagedreven producten en diensten. Ze helpen ontwerpers om een mensgerichte focus te behouden tijdens het ontwikkelingsproces van de dienst of het product.

  • Voor wie: ux designers, ontwikkelaars en software developers en ontwerpers
  • Procesfase: ontwerp en ontwikkeling
  • Systeemonderdeel: interface en hele systeem
  • Prijsindicatie: gratis

Doel van de kaartenset

Verzamel het multidisciplinaire team dat mee aan de ontwerptafel van de dienst of het product zit om de kaartenset te gebruiken. De kaartenset kan gebruikt worden voor vier specifieke doelen:

  1. aan de start van een project, om na te gaan welke data je verzamelt en welk effect dit heeft op het ontwerp van de dienst of het product.

  2. bij beslissings- en planningsmomenten, om te reflecteren over op welke manier oplossingen en beslissingen een effect hebben op het doelpubliek van de dienst of het product.

  3. bij het ontwikkelen van een prototype, om na te denken over hoe het doelpubliek zal interageren met de dienst of het product en het ontwikkelingsteam te helpen succesvolle gebruikerstesten op te zetten.

  4. gedurende het hele ontwikkelingsproces, om het team te stimuleren blijvend mensgericht te ontwerpen.


Inhoud van de kaartenset

De kaartenset bestaat uit vier design principes, tien activiteiten en een pauze-vlag.

De pauze-vlag kan een ieder omhoog steken tijdens de discussie wanneer die voelt dat een element of eigenschap van de dienst of het product niet voldoende mensgericht is. Door de vlag omhoog te steken wanneer je niet akkoord bent met de koers die wordt gevaren, ga je als team met elkaar in dialoog om de dienst of het product beter te maken.

De vier design principes zijn

  1. ‘data is niet de waarheid’: gegevens kunnen vertekend zijn door het verzamelen, het analyseren, het interpreteren of het presenteren en visualiseren van de gegevens.

  2. ‘niet uitgaan van de wenselijkheid van AI’: het is niet omdat AI iets kan, dat het daarom moet. Welke zaken veranderen door het gebruik van AI en is dit wenselijk?

  3. ‘niet voorziene gevolgen zijn kansen voor AI’: gebruik onvoorziene gevolgen als startpunt voor een nieuwe iteratie van het ontwerp van de dienst of het product.

  4. ‘respecteer privacy en het collectieve belang’: reflecteer over het ontwerp, het beheer, het gebruik van gegevens voor nieuwe doeleinden, en de manier waarop je communiceert met gebruikers over hoe hun gegevens worden gebruikt.


De tien activiteitenkaarten bevatten steeds een bepaalde uitdaging of element waar het ontwikkelingsteam extra aandachtig voor moet zijn om een mensgericht product of dienst te ontwikkelen. Op iedere kaart staat naast de uitdaging of het aandachtspunt, enkele concrete acties die je als team kan nemen om die uitdaging of dat aandachtspunt weg te werken, maar ook steeds een praktijkvoorbeeld dat aantoont waarom het belangrijk is om aandachtig te zijn voor die specifieke uitdaging. De tien activiteitenkaarten zijn:

  1. ‘Blinde vlekken’: over hoe je vooroordelen kan verminderen.

  2. ‘Mensen achter de gegevens’: over het belang van te interageren met de mensen die schuilen achter gegevens.

  3. ‘Minimale nodige data’: over het beperken van de gegevens die worden verzameld en geanalyseerd.

  4. ‘Het systeem mappen’: over de meerwaarde van een gegevensmapping voor de identificatie van vooroordelen, gaten, maar ook opportuniteiten.

  5. ‘Monitoring’: over de nood om een systeem en diens proces te monitoren.

  6. ‘Cultuur respecteren’: over het meenemen van culturele en contextuele waarden in het ontwerp van de dienst of het product.

  7. ‘Transities ontwerpen’: over het verduidelijken van welke stappen automatisch, semi-automatisch of manueel gebeuren in de dienst of het product.

  8. ‘Balans tussen geven en nemen’: over het vinden van een goede balans tussen wat je product of dienst geeft aan en neemt van een gebruiker.

  9. ‘Anticiperen op toekomstscenario’s’: over het belang van te anticiperen op risicovolle situaties of misbruik van je product of dienst.

  10. ‘Systeem overwegen’: over de balans tussen de individuele en de collectieve waarde van een data- of AI-systeem.

Instructions card set

There is no script or guide for a workshop with the card set, but use the card set as a tool to discuss with a multidisciplinary team the design of a product or service, and the importance of a human-centred technology.

Links

Go to the tool.


Deze tool werd niet ontwikkeld door het Kenniscentrum Data & Maatschappij. We beschrijven de tool op onze website omdat die je kan helpen bij het behandelen van ethische, juridische of maatschappelijke aspecten van AI-toepassingen. Het Kenniscentrum is niet verantwoordelijke voor de kwaliteit van de tool.