Handleiding - Hoe gebruik ik de toolpagina?
Welkom op de toolpagina van het Kenniscentrum! Hier verzamelen we verschillende tools en methoden die jou kunnen helpen om meer ethische, verantwoordelijke en impactvolle AI-systemen te creëren. Maar hoe vind je de juiste tool voor jouw project? Met deze handleiding kan je dat snel en makkelijk bepalen.
Onze aanbevelingen
Om je op weg te helpen in het grote aanbod van verschillende tools, hebben we een 'getest & goedgekeurd' label gemaakt. Hier kan je de tools vinden waar het Kenniscentrum ervaring mee heeft en die wij zelf graag gebruiken.
Ook kun je via het 'KCDM Tool' label de tools terugvinden die het Kenniscentrum heeft ontwikkeld en getest.
Met deze tools zijn we zeker dat je een goede start kan maken.
Toelichting filters
Als je weet wat je zoekt kan je met onze filters nog meer geschikte tools vinden. Een eerste vertrekpunt zijn de ethische principes die een tool bewerkstelligt. Eens je een ethisch principe hebt geselecteerd dat je van naderbij wil analyseren, kan je hierna verder verfijnen welke tool voor jou het meest geschikt is met de andere filters.
Om te bepalen welke ethische principes je moet onderzoeken, hebben we een checklist opgesteld. Je kan deze checklist in de volgende sectie terug vinden.
We lichten deze en de andere filters eerst kort even toe:
- Ethische Principes: geef aan voor welk principes je een tool zoekt (gebaseerd op de AI HLEG vereisten):
- Accountability: refereert aan de verantwoordelijkheid en controleerbaarheid die in het systeem is ingebouwd
- Technical robustness & safety: refereert aan de stevigheid en veiligheid van het technische systeem
- Diversity, non-discrimination & fairness: gaat over inclusie, diversiteit en eerlijkheid van het systeem naar verschillende gebruikers(groepen)
- Environmental & societal wellbeing: refereert naar het sociale en ecologische welzijn van de wereld
- Human agency & oversight: gaat over autonomie, overzicht en controle van de gebruiker
- Transparency: gaat over de transparantie en uitlegbaarheid van het systeem
- Privacy & data governance: gaat om hoe persoonsgegevens worden beheert op een eerlijke en veilige manier
- Procesfase: geef hiermee aan voor welke fase van het ontwikkelingsproces je een tool zoekt. De fasen zijn
- probleem analyse / ideatie,
- ontwerp,
- ontwikkeling,
- evaluatie / iteratie,
- implementatie.
- Moeilijkheid: dit geeft een indicatie van de moeilijkheidsgraad van de tool.
- Doelgroep: dit geeft aan voor wie de tool is bedoeld. Is dat het algemeen publiek, developers of policy makers?
- Type: hier kan je verder verfijnen welk type tool je zoekt. Bijvoorbeeld of je eerder op zoek bent naar een workshop, of eerder een vragenlijst.
- Prijs: selecteer hiermee gratis of (deels) betalende tools.
Checklist ethische principes
Op welke ethische principes moet je focussen?
Met deze checklist helpen we je om te bepalen voor welk ethisch principes je een tool nodig hebt. Voor elk van de zeven principes hebben we drie vragen opgesteld: verdiep je in de ethische principes waar je op twee of meer vragen ‘nee’ hebt geantwoord.
1. Accountability
- Heb je een risk assessment uitgevoerd van het AI-systeem?
- Heb je uitgemaakt hoe je voor de verschillende risico's in je systeem de verantwoordelijkheid kan opnemen?
- Heb je een derde, objectieve partij jouw AI-systeem laten controleren?
2. Technical robustness & safety
- Heb je rekening gehouden met de menselijke schade die jouw systeem kan veroorzaken?
- Heb je rekening gehouden met de betrouwbaarheid van de werking van jouw AI-systeem in verschillende situaties?
- Weet je welke veiligheidsrisico’s jouw AI-systeem inhoudt?
3. Diversity, non-discrimination & fairness
- Heb je rekening gehouden met de mogelijke discriminatie, oneerlijkheid en ontoegankelijkheid van jouw AI-systeem?
- Heb je verschillende stakeholders en gebruikers betrokken in het ontwerpproces van jouw AI-systeem?
- Ben je je bewust van de mogelijke ongelijkheid die jouw AI-systeem kan veroorzaken of versterken?
4. Environmental & societal wellbeing
- Heb je rekening gehouden met de effecten van jouw AI-systeem op het dagelijkse leven?
- Heb je rekening gehouden met de effecten van jouw AI-systeem op de maatschappij, politiek en democratie?
- Ben je je bewust van de ecologische impact van jouw AI-systeem?
5. Human agency & oversight
- Heb je rekening gehouden met het effect op het individuele handelen van personen die beïnvloed of ondersteund zijn door jouw AI-systeem?
- Heeft de gebruiker op een of andere manier controle over jouw AI-systeem?
- Heeft de gebruiker de mogelijkheid om het AI-systeem niet te gebruiken of te stoppen?
6. Transparency
- Kun je nagaan welke stappen jouw AI-systeem neemt om tot een output te komen?
- Informeer je de gebruiker over de werking en keuzes van jouw AI-systeem?
- Heb je rekening gehouden met in hoeverre en de manier waarop jouw AI-systeem uitlegbaar is of moet zijn aan gebruikers?
7. Privacy & data governance
- Weet je hoe je om moet gaan met de verzamelde data van gebruikers?
- Weet je hoe je veilig en op een privacyvriendelijke manier persoonlijke data kan gebruiken voor training en ontwikkeling?
- Heb je rekening gehouden met de mogelijke schade door het niet respecteren van privacyrechten?
Deze checklist is niet allesomvattend, maar probeert op een eenvoudige manier een idee te geven van het idee achter elk ethisch principe.
Keer hier terug naar de toolpagina van het Kenniscentrum en vind jouw geschikte tool!