Tool

AI Explainability 360 Open Source Toolkit

Een goede manier om kennis te maken met het idee van explainable AI is te vinden in de AI Explainability 360 Open Source Toolkit van IBM Research. Daarnaast bieden zij ook een mogelijkheid voor overleg en een plek om vragen te stellen in het forum.

De toolkit biedt verschillende algoritmes aan die je kan gebruiken om explainability onderdeel te laten worden van je AI. Volgens IBM is het doel van de toolkit om te zorgen dat wat er in het lab gebeurd ook toegepast wordt in andere omgevingen,zoals bijvoorbeeld gezondheid en onderwijs.

Wat je wil weten voor je verder leest

Projectfase:
ontwikkeling
Systeemonderdeel: gehele toepassing en gebruikers
Prijs: vrij beschikbaar

Methode

Er zijn verschillende tutorials, demo’s en videos in deze toolkit die duidelijk uitleggen wat explainable AI inhoudt. Een voorbeeld hiervan is een demo die uitlegd wat het verschil is tussen de uitleg voor een financieel adviseur en de klant. Door dit soort oefeningen proberen ze lab concepten te vertalen naar situaties die herkenbaar zijn.

Naast informatie heeft deze toolkit ook een aantal algoritmes die gebruikt kunnen worden om een uitleg een onderdeel te maken van je algoritme. De link op de website verwijst naar Github waar de codes voor deze algoritmes verkrijgbaar is.


Resultaat
Deze toolkit heeft als doel om uitlegbaarheid een onderdeel te laten worden van je AI. Maar als je nog niet weet waarom dit of hoe dit toepasbaar is voor jouw eigen AI dan biedt de toolkit een makkelijke manier aan om je deze informatie eigen te maken.

De volgende ethische principes zijn van toepassing:

  • uitlegbaarheid
  • eerlijkheid

Link

AI Explainability 360 Open Source Toolkit

http://aix360.mybluemix.net/

Deze tool werd niet ontwikkeld door het Kenniscentrum Data & Maatschappij. We beschrijven de tool op onze website omdat die je kan helpen bij het behandelen van ethische, juridische of maatschappelijke aspecten van AI-toepassingen. Het Kenniscentrum is niet verantwoordelijke voor de kwaliteit van de tool.