Wat is verantwoorde AI?

De versnelde opkomst van AI gaat gepaard met een steeds verdergaande ‘platformisering’ van het onderwijs. Net zoals andere technologische ontwikkelingen heeft dit zowel positieve als negatieve effecten: AI stelt ons in staat om onderwijs op maat te maken, snellere feedback te geven en administratieve taken over te nemen, maar het heeft ook invloed op publieke waarden, de privacy van onze kinderen en op de autonomie van de leerkracht. We zien dan ook steeds vaker een debat over de noodzaak van het ontwikkelen van ‘verantwoorde’ AI.

Vergelijk het met de massale opkomst van het autorijden. Dat bood ons grotere vrijheid en gemak, maar had ook tot gevolg dat het verkeer onveiliger werd. En dus ging men nadenken over ‘verantwoord’ autorijden: er werden gordels voor in de auto ontwikkeld, er kwamen stoplichten op straat, auto’s moesten APK gekeurd worden en de eisen voor een rijbewijs van de bestuurder werden steeds strenger.

‘Verantwoorde’ AI begint bij de notie dat AI-systemen meer zijn dan alleen technologie. Net als alle andere technologieën, zijn AI-systemen fundamenteel ‘socio-technisch’ (verweven met de mens) en worden ze ontwikkeld en gebruikt in een sociale context die bestaat uit een variëteit aan (groepen) mensen met ieder hun eigen culturen, normen en belangen. Binnen deze context beïnvloeden AI-systemen en de mens elkaar wederzijds.

Om AI verantwoord te laten zijn voor ons onderwijs moeten deze mensen hun verantwoordelijkheid nemen met inachtneming van menselijke (publieke) waarden en ethische principes zoals de bescherming van privacy, autonomie voor de leerkracht en transparantie over gebruikte algoritmes. Verantwoorde AI gaat dus niet om de technologie die een verantwoordelijkheid heeft, maar om de verantwoordelijkheid van mensen die de technologie ontwikkelen en gebruiken.

Initiatieven voor verantwoorde AI

Op allerlei niveaus nemen worden er initiatieven genomen om verantwoorde AI te bevorderen. Op Europees niveau zien we onder andere de AI Act, de Ethische richtsnoeren voor AI specifiek voor het onderwijs en de GDPR. Op Vlaams niveau keurde in maart 2019 de Vlaamse regering het ‘Vlaams Beleidsplan Artificiële Intelligentie’ goed, met daarin opgenomen de taak voor het Kenniscentrum Data en Maatschappij om de ontwikkeling van verantwoorde AI in Vlaanderen te ondersteunen. Zo heeft het Kenniscentrum onder andere een beleidsmonitor ontwikkeld.

Ook in het onderwijs maakt AI zijn opgang en is er nood aan een kader om te bepalen op welke momenten en manieren het gebruik van AI wenselijk en toelaatbaar is. In dit kader past het initiatief ‘Visienota Verantwoorde AI in het onderwijs in Vlaanderen’, dat wij samen met het Kenniscentrum Digisprong (dat schoolleiders, leraren en ICT-coördinatoren uit alle Vlaamse scholen helpt met educatieve technologie) zijn gestart. Bij de ontwikkeling van deze visienota werken we samen met een Adviesraad bestaande uit vertegenwoordigers van het Vlaamse onderwijs, ouders, leerlingen, de vakbonden en bedrijven, en verkrijgen we tevens input van experten, leerlingen, leerkrachten, ouders en andere direct betrokkenen door het organiseren van workshops.

Dit laatste sluit goed aan bij het onderzoek dat we doen in samenwerking met de VUB en UHasselt waarin we kijken naar hoe AI ons handelen en denken in het onderwijs vormgeeft en hoe we deze veranderingsprocessen democratisch en verantwoord kunnen beïnvloeden. We vinden het dan ook belangrijk dat de ontwikkeling van AI zich niet beperkt tot de ontwikkelaar en een aantal enthousiaste leerkrachten, maar dat ook bijvoorbeeld de leerlingenraad, een pedagogisch directeur, ouders, de ICT-afdeling en al die anderen die op een of andere manier betrokken zijn bij AI (of erdoor worden beïnvloed) mee kunnen discussiëren.

Aanpak Begeleidingsethiek

Maar hoe voer je dit soort discussies? En hoe zorg je ervoor dat de uitkomst van deze discussies ook echt in AI in het onderwijs wordt geïntegreerd? Een methode die daarbij bij uitstek geschikt is, is de Aanpak Begeleidingsethiek. De methode komt voort uit de techniekfilosofie, een filosofische stroming waarin filosofen nadenken over de relatie tussen techniek en de mens. Deze methode sluit perfect aan op de vraag hoe AI ons handelen en denken in het onderwijs vormgeeft en hoe we deze veranderingsprocessen democratisch kunnen beïnvloeden.

Vanuit het Kenniscentrum Data en Maatschappij organiseerden wij al tal van workshops 'Begeleidingsethiek'. Dit gebeurde onder meer in het kader van GIVE-project van Meemoo, het BOOT-project dat de adoptie van OAT's in industrie 4.0 onderzoekt, en de amai!-projecten.

In het kader van de ‘Visienota Verantwoorde AI in het onderwijs in Vlaanderen’ organiseren we samen met het Kenniscentrum Digisprong na de zomer ook workshops Begeleidingsethiek. In deze workshops bespreken we de AI-functionaliteiten van Microsoft Reading Progress, FeedForm en het amai!-project MySpeech met onder andere leerlingen, ouders en leerkrachten. Daarnaast putten we voor de visienota uit de workshops die Smartschool organiseerde voor hun nieuwe Slimme signaalfunctie.

Nuttige ideeën vanuit de scholen, leerlingen en ouders

Uit de workshops blijkt dat er veel verschillen zitten tussen groepen deelnemers. Voor de een is bijvoorbeeld efficiency belangrijk, voor de ander autonomie in het werk. Leerlingen noemen opvallend vaak stress als een negatief effect. Maar wat we vooral uit de workshops halen is dat er een enorm potentieel aan goede inzichten en ideeën bij deze mensen ligt, een groep die normaal gezien niet zo snel aan tafel zouzitten bij de ontwikkeling van (AI-) technologie. Op deze manier krijgen we beter inzicht in hoe het onderwijs denkt over AI, en kunnen we steeds beter een antwoord geven op de vraag wanneer we AI in het onderwijs ok vinden.

Fijne zomervakantie!