Algoritmes en AI in de onderwijscontext: Een studie naar de perceptie, mening en houding van leerlingen en ouders in Vlaanderen

Elk jaar voert het kenniscentrum een monitoring uit waarbij ze via een grootschalige bevraging de attitudes van relevante stakeholders bevraagt in een context waar algoritmes zouden kunnen worden toegepast. Dit jaar viel ons oog op de onderwijscontext waarbij we ouders en leerlingen hebben bevraagd naar hun attitudes ten opzichte van algoritmes in het onderwijs.

We merken dat er in de onderwijscontext steeds meer toepassingen worden uitgedacht waarin algoritmes een belangrijke rol spelen. In het buitenland zien we verscheidene toepassingen, zoals slimme studiebegeleidingssystemen (vb. Claned, Finland) of hulpsystemen voor leerkrachten om de sterktes en zwaktes van een klas in te schatten (vb. Teacher Advisor, Verenigde Staten). Uit een recente bevraging van het Europese School Innovation Forum blijkt dat ook in Vlaanderen enkele systemen en scenario’s werden uitgetest.

Het moge duidelijk zijn dat voor deze toepassingen in het onderwijs, net zoals iedere datagedreven toepassing, persoonlijke gegevens nodig zijn. Naast de gegevens die vandaag de dag al verzameld worden, zal men in Vlaanderen vanaf 2023-2024 starten met het gebruik van Vlaamse toetsen. Deze gestandaardiseerde toetsen hebben als doel de kwaliteit van het onderwijs op te volgen en het leerproces van de leerlingen te ondersteunen. De resultaten zouden op schoolniveau gedeeld worden met de inspectie. Deze gegevens zouden dan gebruikt kunnen worden in combinatie met andere gegevens van de school om nieuwe algoritmes te ontwikkelen en implementeren.

Bij het introduceren van een nieuwe technologie blijft het echter steeds belangrijk om rekening te houden met de stem en mening van het doelpubliek die uiteindelijk de gevolgen zal dragen. Om rekening te houden met een doelpubliek wordt er al snel gekeken naar het beschermen van de privacy door bijvoorbeeld gegevens te anonimiseren, te aggregeren of door zo weinig mogelijk gegevens te verzamelen. Hoewel het belangrijk is om individuen op die manier te beschermen, vinden we het minstens even belangrijk om de doelgroep te betrekken bij het debat waarin beslist wordt welke gegevens mogen gebruikt worden voor welke doelen én met wie die gegevens en inzichten gedeeld mogen worden.

In het rapport, dat je hieronder kan downloaden, peilen we naar de percepties, meningen en attitudes van leerlingen en ouders, en hoe zij de implementatie van AI in het onderwijs evalueren. Helemaal achteraan het rapport laten we twee experten, dr. Tijs Rotsaert en prof. dr. Francis Wyffels aan het woord die hun perspectief geven op de resultaten en deze in een bredere context beschouwen.

• Er is een vrij groot draagvlak onder de leerlingen en ouders om algoritmes in te zetten om de klaspraktijk te verbeteren, om suggesties te doen over studiekeuzes of om leerkrachten te evalueren. Voor meer persoonlijke doelstellingen (vb. het voorspellen van de slaagkans van de zoon of dochter, of hun punten voorspellen) haken heel wat ouders af.
• Het gebruik van persoonlijke eigenschappen, de achtergrondinformatie van leerlingen of persoonskenmerken om het algoritme te voeden is voor heel wat ouders en leerlingen niet aanvaardbaar. Het moment dat deze informatie geaggregeerd wordt op klasniveau is dit voor de meesten minder problematisch.
• Schoolgerelateerde informatie (vb. punten of leerevolutie) en onderwijsgerelateerde eigenschappen (vb. schooleigenschappen zoals hoe groot de school is) gebruiken om een algoritme te voeden zijn voor de meeste respondenten aanvaardbaar.
• Zowel de ouders als de leerlingen zijn weigerachtig om inzichten van zo’n algoritmes te delen met organisaties die niet onmiddellijk verbonden zijn met de onderwijs context (vb. de technische ontwikkelaar van het algoritme).
• Zowel ouders als leerlingen hebben een sterke nood aan controle. Ze willen geïnformeerd worden, kunnen weigeren en bepalen waarvoor hun gegevens gebruikt zouden worden.