30.01.2024
In een samenleving die alsmaar meer digitaliseert, blijft digitale inclusie een belangrijke uitdaging. Zo zou momenteel 1 op 2 burgers digitaal kwetsbaar zijn. Brengt artificiële intelligentie (AI) hier verandering in? En op welke manier?
AI omvat een breed spectrum van technologieën en systemen waarvan we algemeen kunnen stellen dat ze menselijke intelligentie imiteren of benaderen. Vaak wordt hierin veel potentieel gezien om ongelijkheid veroorzaakt door digitalisering tegen te gaan. In dit artikel gaan we dieper in op de kansen, maar ook de nieuwe uitdagingen, die door AI-technologieën op vlak van digitale inclusie ontstaan.
Om te vermijden dat digitalisering tot maatschappelijke ongelijkheid leidt, is algemeen gesproken aandacht voor deze vier voorwaarden voor digitale inclusie[1] nodig:
In dit onderdeel bekijken we voor elk van deze voorwaarden of en hoe AI-systemen een impact kunnen hebben op deze voorwaarde. We hebben deze mogelijke impact opgesplitst volgens kansen en uitdagingen of potentiële risico’s. We beschrijven de impact telkens eerst algemeen en geven dan een voorbeeld ter verduidelijking.
Wat we hier buiten beschouwing laten, is de algemene impact van de ontwikkelingen omtrent artificiële intelligentie op vlak van ongelijkheid in de samenleving. Recente rapporten van onder meer het IMF wijzen erop dat dit een erg belangrijk aandachtspunt wordt voor de toekomst. Terwijl dit macro-economische-effect erg belangrijk is om op te volgen, focussen we in het vervolg van deze analyse op effecten op micro- en meso-niveau.
De meeste AI-systemen zijn componenten in grotere systemen, waardoor je er als eindgebruiker niet rechtstreeks mee te maken krijgt. De meerwaarde die AI-systemen hier bieden, is hierbij voor iedereen toegankelijk.
Voorbeelden:
Bestaande softwaresystemen worden uitgerust met AI-componenten die vaak louter beschikbaar zijn tegen (een hogere) betaling. Ook worden bestaande en nieuwe toestellen slimmer gemaakt, deze toestellen zijn niet voor iedereen betaalbaar en niet elke persoon kan van de voordelen genieten.
Voorbeelden:
AI-systemen kunnen onze algemene vaardigheden en competenties ‘versterken’.
Voorbeelden:
AI-systemen kunnen resulteren in een meer dynamische interface die beter afgestemd is op het gedrag en de interesses van gebruikers. Dit kan door bijvoorbeeld surfgedrag te monitoren, eye tracking software in te zetten, etc.
Werken met AI-hulpmiddelen vraagt nieuwe vaardigheden en competenties, zoals een goede inschatting van wat een AI-systeem kan, en daar doelgericht naar handelen. Dit gaat ook vaak gepaard met een aanpassing van werkprocessen.
Voorbeelden:
Algemeen gesproken is voor een kritisch en bewust gebruik vaak een zeker inzicht in de algoritmische logica en de verzamelde gegevens nodig, om de aanbevelingen of conclusies van AI-technologie correct naar waarde kunnen inschatten. Wie al sterke digitale vaardigheden heeft, zal dit snel onder de knie hebben, anderen kost dit vast meer moeite.
Vooringenomenheid (bias), filter bubbles en echo kamers, fake news zijn niet uniek aan AI, maar komen mogelijk wel op grotere schaal voor. Om die reden vraagt AI-technologie om sterkere kritische reflectie en ‘(morele) mondigheid’, waarbij gebruikers kritisch moeten kunnen reflecteren over conclusies, aanbevelingen of beslissingen van systemen. Ze moeten kunnen aangeven wanneer deze incorrect lijken en er tegenin kunnen en durven gaan.
Veel organisaties werken volgens het click-call-connect principe, waarbij je een digitale oplossing aanbiedt, naast een telefonische oplossing en een-op-een hulp. AI-technologie kan hiertoe bijdragen door een deel van de communicatie met burgers te automatiseren waardoor er meer tijd vrijkomt voor één-op-éénbegeleiding.
AI-technologie kan resulteren in nog verregaandere digitalisering van basisdiensten en hulplijnen. Denk bijvoorbeeld aan het veelvuldig gebruik van chatbots bij klantendiensten. Ligt het voordeel hier niet vooral aan de zijde van de dienstverlener? Wordt het bij complexe vragen nog moeilijker om uiteindelijk hulp te krijgen van een reëel persoon?
AI-systemen kunnen zo worden gemaakt dat ze sneller en meer zaken automatisch kunnen toekennen, zoals bijvoorbeeld de automatische toekenning van bepaalde rechten voor een werkloosheidsuitkering. De begunstigden hoeven zo niet nodeloos lang te wachten op hun uitkering.
Dankzij AI-technologie kunnen user interfaces worden aangepast aan de noden en wensen van de gebruiker. Wie nood heeft aan een meer eenvoudige user interface, kan zo ook gebruikmaken van de online dienst.
AI-systemen maken het mogelijk om online discriminatie sneller en automatisch te identificeren. Denk bijvoorbeeld aan het automatisch verwijderen van racistische berichten op sociale media platformen.
Een meer verregaande automatisering van rechtentoekenning kan het ook moeilijker maken om de toekenning te betwisten. Betwisting vraagt om inzicht in het beslissingsproces, net dat beslissingsproces kan bij AI-systemen minder transparant zijn. Procedures om de beslissing aan te vechten, zijn ook vaak complex en onduidelijk. Zal enkel wie 'mee' is er nog in slagen deze te bestrijden?
Adaptieve interfaces kunnen het gebruiksgemak bemoeilijken. Als de user interface er telkens anders uitziet of verschilt tussen gebruikers, kan dat net voor extra verwarring zorgen.
Voorbeeld:
AI-systemen zijn getraind op historische data, waardoor een risico bestaat dat zij vooroordelen en ongelijkheden reproduceren. Op die manier kunnen algoritmes en automatisatie ook net zorgen voor meer herhaling en verspreiding van discriminatie. Systemen kunnen hierop worden getest en verbeterd, maar een AI-systeem is nooit vrij van scheeftrekkingen.
Het is op dit moment moeilijk te voorspellen of AI net voor meer of minder (digitale) inclusie zal zorgen. We kunnen wel voorspellen dat inzicht in algoritmisch denken en datageletterdheid als gevolg van de brede uitrol van AI-systemen steeds belangrijker zal worden. Bij verregaande automatiseringen kan de verleiding immers groot zijn een te groot vertrouwen in de antwoorden van een systeem te stellen.
Het zal erop aankomen gebruikers een algemeen inzicht te geven in hoe de output van AI-systemen tot stand komt, zodat zij deze uitkomsten correct naar waarde kunnen inschatten en goed kunnen hanteren. Deze en andere nieuwe vaardigheden zullen gebruikers zich moeten eigen maken. Dat zal wie al sterk staat op digitaal vlak, minder moeite kosten dan de anderen. Hierdoor kan de digitale ongelijkheid opnieuw groeien.
Het belang van kritisch en analytisch denken wordt dus enkel maar belangrijker. En ook een zeker inzicht in hoe gegevens worden verzameld, waarom, voor welk doel, etc. is noodzakelijk. Wat houdt dat bijvoorbeeld in als je alle cookies accepteert, welke gevolgen heeft dat? Er moet meer kennis komen over de implicatie die dit heeft, maar ook de mogelijkheden die je hebt als burger om te reageren op wanpraktijken, verkeerdelijk gebruik, etc.
Een ander belangrijk punt wordt toegang. De nieuwste, dure generaties van producten en de veelheid van ‘slimme’ producten en AI-powered software is niet voor iedereen betaalbaar en toegankelijk. Hier dreigt mogelijk een nieuwe toegangskloof tot de potentiële voordelen van AI-systemen te ontstaan, een kloof die niet overbrugd wordt met bestaande initiatieven omtrent publiekspc's en uitleentoestellen. Dit kan reële impact hebben op de levens van burgers, zoals een hoger energieverbruik (slimme thermostaat), minder snelle detectie van gezondheidsproblemen (smartwatches), etc.
Op vlak van dienstverlening zijn er duidelijke voordelen voor 'leveranciers' en aanbieders, zowel overheden als bedrijven. Zij kunnen met behulp van verregaandere automatisering meer klanten of burgers helpen met chatbots en automatische toekenning van rechten. Maar elk systeem heeft z'n grenzen: zal iemand met een specifieke vraag of die benadeeld wordt door een automatische beslissing nog vlot iemand aan een loket of via een hulplijn kunnen spreken? Dreigt wie buiten het systeem valt, er nog moeilijker de weg in te vinden?
Zeker is dat de evoluties op vlak van AI onderzoekers, ontwikkelaars, beleidsmakers, begeleiders en coaches die zich toeleggen op digitale inclusie voor nieuwe vragen en uitdagingen zullen stellen. Het is dan ook van hoog belang dat de overlapping tussen deze twee domeinen nauwgezet wordt opgevolgd. Het Kenniscentrum Data & Maatschappij zal daar dit jaar zelf toe bijdragen door de jaarlijkse monitor toe te spitsen op het onderwerp van datageletterdheid en AI-kennis en -vertrouwdheid bij Vlamingen.
Ken je de workshop ‘Hoe digitaal inclusief is jouw product of dienst?’ al, die het Kenniscentrum Data & Maatschappij ontwikkelde met Mediawijs? In deze workshop ontdek je, samen met je team of partners, stap voor stap hoe digitaal inclusief een dienst of product is. Aan de hand van profielen krijg je inzicht in welke drempels gebruikers ervaren. Daarna vorm je samen een team van ontwikkelaars om de dienst of het product inclusiever te maken.
Met dank aan Alenka Le Compte (Mediawijs) en Karen Vos (team e-inclusie District09)
Foto door Markus Winkler op Unsplash
