Zorgt AI voor kansen of uitdagingen op vlak van digitale inclusie?

In een samenleving die alsmaar meer digitaliseert, blijft digitale inclusie een belangrijke uitdaging. Zo zou momenteel 1 op 2 burgers digitaal kwetsbaar zijn. Brengt artificiële intelligentie (AI) hier verandering in? En op welke manier?

AI omvat een breed spectrum van technologieën en systemen waarvan we algemeen kunnen stellen dat ze menselijke intelligentie imiteren of benaderen. Vaak wordt hierin veel potentieel gezien om ongelijkheid veroorzaakt door digitalisering tegen te gaan. In dit artikel gaan we dieper in op de kansen, maar ook de nieuwe uitdagingen, die door AI-technologieën op vlak van digitale inclusie ontstaan.

Vier voorwaarden voor digitale inclusie

Om te vermijden dat digitalisering tot maatschappelijke ongelijkheid leidt, is algemeen gesproken aandacht voor deze vier voorwaarden voor digitale inclusie^[1] nodig:

Digitale toegang: Digitale inclusie begint met toegang: je hebt een toestel en een internetverbinding nodig om deel te kunnen uitmaken van de digitale wereld. Het aantal toestellen en de kwaliteit van de toestellen is hierbij ook van belang, net als de kwaliteit van de internetverbinding en de software.
Digitale competenties: Om toestellen en het internet doeltreffend te gebruiken, heb je verder de juiste kennis (weten), vaardigheden (kunnen) en attitudes (willen, durven) nodig om je te begeven in de digitale wereld. Zo kan je actief, kritisch en bewust bewegen in de digitale samenleving.
Ondersteuningsnetwerk: Om digitale competenties te kunnen ontwikkelen, heb je mensen in je omgeving nodig waarbij je terecht kan voor hulp. Het kan gaan om iemand die je persoonlijk kent (zoals een buurman), iemand die zich hiervoor beroepsmatig of vrijwillig voor inzet (zoals een medewerker in een openbare computerruimte), of een mix van allebei.
Inclusion by design: Ook bij het ontwerp van websites, software en toestellen moet er aandacht zijn voor de noden van diverse doelgroepen en eindgebruikers. Dit is de verantwoordelijkheid van product- en dienstontwikkelaars, met een goed ontwerp kunnen ook zij drempels tot de digitale wereld wegnemen.

Kansen en uitdagingen voor digitale inclusie

In dit onderdeel bekijken we voor elk van deze voorwaarden of en hoe AI-systemen een impact kunnen hebben op deze voorwaarde. We hebben deze mogelijke impact opgesplitst volgens kansen en uitdagingen of potentiële risico’s. We beschrijven de impact telkens eerst algemeen en geven dan een voorbeeld ter verduidelijking.

Wat we hier buiten beschouwing laten, is de algemene impact van de ontwikkelingen omtrent artificiële intelligentie op vlak van ongelijkheid in de samenleving. Recente rapporten van onder meer het IMF wijzen erop dat dit een erg belangrijk aandachtspunt wordt voor de toekomst. Terwijl dit macro-economische-effect erg belangrijk is om op te volgen, focussen we in het vervolg van deze analyse op effecten op micro- en meso-niveau.

Digitale toegang

Kansen

De meeste AI-systemen zijn componenten in grotere systemen, waardoor je er als eindgebruiker niet rechtstreeks mee te maken krijgt. De meerwaarde die AI-systemen hier bieden, is hierbij voor iedereen toegankelijk.

Voorbeelden:

Fraudechecks bij financiële transacties bij banken.
Verbeterde zoekresultaten in zoekmachines.

Uitdagingen

Bestaande softwaresystemen worden uitgerust met AI-componenten die vaak louter beschikbaar zijn tegen (een hogere) betaling. Ook worden bestaande en nieuwe toestellen slimmer gemaakt, deze toestellen zijn niet voor iedereen betaalbaar en niet elke persoon kan van de voordelen genieten.

Voorbeelden:

Microsoft verrijkt zijn producten met Copilot-technologie, de meest geavanceerde functies zijn enkel beschikbaar tegen een hoge kostprijs.
Horloges, thermostaten, koelkasten… kregen allen ‘slimme’ functies toebedeeld. Toestellen zoals smart home devices hebben vaak een hogere kostprijs dan versies zonder AI. Zo zijn de financiële of andere voordelen die ermee samengaan niet voor iedereen toegankelijk.

Competenties

Kansen

AI-systemen kunnen onze algemene vaardigheden en competenties ‘versterken’.

Voorbeelden:

Dankzij ChatGPT kan iedereen gemakkelijker tot een goed geschreven tekst komen.
Digitale werkinstructies, cobots, lichtprojectiesystemen… zijn allen hulpmiddelen om complex of zwaar werk voor werknemers te vergemakkelijken.

AI-systemen kunnen resulteren in een meer dynamische interface die beter afgestemd is op het gedrag en de interesses van gebruikers. Dit kan door bijvoorbeeld surfgedrag te monitoren, eye tracking software in te zetten, etc.

Uitdagingen

Werken met AI-hulpmiddelen vraagt nieuwe vaardigheden en competenties, zoals een goede inschatting van wat een AI-systeem kan, en daar doelgericht naar handelen. Dit gaat ook vaak gepaard met een aanpassing van werkprocessen.

Voorbeelden:

Wie ChatGPT doeltreffend wil gebruiken, moet goed leren prompten.
Werken met digitale werkinstructies en gelijkaardig, vraagt werknemers om flexibiliteit en een nieuwe manier van werken.

Algemeen gesproken is voor een kritisch en bewust gebruik vaak een zeker inzicht in de algoritmische logica en de verzamelde gegevens nodig, om de aanbevelingen of conclusies van AI-technologie correct naar waarde kunnen inschatten. Wie al sterke digitale vaardigheden heeft, zal dit snel onder de knie hebben, anderen kost dit vast meer moeite.

Vooringenomenheid (bias), filter bubbles en echo kamers, fake news zijn niet uniek aan AI, maar komen mogelijk wel op grotere schaal voor. Om die reden vraagt AI-technologie om sterkere kritische reflectie en ‘(morele) mondigheid’, waarbij gebruikers kritisch moeten kunnen reflecteren over conclusies, aanbevelingen of beslissingen van systemen. Ze moeten kunnen aangeven wanneer deze incorrect lijken en er tegenin kunnen en durven gaan.en. Ze moeten kunnen aangeven wanneer deze incorrect lijken en er tegenin kunnen en durven gaan.

Ondersteuningsnetwerk

Kansen

Veel organisaties werken volgens het click-call-connect principe, waarbij je een digitale oplossing aanbiedt, naast een telefonische oplossing en een-op-een hulp. AI-technologie kan hiertoe bijdragen door een deel van de communicatie met burgers te automatiseren waardoor er meer tijd vrijkomt voor één-op-éénbegeleiding.

Uitdagingen

AI-technologie kan resulteren in nog verregaandere digitalisering van basisdiensten en hulplijnen. Denk bijvoorbeeld aan het veelvuldig gebruik van chatbots bij klantendiensten. Ligt het voordeel hier niet vooral aan de zijde van de dienstverlener? Wordt het bij complexe vragen nog moeilijker om uiteindelijk hulp te krijgen van een reëel persoon?

Inclusion by design

Kansen

AI-systemen kunnen zo worden gemaakt dat ze sneller en meer zaken automatisch kunnen toekennen, zoals bijvoorbeeld de automatische toekenning van bepaalde rechten voor een werkloosheidsuitkering. De begunstigden hoeven zo niet nodeloos lang te wachten op hun uitkering.

Dankzij AI-technologie kunnen user interfaces worden aangepast aan de noden en wensen van de gebruiker. Wie nood heeft aan een meer eenvoudige user interface, kan zo ook gebruikmaken van de online dienst.

AI-systemen maken het mogelijk om online discriminatie sneller en automatisch te identificeren. Denk bijvoorbeeld aan het automatisch verwijderen van racistische berichten op sociale media platformen.

Uitdagingen

Een meer verregaande automatisering van rechtentoekenning kan het ook moeilijker maken om de toekenning te betwisten. Betwisting vraagt om inzicht in het beslissingsproces, net dat beslissingsproces kan bij AI-systemen minder transparant zijn. Procedures om de beslissing aan te vechten, zijn ook vaak complex en onduidelijk. Zal enkel wie 'mee' is er nog in slagen deze te bestrijden?

Adaptieve interfaces kunnen het gebruiksgemak bemoeilijken. Als de user interface er telkens anders uitziet of verschilt tussen gebruikers, kan dat net voor extra verwarring zorgen.

Voorbeeld:

Een Netflix-homepage ziet er sterk verschillend uit tussen accounts. Er zijn andere aanbevelingen en soms ook een andere opbouw van de pagina.

AI-systemen zijn getraind op historische data, waardoor een risico bestaat dat zij vooroordelen en ongelijkheden reproduceren. Op die manier kunnen algoritmes en automatisatie ook net zorgen voor meer herhaling en verspreiding van discriminatie. Systemen kunnen hierop worden getest en verbeterd, maar een AI-systeem is nooit vrij van scheeftrekkingen.

Conclusie: zorgt AI voor meer digitale inclusie?

Het is op dit moment moeilijk te voorspellen of AI net voor meer of minder (digitale) inclusie zal zorgen. We kunnen wel voorspellen dat inzicht in algoritmisch denken en datageletterdheid als gevolg van de brede uitrol van AI-systemen steeds belangrijker zal worden. Bij verregaande automatiseringen kan de verleiding immers groot zijn een te groot vertrouwen in de antwoorden van een systeem te stellen.

Het zal erop aankomen gebruikers een algemeen inzicht te geven in hoe de output van AI-systemen tot stand komt, zodat zij deze uitkomsten correct naar waarde kunnen inschatten en goed kunnen hanteren. Deze en andere nieuwe vaardigheden zullen gebruikers zich moeten eigen maken. Dat zal wie al sterk staat op digitaal vlak, minder moeite kosten dan de anderen. Hierdoor kan de digitale ongelijkheid opnieuw groeien.

Het belang van kritisch en analytisch denken wordt dus enkel maar belangrijker. En ook een zeker inzicht in hoe gegevens worden verzameld, waarom, voor welk doel, etc. is noodzakelijk. Wat houdt dat bijvoorbeeld in als je alle cookies accepteert, welke gevolgen heeft dat? Er moet meer kennis komen over de implicatie die dit heeft, maar ook de mogelijkheden die je hebt als burger om te reageren op wanpraktijken, verkeerdelijk gebruik, etc.

Een ander belangrijk punt wordt toegang. De nieuwste, dure generaties van producten en de veelheid van ‘slimme’ producten en AI-powered software is niet voor iedereen betaalbaar en toegankelijk. Hier dreigt mogelijk een nieuwe toegangskloof tot de potentiële voordelen van AI-systemen te ontstaan, een kloof die niet overbrugd wordt met bestaande initiatieven omtrent publiekspc's en uitleentoestellen. Dit kan reële impact hebben op de levens van burgers, zoals een hoger energieverbruik (slimme thermostaat), minder snelle detectie van gezondheidsproblemen (smartwatches), etc.

Op vlak van dienstverlening zijn er duidelijke voordelen voor 'leveranciers' en aanbieders, zowel overheden als bedrijven. Zij kunnen met behulp van verregaandere automatisering meer klanten of burgers helpen met chatbots en automatische toekenning van rechten. Maar elk systeem heeft z'n grenzen: zal iemand met een specifieke vraag of die benadeeld wordt door een automatische beslissing nog vlot iemand aan een loket of via een hulplijn kunnen spreken? Dreigt wie buiten het systeem valt, er nog moeilijker de weg in te vinden?

Zeker is dat de evoluties op vlak van AI onderzoekers, ontwikkelaars, beleidsmakers, begeleiders en coaches die zich toeleggen op digitale inclusie voor nieuwe vragen en uitdagingen zullen stellen. Het is dan ook van hoog belang dat de overlapping tussen deze twee domeinen nauwgezet wordt opgevolgd. Het Kenniscentrum Data & Maatschappij zal daar dit jaar zelf toe bijdragen door de jaarlijkse monitor toe te spitsen op het onderwerp van datageletterdheid en AI-kennis en -vertrouwdheid bij Vlamingen.

Workshop

Ken je de workshop ‘Hoe digitaal inclusief is jouw product of dienst?’ al, die het Kenniscentrum Data & Maatschappij ontwikkelde met Mediawijs? In deze workshop ontdek je, samen met je team of partners, stap voor stap hoe digitaal inclusief een dienst of product is. Aan de hand van profielen krijg je inzicht in welke drempels gebruikers ervaren. Daarna vorm je samen een team van ontwikkelaars om de dienst of het product inclusiever te maken.

Ontdek hier de workshop.