Zomerblog: Laat je deze zomer niet verblinden door het algoritme
01.07.2021
Mooi weer, zomervakantie, versoepelende maatregelen, … kortom, de kans dat je de komende weken in uw kot zal doorbrengen is relatief klein. De zomermaanden zijn bij uitstek het moment waarop we er met z’n allen op uittrekken en dan grijpen we al snel naar Google (en consorten) om een invulling te geven aan die vrije tijd. “Wat is er te doen vandaag?” is al jarenlang één van de meest gegoogelde zoektermen (behalve in 2020, uiteraard).
En toegegeven, het is handig. Met enkele kliks boks je binnen de kortste keren een interessante daguitstap in elkaar of, voor de liefhebbers, een volledige twee-weken durende vakantieplanning. Online vind je binnen een mum van tijd het goedkoopste trein- of vliegticket, met Booking.com of Airbnb regel je de logies, en op de bestemming zelf leidt Google Maps je vlot van punt A naar B. Op voorhand foto’s van je bestemming bekijken op Instagram is bij velen tegenwoordig het equivalent geworden van een traditionele reisgids met bezienswaardigheden en stadswandelingen. Uit recente cijfers van Google bleek bijvoorbeeld dat de zoekopdrachten over fietsroutes in Brussel met zo’n 22% is toegenomen vergeleken met het jaar voordien. Maar is al dat digitaal ook wel optimaal?
Massa en populariteit
De afgelopen jaren duiken er steeds vaker verhalen op die gerelateerd zijn aan massatoerisme. Het is haast onmogelijk om deze fenomenen volledig los te zien van het toenemende gebruik van digitale technologieën. Zo heeft de Amerikaanse staat Arizona er sinds de opkomst van sociale media een trekpleister bij: Horseshoe Bend. Terwijl er een vijftiental jaar geleden jaarlijks enkele tienduizenden bezoekers de canyon bezoeken, zien ze er nu jaarlijks meer dan twee miljoen bezoekers. Volgens het National Park Service is deze groei voornamelijk te wijten aan de populariteit op sociale media en de ‘picturesque’ omgeving. Deze toevloed aan toeristen zorgt ook voor een enorme druk op de omgeving: naast verkeerschaos in de toegangswegen, is ook de parking die leidt naar de Horseshoe Bend is afgelopen decennium steeds groter geworden.
Ook bij ons zien we gevolgen van populariteit op sociale media. Zo moeten er in de Brusselse rand steeds vaker verkeersmaatregelen worden wanneer de hyacinten in bloei staan in het Hallerbos. De paarsblauwe bloemen zorgen voor een betoverende omgeving waarvan de foto’s gretig online gedeeld én gezien worden.
![Poseren bij de Horseshoe Bend is populair op sociale media](/uploads/zomerblog-1.jpg)
Blind Spots in AI
Waarom worden mensen zo massaal naar dezelfde plaatsen geleid? Zijn algoritmes blind voor minder populaire plaatsen? En zijn er nog andere blinde vlekken? In een artikel dat vorige maand verscheen, raakten we twee problemen aan die mogelijks aan de basis van dergelijke fenomenen kunnen liggen.
Ten eerste is er het filterbubbel probleem. Net zoals er op sociale media gesproken wordt van figuurlijke ‘informatie bubbels’ waarbinnen mensen uitsluitend in aanraking komen met meningen en interessegebieden die nauw aansluiten bij hun eigen overtuigingen en interesses, bestaat er ook in andere toepassingsgebieden het risico van dergelijke bubbels. Zo leerden we uit eerder onderzoek dat de taal waarin je zoekt op Google Maps een invloed kan hebben op waar je zoekresultaten zich zullen concentreren in de stad. Dat komt omdat algoritmes de gigantische hoeveelheid online informatie op jouw maat filteren. Daarvoor kunnen ze rekenen op jouw expliciete voorkeuren (bijvoorbeeld alleen maar zoekresultaten voor activiteiten in jouw buurt), maar maken ze ook steeds vaker gebruik van impliciete informatie. Dat is informatie die ze afleiden uit jouw eerder gedrag of dat van mensen die op jou lijken.
Ten tweede is er historische bias. Algoritmes doen hun suggesties op basis van veel verschillende data sets. Deze sets zijn het resultaat van beslissingen die genomen werden binnen historische en culturele contexten. Een voorbeeld van een historische bias is wanneer een HR algoritme helpt om CV’s te herkennen van de beste kandidaten. Het algoritme had vastgesteld op basis van de historische data van vorige succesvolle kandidaten dat er een voorkeur was voor mannelijke werknemers en daarom werden CV’s afgewezen waar het algoritme vastgesteld had dat het ging om vrouwelijke kandidaten. Historische en culturele contexten op zichzelf zijn niet een probleem maar als er geen rekening mee wordt gehouden dan kan een oud vooroordeel worden gekopieerd in nieuwe technologieën. Als we dit betrekken op toerisme kan het zijn dat een pluraliteit van ervaringen en perspectieven verloren gaat en bovendien zijn je vakantiefoto’s niet te onderscheiden van een ander.
Om dergelijke blinde vlekken in digitale technologieën te voorkomen, kunnen ontwikkelaars gebruik maken van bepaalde ontwerpprincipes. In ons artikel bespreken we er twee: serendipiteit en billijkheid.
![Trolltunga](/uploads/1200px-Signs_warning_tourists_about_the_risk_associated_with_going_out_to_Trolltunga.jpg)
Serendipiteit: ruimte voor verrassing
Voor het eerste ontwerpprincipe kunnen we beroep doen doen op inzichten uit (onder andere) stadsarchitectuur. In deze discipline wordt al decennia lang belang gehecht aan het ontdekken van het onverwachte. Het is de bedoeling dat stedelingen en toeristen af en toe kunnen afwijken van het platgetreden pad. Om serendipiteit te stimuleren, wordt daarom vaak ontworpen met het oog op diversiteit, doorkruisbaarheid en zintuiglijkheid. Stedelijke omgevingen zullen op deze manier niet alleen divers zijn, er wordt ook aandacht gegeven aan onder andere zintuiglijke contrasten. Denk hierbij aan een afwisseling tussen rustige, open zones en gebieden waar er een grotere densiteit aanwezig is. Ook het toenemende belang van walkability (‘voetgangersvriendelijkheid’) is niet verrassend. Door gebieden toegankelijker te maken, en zeker te voet, verhoogt niet alleen de kans op een toevallige ontdekking; een goede walkability score betekent ook vaak dat er een goede connectiviteit is tussen verschillende delen van de stad. Er zijn met andere woorden meerdere routes om van punt A naar B te gaan, wat op zijn beurt dan weer leidt tot minder eenzijdigheid.
Dat dergelijke principes te vertalen zijn naar een digitale omgeving, bewijst onder meer Spotify. De streamingdienst zet als geen ander in op het ontdekken van nieuwe muziek en ontwikkelde er zelfs een specifiek product voor: Discover Weekly. Velen vergelijken deze wekelijks op maat gemaakte playlist met de mixtapes die je vroeger kreeg toegestopt van vrienden “zeker luisteren, je gaat het leuk vinden!”. Spotify is er met Discover Weekly in geslaagd om de moeilijke balans te bewandelen tussen gelijkaardigheid en diversiteit.
Billijkheid: meer dan alleen gelijkheid
Het tweede ontwerpprincipe is billijkheid, of in het Engels equity. Dit principe gaat verder dan gelijkheid (equality), hetgeen vaak naar voren geschoven wordt voor het ontwikkelen van rechtvaardige en eerlijke (fair) systemen. Gelijkheid in algoritmes betekent dat iedereen op dezelfde manier behandeld wordt door het algoritme, ongeacht de bestaande voor- of nadelen die iemand heeft gehad in het verleden. Eerlijkheid en gelijkheid gaan hierbij hand in hand. Volgens de Fair, Accountability and Accountability in Machine Learning group betekent eerlijkheid immers dat er een waarborg is dat individuen of bepaalde groepen niet gediscrimineerd of overmatig benadeeld worden.
Billijkheid gaat echter nog een stap verder en stelt dat gelijkheid niet voldoende is om ook echt eerlijk te zijn. In de context van een fietsvakantie zou gelijkheid betekenen dat iedereen dezelfde fiets krijgt. Op die manier wordt iedereen gelijk behandeld, maar of het voldoende eerlijk is om ook allemaal een fijne fietsvakantie te hebben is de vraag. De situatie is billijk wanneer iedereen een fiets krijgt die aangepast is aan hun situatie.
Om te zorgen dat billijkheid een onderdeel wordt van technologie is het nodig om rekening te houden met de dimensies van macht, intersectionaliteit en reflexiviteit. De macht dimensies gaan over het zich bewust zijn van de rol van macht in het versterken of verzwakken van posities binnen de samenleving. Ontwerpers kunnen zich hierbij de vraag stellen “door en voor wie is deze data verzameld en welk effect heeft dat op de uitkomst?”. Intersectionaliteit houdt in dat een persoon voordeel of nadeel kan ondervinden door een samenspel van meerdere aspecten die deel uitmaken van hun identiteit; bijvoorbeeld kleur, leeftijd, gender, culturele achtergrond, sociaal economische positie, opleidingsniveau etc… Intersectionaliteit kan door ontwikkelaars geïntroduceerd worden door een diverse groep mensen te betrekken in elke fase van de ontwikkeling. Op deze manier worden de ervaringen van deze mensen gebruikt ter verbetering van het ontwerp. Tenslotte betekent reflexiviteit dat de ontwerpers zelf nadenken over hun eigen rol binnen de dimensies van macht en intersectionaliteit.
![Equality vs Equity](/uploads/Afbeelding3.png)
Om verder te gaan op het voorbeeld van Spotify, zien we dat hier bijzonder veel aandacht geschonken wordt aan de affiniteit met de lokale culturen. Zo zullen er, wanneer er een nieuwe markt betreden wordt, vaak lokale ‘music curators’ aangenomen om te voorkomen dat Spotify (en het algoritme) de lokale cultuur verstoort. Ze zijn er zich met andere woorden van bewust dat de inzichten uit data van gebruikers uit verschillende landen niet zomaar geëxtrapoleerd kan worden.
En nu, waarheen?
Het is als eindgebruiker van technologie uiteraard erg onwaarschijnlijk dat je kan ingrijpen in het ontwerpproces. Het goede nieuws is dat sommige applicaties er al (in zeker mate) rekening mee houden. Toch is het belangrijk om ons bewust te zijn van de blinde vlekken van technologie, want op die manier kunnen we ze zelf trachten te voorkomen. Onze voorgestelde ontwerpprincipes kunnen daarbij inspireren en voor wie al helemaal in vakantiemodus is, lijsten wij met plezier enkele tips op om je deze zomer te laten verrassen:
Blijf niet op de home pagina van Google Maps. Door gebruikers foto’s en ervaringen te laten bijdragen poogt Google de lokale kennis over bezienswaardigheden en (verborgen) pareltjes te implementeren in haar diensten. Ga dus zeker eens kijken bij ‘Updates’ waar voor jou aanbevelingen van lokale gidsen worden verzameld. Of waag je misschien aan zelf een bijdrage te leveren!
Schakel de audiofunctie in van je gps. Wandel je op citytrip van de ene toeristische trekpleister naar de andere? Werp dan een korte blik op je gps en steek ‘m vervolgens weer weg. Check even de instellingen van je app om audio instructies in te schakelen, dan krijg je een seintje wanneer je de volgende straat links moet afslaan. Zo kan je kijken naar de omgeving in plaats van naar je scherm.
Maak gebruik van lokale kennis. Als je een dagtour doet kan je bijvoorbeeld tijdens de lunch de gids volgen wanneer deze richting een restaurant gaat. (Extra tip: vraag of het goed is om te volgen zodat je niet overkomt als stalker)
Maak er (letterlijk) een spel van. Zoals deze kaartenset ontwikkeld om spelenderwijs de (eigen) stad te ontdekken.
Auteurs:
![Auteurs:](/uploads/grid/_square/Annelien-Smets.jpg)
Annelien Smets (PhD researcher imec-SMIT, VUB)
![Auteurs:](/uploads/grid/_square/200227_imecsmitvub_portretten_krook_gent_TOMVERBRUGGEN_2T6A3734_1200pix_72dpi.jpg)
Cora Van Leeuwen (PhD researcher imec-SMIT, VUB)
Het Kenniscentrum is niet verantwoordelijk voor de inhoud van de blogposts die verschijnen in onze 'Zomer'-serie en zullen dan ook niet over de inhoud corresponderen. Bij vragen, opmerkingen of bedenkingen: contacteer de auteurs!
Image credits:
- Hallerbos: David Edgar, CC BY-SA 3.0 via Wikimedia Commons
- Trolltunga: Frankemann, CC BY-SA 4.0 via Wikimedia Commons
- Equality vs Equity: Robert Wood Johnson FoundationI