Wij bekeken dit voor jou: The Social Dilemma

05.01.2021

Op Netflix kun je de veelbesproken documentaire The Social Dilemma bekijken, hierin geven voormalige werknemers van techbedrijven zoals Google en Facebook een inkijk in de praktijken van deze bedrijven. Ze gaan dieper in op de negatieve invloed van deze bedrijven op de gebruikers en de maatschappij. Maar klopt dit beeld dat wordt opgehangen in The Social Dilemma wel? Wij bekeken de documentaire en zetten voor jou onze bevindingen op een rijtje.

WAT ZIE JE?

De documentaire heeft twee verhaallijnen. De eerste verhaallijn geeft voornamelijk het woord aan voormalige werknemers van techbedrijven zoals Google en Facebook. Zij gaan dieper in op de invloed van algoritmes op ons zijn en de samenleving. Ze behandelen aspecten zoals verslaving, radicalisering, manipulatie, fake news, en ga zo maar door. Er worden ook enkele andere stemmen aan het woord gelaten, zoals Shoshana Zuboff. Zij is auteur van het boek ‘The Age of Surveillance Capitalism’ en zet de eerder gedane stellingen in de documentaire extra kracht bij.

In de tweede verhaallijn wordt de negatieve invloed van algoritmes geïllustreerd aan de hand van een fictief scenario waarbij een gezin wordt verwoest door algoritmes en sociale media. Verwoest is hierbij geen hyperbool, aangezien deze verhaallijn eindigt met een familiedrama als gevolg van sociale media.

WAT IS ER GOED AAN?

De voormalige werknemers die aan het woord komen, waren betrokken bij de ontwikkeling van sociale media en diens algoritmes. Zij waarschuwen zelf voor de negatieve effecten die kunnen optreden. Op die manier geeft de documentaire een unieke inkijk in het het ontstaans- en ontwikkelingsproces van de meest gebruikte socialemediaplatformen. Het toont aan dat er in de tech industrie nog heel wat werk is aan de ontwikkeling van ethische AI.

WAT IS SLECHT?

De negatieve effecten van sociale media en algoritmes staan centraal in de documentaire. Zo stelt Tristan Harris dat de mensheid schaakmat staat door de technologie. Gebruikers worden gemanipuleerd door algoritmes die onze menselijke zwakheden uitbuiten, in deze documentaire zijn de mensen louter onderworpen aan deze technologie en kunnen we er met geen enkel actie tegenin gaan. Hier mist de documentaire elke nuance. De mensheid wordt momenteel niet overgenomen door een almachtig AI-systeem dat steeds slimmer wordt. Het menselijke denken en handelen wordt zwaar onderschat in deze documentaire.

Dat is duidelijk merkbaar wanneer men in de documentaire dieper ingaat op het vermijden van deze negatieve effecten. Alle verantwoordelijkheid hiervoor wordt gelegd in het kamp van de tech industrie: zij hebben het fout doen lopen, zij moeten dus ook met een oplossing komen. Maar ligt de bal enkel in hun kamp? Is dit echt de enige oplossing voor dit grootschalige probleem? Tech bedrijven zoals Facebook en Google moeten zeker hun verantwoordelijkheden opnemen, zoals Tristan Harris meermaals benadrukt, en zij moeten zelfs actief meedenken over mogelijke oplossingen. Maar dit is geen vraagstuk voor hen alleen.

WAT ZIJN GEMISTE KANSEN?

De documentairemakers benaderen het probleem en de oplossingen ervoor voornamelijk vanuit één bepaalde hoek, de tech hoek. Die aanpak is zeker relevant, maar het is een gemiste kans om ook niet andere perspectieven verder te verkennen en toe te lichten. Hoe kijken experten uit andere domeinen zoals sociologie en filosofie, maar ook de gebruikers zelf, naar dit probleem en de mogelijke oplossingen?
De documentaire spiegelt de kijker een ongenuanceerd doemscenario voor door de fictieve verhaallijn enorm te overdrijven. Hierbij worden algoritmes zelfs nagespeeld door mensen en krijgen zij zo ook menselijke eigenschappen toegedicht. De vermenselijking van de algoritmes kan misschien wel het dramatische effect verhogen, maar tegelijk doet het de waarde van de documentaire teniet. Huidige AI-systemen zijn allemaal van het type narrow AI, waarbij het algoritme heel sterk of ‘intelligent’ is in één bepaalde actie, maar verder helemaal geen gelijkenissen vertoont met menselijke intelligentie. Het fictieve verhaal resulteert in een spookbeeld dat weinig verband houdt met hoe systemen vandaag werkelijk werken.
De documentairemakers geven weinig duiding bij de werking van algoritmes en AI. Doordat ze zo sterk focussen op technologie die de mens domineert, is er nauwelijks aandacht voor de beperkingen van deze technologieën en worden kijkers nauwelijks geïnformeerd over wat wel en niet mogelijk is.

RADEN WE DE DOCU AAN?

Ja, de documentaire geeft duidelijk de negatieve effecten van algoritmes en sociale media weer. De docu is voor velen een eye opener over de werking van algoritmes en hoe deze je gedrag kunnen bepalen. De makers geven ook enkele concrete tips mee hoe je mogelijke schadelijke effecten zelf kan vermijden: uitschakelen van meldingen, ‘niet storen’-functie, maximale gebruikstijd per app aangeven, etc.

Maar is de docu waarheidsgetrouw? Neen. De makers schetsen een karikatuur van sociale dynamieken, zoals familierelaties die volledig bepaald worden door technologie. De makers dichten de technologie zo veel macht toe dat je hun visie als technologisch deterministisch kan omschrijven. De mens, de gebruikers, zijn totaal overgeleverd aan deze platformen. Met het Kenniscentrum bewijzen we dat dat niet zo hoeft te zijn.