Wij lazen dit voor jou: 'Automating Inequality - How High-Tech Tools Profile, Police, and Punish the Poor'
13.04.2020
In 2017 verscheen het boek 'Automating Inequality - How High-Tech Tools Profile, Police, and Punish the Poor' geschreven door Virginia Eubanks. In dit boek beschrijft Eubanks hoe moderne algoritmes eeuwenoude vooroordelen over arme mensen versterken. Ze toont de lezer hoe deze groep in aanraking komt met deze verschillende systemen en wat het effect is op hun leven.
Waarom we aanraden om dit boek te lezen:
Eubanks heeft een talent om op een boeiende manier complexe situaties te beschrijven. Haar use-cases zijn goed beschreven en ze tracht de gehele situatie te omschrijven. Het boek geeft een goede omschrijving wat het effect kan zijn van het gebruik van algoritmes op de sector van sociale bijstand. Hierbij laat zij zowel de positieve en negatieve ervaringen zien.
De draad in haar verhaal is het concept van de 'digital poorhouse'. Ze begint haar boek dan ook met een introductie tot het principe van de “poorhouse”, wij kennen dit onder het begrip van werkhuizen. In principe zijn dit huizen bedoeld om armoede tegen te gaan. In haar beschrijving wordt het duidelijk dat de 'poorhouse' voornamelijk een manier van geld verdienen was en dat de verzorging en de verbetering van de levensomstandigheden van de armen niet altijd centraal stonden.
Na deze introductie begin Eubanks met het beschrijven van 3 use-cases die zij heeft onderzocht:
- Algoritme voor de verdeling van alle sociale bijstand in Indiana,
- Algoritme voor het toewijzen van sociale huur in Los Angeles,
- Algoritme voor risicoberekening op misbruik bij kinderen in Pennsylvania.
Elk van deze voorbeelden komt met perspectieven van de ontwikkelaars, de uitvoerders en mensen die de impact van de algoritmes ervaren. Hierbij wordt er duidelijk aandacht gegeven aan de bedoelingen van de systemen en het effect dat het heeft op de gebruikers, maar ook op de sociale zorgverlening zelf. Want kan het zijn dat sociale medewerkers anders gaan handelen door de berekening die gegeven wordt in een systeem?
Eubanks probeert het zo genuanceerd mogelijk te brengen. Zo is er een positief verhaal van een voormalig huisloze in Los Angeles die door de invoering van het algoritme snel een woning heeft kunnen vinden. Maar het is duidelijk dat de meeste ervaringen niet positief zijn en dat de armen heel veel privacy en waardigheid op moeten geven voor ze mogelijk bijstand ontvangen.
Dit brengt haar tot de conclusie dat zich nu een 'digital poorhouse' aan het ontwikkelen is. Waarbij de armen net als in het verleden heel veel van zichzelf weg moeten geven om hulp te krijgen. Haar boek geeft duidelijk aan dat er verandering nodig is voor hoe technologie gebruikt wordt en dat het nodig is om een 'do-no-harm' eed op te stellen. Zij geeft hier zelf ook een aanzet toe.
Dit boek is een aanrader voor beleidsmakers, academici en data-wetenschappers. Want je kan er zeker een les uit trekken.
