‘Mens versus Machine’ opent met een anekdote over een moeilijk gesprek over artificiële intelligentie dat De Ketelaere en haar team hadden met een businesspartner. Hoewel het gesprek al geruime tijd automatische systemen en datagedreven methodes als onderwerp had, slaagde de businesspartner er niet in de link met AI te leggen. Deze en andere anekdotes tonen het gebrek aan kennis die de gemiddelde persoon heeft over AI, ook al komen ze er dagelijks mee in aanraking. Momenteel is er een kloof tussen personen die weten wat AI is en personen die AI enkel kennen als abstract concept, zonder te weten wat het precies inhoudt.

De AI-vertaler

AI heeft vandaag een invloed op het leven van ons allemaal, en dus zijn ook steeds meer actoren betrokken bij het creëren en implementeren ervan. Juristen, managers, burgers en ingenieurs kijken elk door hun eigen bril naar AI en hebben hun eigen verwachtingen, vereisten en invulling voor wat AI moet en mag. Als gevolg hiervan bekijken we AI-problemen en -oplossingen vaak vanuit aparte eilandjes. Om deze eilanden met elkaar te verbinden pleit De Ketelaere voor ‘AI-vertalers’: bruggenbouwers die de eilanden met elkaar verbinden door de wensen, eisen en bezorgdheden van de verschillende actoren te analyseren en samen te brengen.

Om deze analyse en vertaling te kunnen doen, is het belangrijk dat de ‘AI-vertalers’ een goede basiskennis hebben van de verschillende domeinen die belangrijk zijn bij (het ontwikkelen van) AI. ‘Mens versus Machine’ kun je dan ook zien als een handleiding voor aspirant AI-vertalers en eenieder die een toegankelijke inleiding zoekt in de verschillende aspecten van AI.

Van bouwstenen naar beslissingen

Een AI-vertaler moet weten wat AI is en hoe het werkt. In de eerste drie hoofdstukken worden de drie ‘bouwstenen’ van AI uitgelegd: algoritmes, data en hardware. In elk van de hoofdstukken krijgt de lezer een heldere uitleg over de basisprincipes van deze bouwstenen. Hier bevat het boek vaak complex technisch AI-jargon, maar de informatie wordt op een heldere en toegankelijke manier gebracht. De Ketelaere heeft ook aandacht voor de sociale aspecten van AI. Zo gaat het over de vraag of computers ooit slimmer zullen worden dan mensen, bespreekt ze privacy-vragen bij het verzamelen van data voor het trainen van deze algoritmes en wordt er dieper ingegaan op de dominante rol van grote, overwegend Amerikaanse en Chinese, (tech)bedrijven.

Eens we de bouwstenen van AI-systemen kennen, gaat de auteur in hoofdstuk vier dieper in op de manieren waarop AI beslissingen neemt. En wie beslissingen neemt draagt verantwoordelijkheid. Hoe maken we dan een AI-systeem verantwoordelijk? Daarover gaat het in het vijfde hoofdstuk. Zo is er bij AI het wezenlijk gevaar dat de technologie voor niet-beoogde doeleinden ingezet wordt. Als voorbeeld haalt de auteur het probleem van DeepFake foto’s en video’s aan. Hoewel dit een handige tool kan zijn om bijvoorbeeld in een film het gezicht van de acteur te plakken op het lichaam van een stuntman, kan je deze technologie ook gebruiken om iemand in een video uitspraken te laten doen die ze nooit in het echt gedaan hebben. Wie draagt evenwel verantwoordelijkheid wanneer deze video’s gaan circuleren? Zijn dat ook de mensen die de technologie mogelijk hebben gemaakt?

Eén perspectief hierop is de separatistische visie. Volgens deze visie is het enkel de taak van ingenieurs om een technologische oplossing te vinden voor de markt en zijn ze niet verantwoordelijk voor het uiteindelijke gebruik ervan. Ethische vraagstukken en negatieve gevolgen zijn volgens separatisten een zorg voor anderen: bedrijfsleiders of beleidsmakers.

Bruggenbouwers en beroepsregels

De Ketelaere vindt daarentegen dat ook ingenieurs en programmeurs verantwoordelijkheid dragen: in het boek reikt ze verschillende tools, richtlijnen en voorstellen aan om ethische probleem te behandelen. Één van deze voorstellen is het invoeren van een versie van de ‘eed van Hippocrates’, specifiek gericht op ingenieurs en AI-ontwikkelaars. Dokters leggen de eed vrijwilig af wanneer ze afstuderen, ze zweren hiermee een aantal belangrijke beroepsregels na te komen. Het afleggen van deze eed betekent niet dat ingenieurs plots alle verantwoordelijkheid moeten dragen. Het kan voor hen wel een argument zijn om een taak te weigeren wanneer hun bedrijf hen onethische opdrachten geeft.

Boven alles doet de auteur een warme oproep voor meer interdisciplinaire samenwerking. Hierin spelen de AI-vertalers een centrale rol. Zij kunnen de soms nauwe visie van ingenieurs en AI-ontwikkelaars verruimen door bruggen te leggen met mensen met expertise in andere domeinen. Op deze manier kunnen bijvoorbeeld biologen, neurologen of psychologen inzichten aanreiken die bijdragen tot een verdere evolutie in de manier waarop AI-algoritmes informatie verwerken. Of kunnen bijvoorbeeld sociologen, filosofen en managers meedenken en diepgaander onderzoeken welke gewenste en ongewenste maatschappelijke effecten AI-systemen kunnen hebben.

Waarom zou jij ‘Mens versus Machine’ lezen?

‘Mens versus machine’ slaagt in de opzet om op een toegankelijke manier lezers te laten kennismaken met AI. De vaak droge, technische aspecten van AI worden door middel van persoonlijke anekdotes, concrete voorbeelden en illustraties op een aangename manier uitgelegd. Deze anekdotes en voorbeelden helpen de lezers om actief mee na te denken, ze brengen de technologie dichter bij hun bed.

Vanuit het Kenniscentrum Data & Maatschappij waren we blij dat ‘Mens versus Machine’ ruim aandacht heeft voor de maatschappelijke en ethische uitdagingen van AI. De uitdagingen komen niet enkel op een beschrijvende manier aan bod, maar de auteur doet ook verschillende inspirerende aanbevelingen om deze uitdagingen aan te pakken.

Het concept van de AI-vertalers leek ons sterk verwant met het profiel van de Digital Ethicist, dat we eind vorig jaar publiceerden. Ook daar onderzochten we hoe bewust ethisch handelen meer ingang kon krijgen in organisaties die met AI aan de slag willen. De invulling die De Ketelaere geeft aan het concept inspireert ons zeker om onze ideeën verder te verfijnen. Tegelijk blijven we zelf ook onze tools verbeteren om deze AI-vertalers of Digital Ethicists te ondersteunen. Zo hebben onze ‘AI Blindspots’-kaarten als doel hen te helpen ethische valkuilen bij het ontwikkelen en implementeren van AI-systemen of data-toepassingen te identificeren en te vermijden.