Design thinking en prototypes?

Het doel van design thinking is om producten en diensten te ontwerpen vanuit het perspectief van de (eind)gebruiker. Legal design houdt in dat men design thinking toepast op juridische processen zoals het opstellen van contracten, juridische adviesverlening, en het wetgevend proces. In plaats van teksten op te stellen door en voor juristen, tracht legal design gebruiksvriendelijke juridische producten te ontwikkelen vanuit het perspectief van de gebruiker. Laatstgenoemde zou de resultaten moeten kunnen gebruiken zonder juridische bijstand, net zoals geen computer-wetenschapper nodig is om een computer te gebruiken. Toegepast op het wetgevend proces, moet design thinking resulteren in wetgeving die aan de hieraan onderworpen natuurlijke of rechtspersonen moeiteloos bewust maakt van het bestaan van de wetgeving en hen werkelijk inzicht geeft in hoe ze toe te passen en de gevolgen ervan.

Er bestaan verschillende design-methodologieën. Voorbeelden hiervan zijn de Stanford-methode die bovenaan deze post staat afgebeeld, alsook het ‘Double Diamond’-model (ook wel ‘Four D’-model genoemd), dat de volgende fasen omvat:

• Discover
• Define
• Develop
• Deliver

(bron afbeelding: https://www.designcouncil.org.uk )

Elk van deze methoden vereist een prototyping fase, volgend op de ideation fase. Prototyping, afgeleid van het Oud-Griekse prototypon (‘eerste vorm’), houdt in dat men basismodellen of -ontwerpen voor een machine of ander product maakt om zo een idee of concept in de praktijk te testen. Prototypes kunnen volledig functioneel zijn, of juist heel rudimentair en slechts uitgerust met enkele kenmerken van het eindproduct. Dit laat toe om bepaalde eigenschappen te testen en gaandeweg uit te dokteren ‘wat werkt’.

De Open Loop-designaanpak

Zoals uitgelegd in onze vorige blogpost past het Open Loop-project voormelde design-methodologie toe. Het gebruik van beleidsprototypen wordt er beschreven als een snelle, goedkope manier om beleidsideeën te ontwerpen, uit te testen en om uit de feedback van gebruikers te leren of het idee moet worden verlaten of bijgestuurd, dan wel of erop kan worden voortgebouwd.

Het betrokken prototype werd opgesteld door Facebook en het Nederlandse technologieconsultancy-bureau Considerati en bouwt voort op de initiële uitwerking van een ADIA-kader (‘Automated Decision making Impacy Assessment’) door Facebook in haar antwoord op het Witboek Artificiële Intelligentie van de Europese Commissie. Interessant is dat de ADIA-prototypewet niet alleen een prototypewet in de strikte zin bevat, maar ook een prototype—handleiding (playbook). Dergelijke handleiding is een legal design-element dat de rechtsonderhorigen helpt bij het interpreteren en naleven van wettelijke verplichtingen. In dit geval door een stapsgewijze risicobeoordelingsmethode, een lijst van relevante waarden, een taxonomie van vormen van schade, en een lijst van beperkende maatregelen te verstrekken. Beide prototypes werden uitgewerkt met als doel getest te worden en opmerkingen en/of beleidsaanbevelingen uit te lokken.

Het ADIA-prototype werd getest door tien Europese technologie-start/scale-ups op de volgende criteria:

• Beleidsbegrip: begrijpt het doelpubliek van de norm werkelijk wat er van hen gevraagd wordt?
• Beleidseffectiviteit: draagt het beleid (de prototypewet) werkelijk bij tot het beleidsdoel?
• Beleidskosten: wat zijn de kosten van naleving en toezicht? Zijn er externaliteiten of onbedoelde neveneffecten (waaronder maatschappelijke neveneffecten)?

Kort samengevat vonden de deelnemers dat de prototypewet duidelijk genoeg was om er een basisinzicht in te krijgen, maar vonden ze onder meer ook dat de beschrijving van de betrokken actoren verwarrend was. Dit zou een duidelijke aflijning van verantwoordelijkheden in de praktijk kunnen beletten. Wat de effectiviteit betreft, werd besloten dat sommige vereisten uitdrukkelijker zouden moeten worden geformuleerd en dat de handleiding baat zou hebben bij een verdere uitwerking, zodat deelnemers de doelen van de prototypewet beter (of zelfs volledig) konden vervullen. Ten slotte vermeldt het rapport dat het uitvoeren van een ADIA de deelnemers kostengewijs niet overbelastte. Een belangrijke genoemde factor daartoe is de overlapping tussen de voorgestelde ADIA en de gegevensbeschermingseffectbeoordeling of DPIA zoals voorzien in de Algemene Verordening Gegevensbescherming of AVG.

De voordelen van policy prototyping

Wetten en overheidsbeleid worden zelden uitgetest in de praktijk. Nieuwe wetgeving wordt vaak verweten geen rekening te houden met de werkelijke situatie van de personen wiens activiteiten (of zelfs wiens leven) erdoor wordt beheerst. Het idee om rekening te houden met feedback alvorens wetgeving aan te nemen is niet nieuw (zie bijv. de meerdere publieke consultatieprocessen die de EU de laatste jaren heeft ondernomen), maar de bijkomende stap om wetgeving ook te testen en een proefimplementatie uit te voeren kan een aantal voordelen inhouden, zoals o.a.:

• Doelmatigheidsbeoordeling: beleidsprototypes kunnen worden getest op hun technische en sociale haalbaarheid, hun toepasbaarheid in de praktijk en begrijpbaarheid, alvorens de prototypewet aangenomen wordt. Zo kan policy prototyping de kloof tussen een beleidsdoelstelling en het werkelijke resultaat helpen dichten.
• Trial & error: beleidsprototypes kunnen bij aanvang heel elementair zijn waarna ze meer vormkunnen krijgen in de loop van meerdere iteraties of testcycli. Op die manier kan de draagwijdte van het beleid geleidelijk aan worden uitgebreid/aangepast aan de bedoelde gebruiksgevallen.
• Draagvlak voor het beleid: de mogelijkheid om het beleid aan te passen aan inzichten vanuit het veld kan het draagvlak en de aanvaarding van het beleid bij de betrokkenen verhogen. Vooral voor fundamentele beleidswijzigingen kan policy prototyping de mogelijkheid bieden om vertrouwen te scheppen in nieuwe beleidskeuzes.
• Toegankelijkheid van het recht: als policy prototyping leidt tot begrijpbaardere en beter toepasbare wetgeving, verhoogt het de toegankelijkheid van het recht, vermindert het de daaraan verbonden kost en verhoogt het de rechtszekerheid.

Wat zijn de risico’s en nadelen?

Er zijn echter ook enkele risico’s verbonden aan een policy prototyping-proces, zoals:

• Status quo bias: in gedragseconomisch onderzoek werd aangetoond dat mensen geneigd kunnen zijn om aan hun oorspronkelijk idee vast te houden (status quo bias) en meer belang hechten aan bewijs dat hun oorspronkelijke mening bevestigt (confirmation bias). Het eerste prototype wordt dus het belangrijkste, aangezien dit het uitgangspunt zal vormen voor het daaropvolgende proces. Dit creëert een sterke stimulans voor zowel belanghebbenden als beleidsmakers om policy prototyping te gebruiken als middel om de agenda te bepalen. Een voorbeeld hiervan is de AVG, die tot één van de belangrijkste ‘regelgevings-exportproducten’ van de EU uitgroeide.
• (Bij)bedoelingen van de testgroep: de feedback van de deelnemers kan voortvloeien uit bezorgdheden die los staan van de haalbaarheid en toepasbaarheid van het beleidsprototype en die voortvloeien uit andere (impliciete) eigen belangen van de deelnemers Binnen het Open Loop-project is het bijvoorbeeld mogelijk dat de deelnemende bedrijven geen belang hebben bij uitgebreide AI-regulering en deze dus tot een minimum kunnen proberen te beperken, zelfs al zou het algemeen belang bij dergelijke regelgeving gebaat zijn.
• Diversiteit van de testgroep: testgroepen moeten alle belanghebbenden omvatten die door een beleidsinitiatief kunnen worden getroffen. Een cruciaal onderdeel van het design-proces is dus het zorgvuldig in kaart brengen en betrekken van deze belanghebbenden. Gebeurt dat niet, dan leidt dit tot een gebrek in de representativiteit in de resultaten, waar rekening mee moet worden gehouden. In het ADIA policy prototyping-proces werd de afwezigheid van andere belanghebbenden dan AI-bedrijven uitdrukkelijk erkend.
• Transparantie van de “wetgever”: om maatschappelijk toezicht mogelijk te maken en om ‘wetgeving op bestelling’ te vermijden, moeten de samenstelling van testgroepen en de projectleiders gekend zijn bij het grote publiek. Het ADIA-prototype werd niet opgesteld door een overheid of door een parlement, maar door het (private) Open Loop-project, mee gesticht door Facebook, een van de grootste techbedrijven ter wereld en wereldwijd een vurig pleitbezorger voor haar zakelijke belangen.
• Representativiteit en schaalbaarheid van de resultaten: (beleids)prototypes zullen over het algemeen getest worden door kleine groepen. Bijgevolg is het risico groot dat de resultaten casuïstisch zijn, niet representatief en moeilijk toepasbaar op de grote schaal waarop regelgeving normaal werkt.
• Inherente beperkingen: situaties die een onmiddellijke beleidsinterventie vereisen (bijvoorbeeld de opkomst van een pandemie) maken policy prototyping in sommige gevallen onmogelijk.
• Beoordelingscriteria: In het Open Loop policy prototyping-proces werd er geen criterium gebruikt dat peilde naar de aanvaarding of legitimiteit van het beleidsprototype. Dat is nochtans noodzakelijk voor alle wetten in een democratische samenleving. Bij afwezigheid van dergelijk ijkpunt dreigen beleidsprototypes een middel te worden voor lobbying of, erger nog, wetgeving op bestelling. Dit kan het democratisch karakter en de algemene doeltreffendheid van een wet aanzienlijke schade toebrengen.
• ‘Werkschuwe’ wetgevers: gezien de voormelde vooroordelen en daaruit voortkomende risico’s voor de doeltreffendheid van het policy prototyping-proces, dienen beleidsmakers zich ervan te weerhouden om de resultaten van policy prototyping-oefeningen te gebruiken als eenvoudige modellen voor wetgeving, zonder eigen kritische analyse van het beleidsproces en de maatschappelijke impact van het beoogde beleid. Zonder dergelijke kritische analyse waarbij men de belangen van de inspiratiebron in rekening brengt, dreigt dergelijke “inspiratiebron” de werkelijke wetgever te worden.

Conclusie

Policy prototyping biedt een goede mogelijkheid om wetgeving empirisch te testen vooraleer ze wordt aangenomen. Dit kan bijdragen tot de doelmatigheid van wetgeving en de bruikbaarheid door en voor het grote publiek. Het bevordert rechtszekerheid en de effectiviteit van het recht.

Policy prototyping heeft echter inherente beperkingen en kan misbruikt worden door belangengroepen als middel om regelgeving naar hun hand te zetten.

Beleidsmakers moeten zich daarom goed bewust zijn van deze beperkingen zodat ze kunnen garanderen dat de wetten die uit prototypes voortkomen de publieke welvaart verhogen en niet verminderen.