In deze use case zochten we naar een manier om leken te ondersteunen met informatie die van pas komt bij mogelijke juridische problemen bij digitale systemen. Dit bleek geen gemakkelijke opgave te zijn. Uit de getuigenis van Merijn (stafmedewerker digitaal & duurzaamheid) leerden we dat coaches van Avansa al inspanningen hebben geleverd om mensen te overtuigen dat het zin heeft om hun rechten te kennen. Mensen met problemen in digitale dienstverlening voelen zich vaak alsof ze geen keuze hebben en dus moeten aanvaarden welke juridische regels een platform hen opdringt.

Mensen die niet geloven dat wetgeving kan helpen om hun probleem op te lossen gaan niet snel op zoek naar manieren om geholpen te worden, dus we hadden nood aan een doelgroep die oplossingen aan leken kan aanreiken, zoals coaches en trainers: Wij willen dat coaches zoals Merijn zijn leerlingen wetgeving kan laten ervaren als een zelfverdedigingscursus waarin ze zich zelfzekerder voelen omdat ze weten dat ze voorbereid zijn op een aantal zaken.

Als oplossing hebben we Juri ontworpen. Juri is een website die in eerste instantie probeert om dagelijkse problemen van mensen te verbinden met relevante wetgeving. In een tweede stap geeft de website aan wat de mogelijke verdere stappen zijn. Een coach doorloopt met deelnemers van een workshop ‘Digitale weerbaarheid en geletterdheid’ een voorbeeld van hoe Juri (de Joeri in de volksmond) gebruikt kan worden:

1. Eerst laadt je zelf een document op met je probleem of formuleer je je probleem met gerichte vragen.

2. Juri geeft mogelijk relevante wetgeving aan en geeft zelf voorbeelden van problemen waar consumentenwetgeving zelf oplossingen voor voorziet. In het beste geval staat het probleem er tussen en worden mensen meteen geholpen.

3. Relevant of niet, Juri zal je altijd doorverwijzen naar de bevoegde instanties en je op weg helpen om deze instanties via de juiste kanalen en bewoordingen te benaderen.

   
   

Om leken ervan te overtuigen dat kennis van de wet wel degelijk nuttig kan zijn om problemen te verhelpen, is een mentaliteitswijziging nodig. Deze kan er alleen maar komen via voorbeelden en door uit ondervinding te leren. Hoe we specifiek juridisch jargon kunnen linken aan mensentaal blijft een andere grote uitdaging. Hier kan het gebruik van documenten en natuurlijke taalverwerking (NLP) mogelijk helpen om de match tussen juridisch jargon en gebruikersproblemen beter te maken. Dit brengt wel GDPR-vragen met zich mee die we nog verder moeten bekijken.

Het JURI prototype werkt al goed als een metafoor om een publiek te bereiken dat eigenlijk niet gelooft in juridische zelfbeschikking of zelfverdediging. Er zijn meer gidsen nodig om te tonen dat mensen niet zo weerloos zijn als ze denken, maar wetgeving blijft door het jargon een uitdaging om gebruikt te worden. Om het idee direct in een project om te zetten is het wat vroeg en zouden we best met leken aan de slag gaan om te zien of dit is wat ze willen.

Het doel van deze use case was om organisaties te helpen om transparanter te zijn naar hun gebruikers. Zowel ondernemingen als gebruikers struikelen hierover. Ondernemingen zijn vaak voornamelijk transparant omdat het moet, maar ze zijn er liever niet mee bezig en zien er ook niet altijd het nut of de impact van in. Voor gebruikers, als een indirecte doelgroep, vormen de vele ‘policies’ een irritatie, ze zijn moeilijk leesbaar, ze kunnen er niks mee en het is een extra actie in hun journey op een website, terwijl ze hun privacy wel meer en meer belangrijk vinden.

Tijdens de workshop hebben we ons specifiek gericht op ondernemingen voor wie het verzamelen van persoonlijke data niet het core business model is, maar wel een instrument is voor hun interne werking en marketing (zoals webwinkels). We zoeken een oplossing om de negatieve emoties rond het informeren over dataverwerking om te zetten in positieve emoties. Onze design visie is daarom als volgt geformuleerd: Wij willen dat ondernemingen die data gebruiken voor hun interne werking en marketing zich trots en gerustgesteld voelen over hoe ze actief informeren over hun data strategie & verwerking naar hun gebruikers.

Na de brainstormsessie zijn we uitgekomen op het volgende idee: een plug-in privacy assistent die op een complete, toegankelijke en leuke manier met gebruikers communiceert over de data strategie & verwerking van de onderneming, met onder andere een visueel en interactieve privacy policy en een virtuele privacy chatbot om specifieke vragen te beantwoorden. Voor bedrijven is de assistent makkelijk in gebruik: ze hoeven enkel hun (tekstuele) privacy policy op te laden en de plug-in op hun website te installeren en de privacy assistent doet de rest.

We hebben een papieren prototype gemaakt van de visuele en interactieve privacy policy met de verschillende schermen waar je doorgaat als je schoenen wil kopen bij de webwinkel. De policy doorloopt de stappen: provoceren, informeren en accepteren door in het eerste scherm meteen te laten zien welke data de webwinkel al over jou heeft verzamelden door je daarna duidelijk te informeren met behulp van video’s en memes. In de laatste stap kan je daarna gemakkelijk de policy accepteren of weigeren. Het idee heeft nog wat meer testen en iteraties nodig om zeker te zijn dat het zowel aan de behoefte van ondernemingen als aan die van gebruikers voldoet. Maar als dat zo is dan zou het een goed idee zijn voor een (nieuwe) speler die dit als een service kan ontwikkelen en aanbieden. Een openstaande vraag is dan nog wel in hoeverre deze provocerende en interactieve plug-in op een rechtsgeldige manier te implementeren valt.

Er wordt alsmaar meer gebruik gemaakt van toepassingen en diensten met een AI-component. Zowel bij de afnemers als bij de leveranciers is er echter een gebrek aan kennis over de juridische aandachtspunten die daarbij spelen. Dit maakt dat contracten vaak onvoldoende rekening houden met de verschillende vereisten en risico’s bij het gebruik van AI-toepassingen, maar ook dat dezelfde oefening bij gebreke aan ‘good practices’ steeds opnieuw wordt gedaan. Het doel van deze use case was om een oplossing te zoeken die ondernemingen die AI-diensten leveren of afnemen te helpen bij het analyseren van de juridische context en zo tot evenwichtige contracten te komen.

Tijdens de workshop hebben we besloten om de case te bekijken vanuit het perspectief van een start-up met slechts enkele oprichters en personeelsleden (geen juristen) in dienst, die kredietwaardigheidsanalyses aanbiedt aan haar klanten, mede op basis van AI-ondersteunende analyse. In het bijzonder richten we ons op de medewerker die instaat voor de verkoop van het programma (“sales”). Uit de empathy mapping kwam naar voren dat ‘sales’ vooral nood heeft aan een gebruiksvriendelijke tool, die ingebed zit in de eigen salesprocessen, die het verkoopproces niet vertraagt en die geen juridische expertise vereisen. Onze design vision was als volgt: We willen dat sales zich ondersteund moet voelen door het proces dat de juiste contractuele vereisten vaststelt, zoals een spits in een voetbalteam zich ondersteund voelt door de rest van het team.

De oplossing zagen we in de vorm van een plug-in in Salesforce, een veelgebruikt programma binnen sales, onder de naam ‘Juriscore’. Hier maakten we een papieren prototype van, dat de verschillende schermen en stappen in het proces simuleerde:

1. Wanneer sales een nieuwe klant aanmaakt in het programma, verschijnt een ‘Juriscorevenster’

2. Hierin verschijnen een aantal praktische vragen (scherm per scherm) die nodig zijn om de juridische vereisten te bepalen. Deze vragen kunnen bijv. gaan over de aard van de te verlenen dienst, de kwaliteit van de data, de vraag of de cliënt toestemming verleent om de data te gebruiken voor de eigen verbetering van het algoritme, enz.

3. De vragen worden kort en feitelijk geformuleerd. Indien sales bijkomende informatie nodig heeft, kan op bepaalde woorden of op het vraagteken naast de vraag geklikt worden, waarna meer uitleg verschijnt.

4. Na het invullen van de vragenlijst, verschijnt een overzichtspagina met de volgende informatie:

   1. Overzicht van de geleverde dienst en noden

   2. Overzicht van de aandachtspunten, met daarbij kleurcodes die de aanvaardbaarheid of het risico weergeven. Bij rode kleurcodes (hoog risico) wordt aangegeven welke acties ondernomen moeten worden om het risico te verminderen.

   3. Voorstel van specifieke contractclausules op basis van ingevoerde informatie.

   4. Onderaan de pagina een knop ‘bevestigen’, in welk geval het ontwerpcontract gegenereerd wordt, of ‘aanpassen’.

Ondanks nog veel losse eindjes, waren we als groep tevreden om in een paar uur tot een dergelijk basis prototype te komen. Voor daadwerkelijke implementatie is zowel functioneel als inhoudelijk nog verdere uitwerking en testen vereist.

In deze use case gingen we op zoek naar een manier om (niet-) juristen op een gebruiksvriendelijke manier te helpen nagaan of persoonsgegevens door een partner buiten de EEA verwerkt mogen worden of niet volgens het Schrems II-arrest.

Er is niet zoiets als ‘de gebruiker’ en de verschillende types vereisen elk een andere aanpak. Zo zullen in een organisatie ook juristen aanwezig zijn die niet noodzakelijk vertrouwd zijn met de GDPR of de implicaties van Schrems II op hun data transfers. Maar juridisch taalgebruik zal bij hen makkelijker te aanvaarden zijn dan bij bijvoorbeeld het IT-team of het sales department. Bovendien zien velen de GDPR en Schrems II vooral als een last. De emotie die we willen opwekken is echter een positieve emotie, zodat de mensen binnen de organisatie zich bewust zijn van het belang van deze verdragen en de implementatie ervan niet langer als een obstakel beschouwen, maar als een meerwaarde voor de organisatie: ‘van last naar lust’.

De eerste stap van de oplossing is het creëren van bewustzijn bij de betrokken departementen (bijv. sales, IT, aankoop). Schrems II, en de GDPR in het algemeen, is abstracte materie en lijkt voor velen een ver-van-hun-bed show. Daarom vertrokken we van het idee om mensen bewust te maken van het feit dat ook zij persoonlijk impact kunnen ondervinden. Dat idee vertaalde zich in een e-mail waarin beschreven stond dat hun gegevens opgevraagd waren door de Amerikaanse overheid. De bedoeling is om er vervolgens een informatiecampagne aan vast te koppelen. Op deze documenten zal dan legal design toegepast worden, telkens op een gepersonaliseerde manier per departement.

De uitwerking van het uiteindelijke materiaal om de mensen te informeren over de inhoud en de gevolgen van Schrems II kunnen behoorlijk wat tijd in beslag nemen. Om los te komen van het juridische taalgebruik, is het wenselijk om samen te werken met de betrokken departementen, zo kan het materiaal afgestemd worden op de noden van iedere dienst.

Deze use case had als doel de ontwikkeling van een stresstest voor bedrijven en overheden bij het gebruik van AI of datagedreven toepassingen. De test moet organisaties toelaten om hun toepassing in een concrete situatie te toetsen aan het juridisch en sociaal-ethisch kader van de AI HLEG principes. Maar hoe kunnen we bedrijven en overheden enerzijds meer informeren over de principes en het belang ervan bij het ontwerpen en ontwikkelen van data- en AI-systemen, en anderzijds ondersteunen in het toetsen van hun data- of AI-toepassing aan de conformiteit van de AI HLEG principes?

Om op deze vraag een antwoord te kunnen bieden, bedachten we een concrete case over een AI-toepassing die onder meer notarissen ondersteunt in hun werkpraktijk door vastgoed te waarderen. Hoe kunnen we de business manager van deze toepassing ondersteunen in het toetsen van dit AI-systeem aan de AI HLEG principes? De business manager wil natuurlijk naast het vermarkten van een commercieel product ook een toegevoegde waarde creëren voor de sector van het notariaat. Daar botst de visie van een business manager soms op de visie van een notaris die eventueel terughoudend zal zijn om te vertrouwen op een AI-toepassing bij de waardebepaling van vastgoed. De business manager zal dus willen aantonen dat het AI-systeem rekening houdt met de AI HLEG principes, en dat de uitkomsten ervan betrouwbaar zijn. Uit deze brainstorm presenteerden we deze designvisie: Wij willen dat business managers de AI HLEG principes ervaren als vangrails. De stresstest moet business managers aantonen welke gevolgen bepaalde keuzes i.v.m. het navolgen van de AI HLEG principes hebben, en welke keuzes ervoor zullen zorgen dat de wagen in de vangrails terecht komt.

Het ontwerpteam presenteert u het ontwerp ‘VangrAIls’: een interactieve webapplicatie waar business managers kunnen aangeven welke waarde zij hechten aan ieder principe en een self-assessment lijst die peilt of de principes werden nageleefd. Op basis van deze twee zaken, stelt de applicatie een visuele weergave voor van bij welk principe verbetering nodig is en acties moeten genomen worden. De applicatie gaat ook een stapje verder en stelt concrete acties, te contacteren experts, best practices, beschikbare templates en gidsen voor. In het papieren prototype visualiseren we deze stappen.

Enkele inzichten die we kregen door het testen van het prototype:

1. de self-assessment lijst kan niet louter door de business manager worden ingevuld, maar ook door bijvoorbeeld technologie ontwikkelaars en datawetenschappers,

2. er is een priotisering nodig van de te nemen acties,

3. en de mogelijkheid om de data te exporteren zodat dit onderdeel wordt van je Data Protection Impact Assessment (DPIA).

Er zijn ook nog enkele openstaande vragen zoals het ontwerp en de visualisatie van de applicatie (vorm, inhoud), de duur en lengte van het doornemen van de applicatie, de opvolging van de te nemen acties, etc.