Policy Prototyping the AI Act: Transparantievereisten (workshop rapport)

Het Kenniscentrum Data & Maatschappij organiseerde op 21 juni 2023 een workshop om de officiële aftrap te geven voor het project 'Policy Prototyping the AI Act: Transparency Requirements'. Een groep van 18 interdisciplinaire professionals werkte aan verschillende prototypes voor gebruiksaanwijzingen (Art 13 AIA) en disclaimers (Art 52 AIA) op basis van vijf verschillende use cases. 

Transparantie is voor de EU een fundamentele waarde voor de ontwikkeling, toepassing en het gebruik van AI-systemen. Het onderwerp kreeg al aandacht in de beleidsdocumenten die aan de AI-verordening voorafgingen, zoals de Ethics Guidelines for Trustworthy AI van de High-Level Expert Group on AI of het Witboek over Kunstmatige Intelligentie van de Europese Commissie. De AI-verordening trekt die lijn door. Daarom heeft het kenniscentrum dit jaar besloten om haar Policy Prototyping-project te richten op de transparantieverplichtingen in het EU AI-verordeningsvoorstel.

Deze verplichtingen zijn voornamelijk vertaald in twee artikels in de verordening, namelijk art. 13 'Transparantie en informatieverstrekking aan gebruikers' en Art. 52 'Transparantieverplichtingen voor bepaalde AI-systemen'. Met dit project wil het Kenniscentrum de transparantieverplichtingen in detail onderzoeken en:

• prototypes ontwikkelen in de vorm van gebruiksaanwijzingen voor AI-systemen met een hoog risico (onder art. 13 AIA) en disclaimers (onder art. 52 AIA);
• feedback verzamelen over de praktische haalbaarheid, uitvoerbaarheid en begrijpelijkheid van de transparantievereisten;
• feedback geven aan beleidsmakers en de geleerde lessen aan belanghebbenden. 

Om feedback te verzamelen over de transparantievereisten organiseerde het kenniscentrum een fysieke workshop over dit juridisch ontwerp in het AI Experience Centre in Brussel. De 18 deelnemers (professionals die dagelijks met AI werken en experts met ervaring in het faciliteren van transparantie en het opstellen van beleid) en 4 facilitatoren werkten een hele dag samen in vijf verschillende groepen om de eerste versies van verschillende prototypes vorm te geven. 

Door middel van een juridisch ontwerpproces werd in eerste instantie gewerkt aan het verduidelijken van de transparantievereisten in de context van een use case van een risicovolle toepassing (onder de AI-verordening). Dit omvatte het identificeren van potentiële belanghebbenden van de use case en het identificeren van pijnpunten en kansen. De volgende fase bestond uit brainstormen en vervolgens het leggen van de eerste fundamenten van prototypes, rekening houdend met een potentiële eindgebruiker of ontvanger.

In totaal namen 21 personen deel aan de workshop: 

• 4 facilitators van het Kenniscentrum,
• 8 vertegenwoordigers van AI-ontwikkelaars (incl. start-ups) en -gebruikers,
• 2 consultants,
• 4 juridische experts,
• 2 vertegenwoordigers van maatschappelijke organisaties,
• 1 onderzoeker.

Use case 1 - Medisch AI-apparaat voor ziektedetectie

De use case richt zich op een AI-tool die netvliesfoto's van ogen analyseert om te helpen bij het identificeren/diagnosticeren van bepaalde, specifieke ziekten, zoals diabetes.

Use Case 2 - Medisch apparaat

Deze use case focust op een algoritme dat hartritmestoornissen kan voorspellen, waardoor risicopatiënten vroegtijdig kunnen worden opgespoord en beter kunnen worden opgevolgd. De voorspelling is gebaseerd op een elektrocardiogram en aanvullende waarden van bloeddruk en cholesterol.

Use Case 3 - Chatbot

De use case draait om een chatbot die werknemers kunnen gebruiken om HR-gerelateerde vragen te stellen. De bot gebruikt een verzameling documenten (bijvoorbeeld HR-documentatie) om deze vragen te beantwoorden. 

Use Case 4 - Deepfake

De use case richt zich op het gebruik van deepfaketechnologie in documentaires. Het gebruik van deepfaketechnologie beschermt de anonimiteit van de betrokken personen, terwijl gezichtsuitdrukkingen en emoties behouden blijven. 

Use Case 5 - HR Talent API

In deze use case wordt een API voor het matchen van talent in vier richtingen gebruikt om werkzoekenden te koppelen aan vacatures die voor hen relevant zijn. Het AI-systeem houdt rekening met verschillende criteria zoals werkervaring, reistijd, verworven vaardigheden enzovoort. De gebruiksaanwijzing van het prototype is gericht op gebruikers van het AI-systeem.

Tijdens de workshop werden ruwe concepten van de prototypes bedacht. Deze concepten werden ontwikkeld door experts uit verschillende groepen in overeenstemming met de AI-verordening. In het najaar organiseerde het kenniscentrum nog een online workshop waar de deelnemers en andere geïnteresseerden feedback konden geven op de ontwikkelde prototypes. Dit heeft geleid tot een rapport (zie download hieronder) waarin de prototypes en beleidsaanbevelingen worden gepresenteerd. 

Over

Afbeelding: Cash Macanaya via Unsplash