Policy Prototyping the AI Act: Transparantievereisten – verslag van de workshop
08.08.2023
Het Kenniscentrum organiseerde op 21 juni een workshop om de officiële aftrap te geven voor het project 'Policy Prototyping the AI Act: Transparency Requirements'. Een groep van 18 interdisciplinaire professionals werkte aan verschillende prototypes voor gebruiksaanwijzingen (Art 13 AIA) en disclaimers (Art 52 AIA) op basis van vijf verschillende use cases. Het eindresultaat wordt dit najaar gepresenteerd.
Transparantie is voor de EU een fundamentele waarde voor de ontwikkeling, toepassing en het gebruik van AI-systemen. Het onderwerp kreeg al aandacht in de beleidsdocumenten die aan de AI-verordening voorafgingen, zoals de Ethics Guidelines for Trustworthy AI van de High-Level Expert Group on AI of het Witboek over Kunstmatige Intelligentie van de Europese Commissie. De AI-verordening trekt die lijn door. Daarom heeft het Kenniscentrum dit jaar besloten om haar Policy Prototyping-project te richten op de transparantieverplichtingen in het EU AI-verordeningsvoorstel.
Deze verplichtingen zijn voornamelijk vertaald in twee artikels in de verordening, namelijk art. 13 'Transparantie en informatieverstrekking aan gebruikers' en Art. 52 'Transparantieverplichtingen voor bepaalde AI-systemen'. Met dit project wil het Kenniscentrum de transparantieverplichtingen in detail onderzoeken en
- Prototypes te ontwikkelen in de vorm van gebruiksaanwijzingen voor AI-systemen met een hoog risico (onder art. 13 AIA) en disclaimers (onder art. 52 AIA).
- Feedback verzamelen over de praktische haalbaarheid, uitvoerbaarheid en begrijpelijkheid van de transparantievereisten.
- Feedback geven aan beleidsmakers en de geleerde lessen aan belanghebbenden.
Wat zijn de verplichtingen in beide artikelen?
De methode
Om feedback te verzamelen over de transparantievereisten organiseerde het Kenniscentrum een fysieke workshop over juridisch ontwerp in het AI Experience Centre in Brussel. De 18 deelnemers (professionals die dagelijks met AI werken en experts met ervaring in het faciliteren van transparantie en het opstellen van beleid) en 4 facilitatoren werkten een hele dag samen in vijf verschillende groepen om de eerste versies van verschillende prototypes vorm te geven. Door middel van een juridisch ontwerpproces werd in eerste instantie gewerkt aan het verduidelijken van de transparantievereisten in de context van een use case van een risicovolle toepassing (onder de AI-verordening). Dit omvatte het identificeren van potentiële belanghebbenden van de use case en het identificeren van pijnpunten en kansen. De volgende fase bestond uit brainstormen en vervolgens het leggen van de eerste fundamenten van prototypes, rekening houdend met een potentiële eindgebruiker of ontvanger.
Deelnemers
In totaal namen 21 personen deel aan de workshop: 4 facilitators van het Kenniscentrum, 8 vertegenwoordigers van AI-ontwikkelaars (incl. start-ups) en -gebruikers, 2 consultants, 4 juridische experts, 2 vertegenwoordigers van maatschappelijke organisaties en 1 onderzoeker.
Use cases
Use case 1 - Medisch AI-apparaat voor ziektedetectie
De use case richt zich op een AI-tool die netvliesfoto's van ogen analyseert om te helpen bij het identificeren/diagnosticeren van bepaalde, specifieke ziekten, zoals diabetes.
Use Case 2 - Medisch apparaat
Deze use case focust op een algoritme dat hartritmestoornissen kan voorspellen, waardoor risicopatiënten vroegtijdig kunnen worden opgespoord en beter kunnen worden opgevolgd. De voorspelling is gebaseerd op een elektrocardiogram en aanvullende waarden van bloeddruk en cholesterol.
Use Case 3 - Chatbot
De use case draait om een chatbot die werknemers kunnen gebruiken om HR-gerelateerde vragen te stellen. De bot gebruikt een verzameling documenten (bijvoorbeeld HR-documentatie) om deze vragen te beantwoorden.
Use Case 4 - Deepfake
De use case richt zich op het gebruik van deepfaketechnologie in documentaires. Het gebruik van deepfaketechnologie beschermt de anonimiteit van de betrokken personen, terwijl gezichtsuitdrukkingen en emoties behouden blijven.
Use Case 5 - HR Talent API
In deze use case wordt een API voor het matchen van talent in vier richtingen gebruikt om werkzoekenden te koppelen aan vacatures die voor hen relevant zijn. Het AI-systeem houdt rekening met verschillende criteria zoals werkervaring, reistijd, verworven vaardigheden enzovoort. De gebruiksaanwijzing van het prototype is gericht op gebruikers van het AI-systeem.
Voorlopige inzichten van de workshop
- De operationalisering van beide artikelen is sterk afhankelijk van de context waarin het wordt toegepast en van de ontvangers van de informatie. Een grondige verkenning van de doelgroep is noodzakelijk bij het opstellen van begeleidende documentatie.
- De huidige formulering van beide artikelen maakt het moeilijk om de operationalisering ervan te toetsen aan de verplichtingen. Concrete implementatierichtlijnen die (taalkundige) duidelijkheid verschaffen, zouden daarom zeer nuttig zijn. Anders zullen veel van de vereisten voor interpretatie vatbaar blijven en tot discussie leiden (hoeveel informatie is eigenlijk genoeg informatie?).
- Sommige sectoren kunnen misschien terugvallen op bestaande documentatie in het kader van andere wetgeving.
- De workshop illustreerde het belang van multidisciplinariteit. De verschillende deelnemers interageerden met elkaar, elk vanuit hun eigen achtergrond. Dit bleek belangrijk te zijn bij het ontwikkelen van de voorlopige prototypes.
Volgende stappen
Tijdens de workshop werden ruwe concepten van de prototypes bedacht. Deze concepten worden nu verder ontwikkeld door experts uit verschillende groepen in overeenstemming met de AI-verordening. In het najaar organiseert het Kenniscentrum nog een online workshop (datum nog bekend te maken) waar de deelnemers en andere geïnteresseerden feedback kunnen geven op de ontwikkelde prototypes. Dit moet uiteindelijk leiden tot een rapport waarin de prototypes en beleidsaanbevelingen worden gepresenteerd.