Rapport – Van beleid naar praktijk: Prototypes van de menselijk toezicht-vereiste in de EU AI-verordening
Na een geslaagde eerste policy prototyping-oefening rond de transparantieverplichtingen uit de AI-verordening (zie ons vorige rapport hierover), richt het Kenniscentrum zich nu op de verplichting tot menselijk toezicht uit artikel 14 van de AI-verordening. In dit rapport delen we enkele bevindingen over de eerste implementatie van de verplichting, alsook ten aanzien van de tekst en duidelijkheid van de bepaling.
Voor een voorstelling van het rapport kan je ook ons webinar bekijken.
Artikel 14 van de AI-verordening legt vast dat hoog-risico AI-systemen zo moeten worden ontworpen en ontwikkeld dat doeltreffend menselijk toezicht mogelijk is. Deze verplichting houdt in dat aanbieders zowel via het ontwerp van het AI-systeem als via organisatorische maatregelen – die door de aanbieder worden bepaald en door gebruiksverantwoordelijken worden toegepast – doeltreffend menselijk toezicht moeten mogelijk maken.
Structuur van het rapport
Het rapport geeft eerst een inleiding over het concept van policy prototyping, gevolgd door een gedetailleerde blik op de fasen van het project. De focus van het rapport is de ontwikkeling en evaluatie van prototypes van compliance documents voor het menselijk toezicht, verrijkt met feedback van experts terzake. Het laatste onderdeel van het rapport bevat juridische feedback op artikel 14 AI-verordening en biedt een interdisciplinaire kijk op de implicaties van de AI-verordening.
Aanbevelingen voor menselijk toezicht
Praktische tips
Belangrijkste bevindingen – compliance documents:
Onze bevindingen benadrukken het belang van:
- Governancestructuur en rolverdeling voor menselijk toezicht;
- Output op maat van de eindgebruiker of het individu dat het menselijk toezicht uitoefent;
- Informatie omtrent de risico’s van het AI-systeem en het (vereiste) gebruikersprofiel;
- Lay-out en taal.
Verder werd ook het belang van dit te combineren met de gebruiksinstructies onderstreept.
Bevindingen ten aanzien van artikel 14 van de AI-verordening:
- De ruime mate van flexibiliteit in het artikel maakt het in de praktijk moeilijk om concreet invulling te geven aan de verplichting.
- Er is nood aan voorbeelden en richtlijnen die houvast bieden.
- Aanbieders hebben duidelijke criteria nodig om te kunnen beoordelen of zij aan de verplichting voldoen.
- Bij de gebruiksverantwoordelijken kan bovendien sprake zijn van een gebrek aan expertise en bewustzijn, wat de effectieve uitvoering verder bemoeilijkt.
Conclusie
Dit rapport is een hulpmiddel voor het begrijpen en toepassen van de verplichting tot het organiseren van menselijk toezicht. Door de kloof te overbruggen tussen de verwachtingen op het gebied van regelgeving en praktische implementatie, bieden we op deze manier een waardevolle bron van informatie voor zowel beleidsmakers als AI-professionals.
De oproep voor kandidaten voor de volgende policy prototyping workshop die plaatsvindt in mei 2025 is zojuist gelanceerd. Kijk hier voor meer informatie.
Het rapport is enkel beschikbaar in het Engels.
Contact
wannes.ooms@kuleuven.be
thomas.gils@kuleuven.be