De eerste spreker is Evy Bawin van het BIPT. Zij is juridisch adviseur bij het Belgisch Instituut voor Postdiensten en Telecommunicatie (BIPT). Het BIPT is de toekomstige centrale en coördinerende markttoezichtautoriteit in het kader van de AI Act in België.
Inspanningsverplichtingen AI Act
De AI Act richt zich hoofdzakelijk op risicogebaseerde regels. Ondanks het belang ervan blijft artikel 4 echter vaak onopgemerkt, hoewel de bepaling de basis vormt voor een verantwoord, bewust en veilig gebruik van AI.
Een aanzienlijk deel van de AI-incidenten is toe te schrijven aan menselijke fouten en niet aan inherente technologische gebreken van een AI-systeem. Hierdoor is het van cruciaal belang dat personen die met AI werken, beschikken over een fundamenteel niveau van kritisch bewustzijn.
Artikel 4 AI Act luidt: “Aanbieders en gebruiksverantwoordelijken van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.”
De bovenstaande verplichting met betrekking tot AI-geletterdheid is een open norm. Dit wil zeggen dat organisaties een aanzienlijke mate van flexibiliteit wordt geboden om het artikel te implementeren. Dit betekent echter ook dat het aan hen is om te bepalen welke inspanningen zij op dit gebied zullen leveren. Een belangrijk punt van zorg voor organisaties blijft evenwel de uitdaging om te bepalen wat een ‘voldoende’ niveau van AI-geletterdheid is.
Het Europees AI-bureau geeft enkele minimumvereisten mee:
- er moet een algemeen begrip zijn van AI binnen jouw organisatie;
- er moet rekening gehouden worden met de specifieke rol van jouw organisatie in het AI-gebruik;
- er moet bewustzijn worden gecreëerd rond de specifieke risico’s van het AI-systeem alsook de mitigatiestrategieën.
Om een adequaat niveau van AI-geletterdheid te garanderen, is het daarnaast essentieel om rekening te houden met verschillende factoren, waaronder technische kennis, ervaring, onderwijs, opleiding, context en de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.
Met betrekking tot de handhaving van deze verplichting wordt sterk aanbevolen om de maatregelen die worden getroffen voor juridische doeleinden te documenteren. Dit biedt een gedocumenteerd dossier om de zaak aan de relevante autoriteiten voor te leggen indien dit nodig zou zijn.
De effectieve handhaving van het artikel door een bevoegde autoriteit moet, ondanks het feit dat het artikel in kwestie sinds 2 februari 2025 van kracht is, nog plaatsvinden. De bevoegde autoriteiten zullen per geval moeten beoordelen of er voldoende inspanningen zijn geleverd om aan de verplichting te voldoen.
Tijdens dit proces zal de AI-raad het AI-bureau moeten ondersteunen door richtsnoeren over deze verplichting op te stellen. Het AI-bureau heeft al een aantal van de huidige praktijken rond AI-geletterdheid verzameld met als doel een levend register te creëren.
Evoluties Digitale Omnibus
De Europese Commissie heeft een vereenvoudigingspakket goedgekeurd om het digital rulebook te stroomlijnen. Het voorstel voor de Digitale Omnibus inzake AI maakt hiervan deel uit. Er bestaat een mogelijkheid dat ook artikel 4 wordt gewijzigd. Veel belanghebbenden hebben namelijk opgemerkt dat het huidige artikel een extra nalevingslast voor organisaties met zich meebrengt. Het voorstel heeft tot doel de Commissie en de lidstaten te verplichten AI-geletterdheid te bevorderen in plaats van af te dwingen bij aanbieders en gebruiksverantwoordelijken. Op het moment van schrijven (februari 2025), kan het voorstel echter nog onderworpen zijn aan wijzigingen.
Key takeaways
- Houd er rekening mee dat de verplichting reeds van kracht is. Het potentieel voor schaduwgebruik van AI binnen organisaties is daarnaast reëel alsook de mogelijke gevolgen daaraan gekoppeld (zoals het voordoen van datalekken).
- Ondanks de mogelijke overdracht van deze verplichting naar een verplichting die van toepassing is op de Europese Commissie en de lidstaten, wordt aanbevolen dat organisaties proactief maatregelen nemen om AI-geletterdheid te waarborgen. Dit doel kan op verschillende manieren worden bereikt, onder meer door het verspreiden van informatie onder het personeel over de kansen en gevaren van het betreffende AI-systeem. Daarnaast wordt aanbevolen dat het personeel een basiskennis van AI heeft. Afhankelijk van de kennis van het personeel alsook de jobinhoud kan een inleidende les voor het personeel voldoende zijn, of kan er juist nood zijn aan periodieke opfriscursussen of zeer gerichte opleidingen. Deze opleidingen zijn van toepassing op alle personen die met AI werken.
