(NL) Advies: Open Brief van het Future of Life Institute

[This article is only available in Dutch.]

Het Kenniscentrum Data & Maatschappij kreeg op 31 maart 2023 de vraag van kabinet Brouns om een advies te formuleren t.o.v. de Future of life open brief. Het antwoord werd op 5 mei overgemaakt aan het kabinet. Deze publicatie bevat een disclaimer, een samenvatting, een downloadllink en geeft een korte update met betrekking tot wat er in tussentijd werd gedaan. 

Disclaimer: Dit advies is gedateerd en werd niet aangepast aan de meest recente ontwikkelingen. Dit advies werd in de eerste helft van 2023 geformuleerd terwijl de publicatie zes maanden later volgt. Er zijn op dit moment vele veranderingen aan de AI Act, de technologie en het Flanders AI-programma waardoor dit advies een beperkte relevantie heeft.

Het kabinet stelde de volgende vragen:

1. Een algemene inschatting over de inhoud van de open brief, de vraag om een moratorium van 6 maanden in te stellen voor het ontwikkel van systemen krachtiger dan GPT-4
2. De maatschappelijke impact van Artificial General Intelligence (AGI) en van GPT-4 en verwante modellen, (waaronder het Kenniscentrum generatieve AI verstaat)
3. De gepastheid van het huidige voorstel voor een AI-Verordening om de laatste AI ontwikkelingen een gepast kader te bieden
4. De impact van deze krachtige generatieve AI-systemen op het onderzoeksprogramma
5. De impact van deze krachtige generatieve AI-systemen in het kader van de bedrijfssteun voor AI

Voor de eerste drie vragen formuleerde het Kenniscentrum een advies gebaseerd op haar kennis uit lopende dossiers. De vierde en vijfde vraag werden beantwoord na gesprekken met de betrokken partijen, met name het management van het onderzoeksprogramma en VLAIO voor het luik bedrijfssteun. Om deze vraag ten gronde te beantwoorden is een verdere samenwerking en informatie-uitwisseling met het onderzoeksprogramma, VLAIO en het AI-programma nodig.

In wat volgt, geven we een samenvatting van het advies en volgen we de opbouw van de door het kabinet gestelde vragen. We beginnen met een algemene inschatting van de inhoud van de open brief vanuit het Future of Life-instituut. Vervolgens gaan we dieper in op de maatschappelijke impact van AGI, van GPT-4 en van verwante modellen. We bekijken daarbij ook de gepastheid van de toenmalige versie voor een AI-Verordening om deze laatste AI-ontwikkelingen een gepast kader te bieden. Afsluiten doen we met een korte bespreking van de mogelijke impact van dergelijke krachtige AI-systemen op het Onderzoeksprogramma en de Vlaamse bedrijfssteun voor AI.

Overzicht aandachtspunten en voorstellen

Omtrent de maatschappelijke impact van krachtige AI-systemen en generatieve AI: AGI als een (super)menselijke intelligentie wordt niet rechtstreeks door experimenten met generatieve AI-technologie mogelijk gemaakt. De dreiging dat ieder AI-project zou bijdragen aan de ontwikkeling van AGI is dus ongenuanceerd, maar wel een wijdverspreide gedachte binnen de samenleving waar berichtgeving voorzichtig mee moet omspringen.

Generatieve AI-toepassingen, zoals ChatGPT, kunnen een negatieve impact op de maatschappij hebben als er sprake is van bv. onbillijke vergoedingen en werkomstandigheden, het ongeoorloofde hergebruik van intellectueel eigendom of het genereren van valse, polariserende of ongewenste inhoud.

Omtrent de gepastheid van het (toenmalige) voorstel voor een AI-Verordening:

• Vlaanderen en België moeten ijveren voor (i) een voldoende vertegenwoordiging vanuit KMO’s en burgers of andere stakeholders bij de ontwikkeling van standaarden (o.a. onder de AI-Verordening), en (ii) standaarden die zich beperken tot technische aspecten.
• Zet in op het versterken van bestaande wetgeving en autoriteiten, niet enkel op het creëren van nieuwe regels en bijhorende toezichthouders.
• Creëer een evenwichtig en doeltreffend regime voor GPAI-systemen (General Purpose AI-systemen).
• Expliciteer algemene, technologieneutrale principes die als fundament van de AI-Verordening dienen en neem ze op in deze Verordening om ze toekomstbestendiger te maken.
• Expliciteer de meta-criteria die gebruikt worden bij het al dan niet opnemen van AI-systemen in de hoog risico-lijst in Annex III van de AI-Verordening.
• Voeg een update-mechanisme toe aan art. 5 en 52 van de AI-Verordening en de daarbij te gebruiken criteria.
• Schrap in art. 7 §1, (a) AI-Verordening de vereiste van een band met bestaande onderwerpen in Annex III.
• Stimuleer en/of verplicht maatregelen op het vlak van interne bewustmaking en opleiding bij AI-aanbieders en -gebruikers omtrent de vereisten die voortvloeien uit de AI-Verordening en de ethische en juridische aandachtspunten van AI-toepassingen.
• Verplicht impactbeoordelingen van het beoogde gebruik van hoog risico AI-toepassingen (onder de AI-Verordening) door gebruikers.
• Zorg voor een verbetering van de inhoudelijke en organisatorische afdwingbaarheid van nieuwe en bestaande regels. Vanuit Vlaanderen moeten proactieve stappen worden gezet, samen met andere betrokken actoren, om tot een pragmatische en werkbare oplossing te komen. Dit wil zeggen: verder evalueren van wat er nu al is op het vlak van afdwingbaarheid en, indien verbetering nodig is, actiepunten definiëren.
• Ijver voor een afdwingingsbevoegdheid met betrekking tot de AI-Verordening toe te kennen aan het Europese niveau om zo problemen met een gefragmenteerde nationale afdwinging te vermijden.
• Zet in op laagdrempelige (klacht)procedures voor benadeelden of betrokken partijen om hun rechten af te dwingen of te vrijwaren.

Omtrent krachtige generatieve AI-systemen en AI-onderzoek in het AI-programma:

• Het AI-onderzoeksluik volgt bestaande procedures en wetgeving onder toezicht van onafhankelijke ethische comités, waardoor de aangeklaagde problemen in de open brief op het eerste zicht voorkomen worden. Overweeg een gecoördineerde opvolging met het hele AI-programma om dit verder uit te sluiten.
• Bovendien zet het onderzoeksluik thematisch in op AI om een positief verschil te maken met mensgerichte, betrouwbare, uitlegbare en energie-efficiënte AI.

Omtrent krachtige generatieve AI-systemen en bedrijfssteun in het AI-programma:

• Gegeven de scope van de projecten die bedrijfssteun genieten en de huidige controles die worden uitgevoerd, is ook hier het risico (momenteel) onbestaande op de problemen die in de open brief worden gehekeld. Overweeg een gecoördineerde opvolging met het hele AI-programma om dit verder uit te sluiten.
• VLAIO maakt reeds gebruik van meerdere momenten in de projectgenese en evaluatie om ethische en juridische aspecten mee te nemen. Deze worden in samenwerking met het Kenniscentrum Data & Maatschappij verder ontwikkeld.

Update: Bedrijfssteun in het Flanders AI-programma

Er zal in 2024 een traject voor bedrijfs- en projectadviseurs bij VLAIO worden uitgewerkt met het oog op verdere kennisopbouw inzake de ethische en juridische aspecten die vervolgens kan toegepast worden tijdens projectgenese en projectevaluatie van AI-projecten. VLAIO zal na dit traject, indien nodig, de richtlijnen naar de aanvragers en de evaluatie van de ethische en juridische aspecten rond AI in de toekomst verder aanscherpen.