Spain – A State Agency for the Supervision of Artificial Intelligence and Control of Algorithms
Spanje is van plan een agentschap voor toezicht op AI en controle van algoritmen op te richten. De regering heeft hiervoor 5 miljoen euro vrijgemaakt in de begroting . Het agentschap wordt in 2022 opgericht en zal in 2023 volledig operationeel zijn. Het nieuwe orgaan zal controle uitvoeren op AI-systemen en algoritmes die zowel door overheidsdiensten als particuliere ondernemingen gebruikt worden.
Wat: Beleidsoriënterend document
Impactscore: 2
Voor wie: Beleidsmakers, sectororganisaties, bedrijven
Key Takeaways voor Vlaanderen
Een autoriteit voor het toezicht op algoritmen kan een interessant idee zijn voor Vlaanderen. Het is wel belangrijk dat bij de invulling van het takenpakket geen overlap of risico's ontstaan op conflicten met reeds bestaande overheidsorganen. In Spanje moet men bijvoorbeeld rekening houden met het Spaans Agentschap voor Gegevensbescherming, de Nationale Commissie voor Concurrentie of het Spaanse cyberveiligheidsagentschap. Het wordt dus interessant om te zien hoe men dit in Spanje zal invullen.
Samenvatting
Het staatsagentschap voor toezicht op AI en controle van algoritmen zal een openbare rechtspersoonlijkheid hebben en onafhankelijk zijn van andere overheidsdiensten. Zo moet het orgaan op een objectieve, transparante en onpartijdige manier kunnen optreden. Het agentschap zal acties coördineren en bevorderen om overheidsinstellingen en privé-organisaties te controleren op het wetmatig gebruik van AI-systemen en algoritmen. Het moet ervoor zorgen dat deze technologie voldoet aan de bestaande wettelijke voorschriften en de ethische vereisten voor algoritmen. Het moet onder andere garanderen dat algoritmen geen dynamiek van discriminatie op grond van geslacht, ras of seksuele geaardheid reproduceren. Verder moet het agentschap toezien op de naleving van de ‘Rider law’ (wetgeving die platformwerknemers beschermt). Het zal ook de mogelijkheid hebben om sancties te nemen. De concrete invulling van het takenpakket wordt later dit jaar aangekondigd.
Ook in Nederland heeft de nieuwe regering de ambitie om een toezichthouder op te zetten die moet toezien op het rechtmatig inzetten van algoritmes. De toezichthouder zal een onderdeel worden van de Autoriteit Persoonsgegevens. Zowel Nederland als Spanje lopen daarmee voor op de Europese regelgeving. De Europese AI-verordening, die momenteel besproken wordt in het Europees Parlement en de Europese lidstaten, zal het gebruik van AI-systemen en algoritmes reglementeren.