Samenvatting

De nieuwe wet (voluit: “Provisions on the Management of Algorithmic Recommendations in Internet Information Services”) is een initiatief van de Cyberspace Administration of China (“CAC”), de Chinese mededingingsautoriteit, het Ministerie van Openbare Veiligheid en het Ministerie van Industrie en Informatietechnologie. Het interessante aan deze wet is dat deze op verschillende punten verder gaat dan wat op dit moment op EU-niveau wordt voorgesteld (bv. in de AIA).

De wet bestaat uit zes hoofdstukken:

• Hoofdstuk 1: Algemene bepalingen
  • In dit hoofdstuk wordt de juridische grondslag, het toepassingsgebied, de bevoegde toezichthouders en de rol van sectororganisaties bepaald.
    De juridische grondslag is vrij ruim en er wordt verwezen naar o.a. de Data Security Law en de Personal Information Protection Law.
    De wet is van toepassing op ‘het gebruik van algoritmische aanbevelings-technologie om internetdiensten aan te bieden’. Daar wordt onder begrepen: “het gebruik van algoritmes om informatie aan gebruikers te verstrekken bv. door middel van generatie en synthese, gepersonaliseerde push-meldingen, sequentieverfijning, zoekfiltering, besluitvormingsondersteuning, enzovoort” (eigen onderlijning). (Merk op dat overheidsactiviteiten niet onder het toepassingsgebied vallen.)
    De algemeen bevoegde toezichthouder op nationaal niveau is een departement van de CAC (nl. de State Internet Information Office, ‘SIIO’), maar die kan op specifieke punten worden bijgestaan door relevante departementen van de Staatsraad. Op een lager niveau zijn de respectievelijke lokale voor internet bevoegde diensten verantwoordelijk voor de afdwinging.
    Sectororganisaties moeten o.a. sectorale standaarden en procedures voor zelfafdwinging opstellen.
• Hoofdstuk 2: Regulering van informatiediensten
  • Hoofdstukken 2 en 3 bevatten de inhoudelijke verplichtingen die vaak in vrij algemene en vage bewoordingen worden bepaald. Zo moeten de diensten gericht zijn op ‘mainstream-waarden’, moeten ze ‘positieve energie’ overbrengen en moeten ze het ‘opbeurend gebruik’ van algoritmes promoten. Dat betekent o.a. dat algoritmische aanbevelingen niet tot illegale activiteiten mogen leiden en geen illegale informatie mogen verspreiden. Algoritmes mogen gebruikers ook niet aanzetten tot verslaving of buitensporige uitgaven. Dienstverleners zijn daarenboven verplicht om maatregelen te nemen die de verspreiding van ‘negatieve informatie’ stoppen.
  • Verder moeten dienstverleners interne beheerprocedures en technische maatregelen nemen die de veiligheid van de gebruikte algoritmes garanderen. Zo moeten zij op regelmatige tijdstippen de gebruikte modellen, data en resultaten nakijken en verifiëren. De vereiste inspanning hangt daarbij af van de omvang van de algoritmische aanbevelingsdiensten.
  • Wat betreft het opsporen van illegale en negatieve informatie, moeten de dienstverleners een verzameling van kenmerken opstellen die zij zullen gebruiken om dergelijke informatie te herkennen en moeten ze procedures opstellen om nieuwe kenmerken toe te voegen aan die verzameling. Per categorie informatie (‘algoritmische gegenereerde’, illegale en negatieve) zijn er verschillende gevolgen van toepassing.
  • Dienstverleners moeten mechanismen ontwikkelen die een manuele tussenkomst en onafhankelijke gebruikerskeuzes mogelijk maken. Ook moeten zij op belangrijke plaatsen zoals op de thuispagina, in lijstjes van veel gebruikte zoektermen of in pop-up vensters etc. informatie tonen die in overeenstemming is met de mainstream-waarden.
  • Daarenboven moeten dienstverleners gedupliceerde inhoud verwijderen en moeten zij de transparantie en verstaanbaarheid van de regels voor zoek-, sorteer- of selectieopdrachten optimaliseren. Zodoende moeten zij een ‘negatieve impact’ op gebruikers vermijden en eventuele wrijving of geschillen voorkomen.
  • Aanbieders van algoritmische aanbevelingsdiensten die ook nieuwsdiensten aanbieden, moeten daartoe een vergunning krijgen. Het wordt hen verboden om fake news te genereren of samen te stellen en om nieuws te verspreiden dat niet afkomstig is van authentieke/goedgekeurde bronnen.
  • De aanbieders van algoritmische aanbevelingsdiensten mogen tevens geen algoritmes gebruiken om nepaccounts of illegale handelsaccounts aan te maken, gebruikersaccounts te manipuleren of valse likes, opmerkingen of forwards te geven. Ze mogen geen algoritmes gebruiken om de presentatie van informatie te verstoren, zoals informatie blokkeren, overdreven aanbevelingen doen, de volgorde van zoekresultaten manipuleren, populaire zoekopdrachten of selecties sturen, de online publieke opinie beïnvloeden of toezicht ontwijken.
  • Tot slot bepaalt dit hoofdstuk nog dat dergelijke aanbieders hun algoritmes niet mogen aanwenden om de dienstverlening van andere aanbieders te belemmeren en zo de mededinging te beperken.
• Hoofdstuk 3: Bescherming van de rechten en belangen van gebruikers
  • Gebruikers moeten expliciet worden geïnformeerd omtrent de onderliggende principes, de beoogde doeleinden, de belangrijkste werkingsmechanismen, enzovoort (eigen onderlijning) van de algoritmische aanbevelingsdiensten.
  • Dienstverleners moeten gebruikers de mogelijkheid bieden om niet te worden geprofileerd op basis van hun individuele kenmerken en om algoritmische aanbevelingen te kunnen afzetten (opt-out). Verder moeten gebruikers ook de mogelijkheid hebben om de gebruikerslabels/tags die voor de tot hun gerichte algoritmische aanbevelingen worden gebruikt, te selecteren en te verwijderen.
  • Indien algoritmische aanbevelingen een ‘belangrijke impact’ hebben op de rechten en belangen van gebruikers, moeten dienstverleners een uitleg verschaffen aan gebruikers (cfr. art. 22 AVG)
  • Vervolgens zijn er specifieke verplichtingen voor dienstverleners die zich richten tot minderjarigen (incl. de verplichting tot het vermijden dat kinderen gevaarlijk gedrag imiteren en negatieve gewoontes krijgen) en ouderen en voor aanbieders van werkplatformen.
  • Algoritmische aanbevelingsdienstverleners die zelf ook producten of andere diensten verkopen, moeten erover waken dat ze het recht van consumenten op faire transacties respecteren en dat ze geen ongerechtvaardigde prijsdiscriminatie stellen (bv. op basis van persoonlijke kenmerken)
  • Dienstverleners moeten gebruiksvriendelijke en effectieve klachtenprocedures ontwikkelen.
• Hoofdstuk 4: Toezicht en beheer
  • Dit hoofdstuk bevat eerder formele verplichtingen alsook procedurele elementen.
  • Zo zal het SIIO een hiërarchisch en categorisch beheerssysteem van algoritmische aanbevelingsdienstverleners opstellen. De dienstverleners zullen dan afhankelijk van o.a. “hun capaciteit om de massa te mobiliseren” worden ingedeeld in bepaalde graden die de mate en vorm van het toezicht zullen bepalen.
  • Dienstverleners die ‘invloed hebben op de publieke opinie of het vermogen tot sociale mobilisatie’ moeten binnen 10 werkdagen na aanvang van de dienstverlening bepaalde informatie meedelen aan de autoriteiten. Er is ook sprake van een soort van register van dienstverleners, maar het is daarbij niet duidelijk of opname daarin verplicht is voor alle dienstverleners of enkel voor de dienstverleners die bovenvermelde kenmerk hebben.
  • Dienstverlener moeten ‘netwerklogboeken’ bijhouden ter ondersteuning van eventuele inspecties. Bij dergelijke inspecties zal de toezichthouder waarschijnlijk tot op zeker hoogte inzage willen hebben in de onderliggende code. Het is echter niet duidelijk hoe ver die mogelijkheid zou kunnen strekken, al wordt wel bepaald dat overheidspersoneel zich aan vertrouwelijkheidsverplichtingen moet houden. Bedrijven geven immers niet graag hun intellectuele eigendom en bedrijfsgeheimen prijs.
  • Gebruikers hebben het recht om klacht in te dienen ten aanzien van dienstverleners die deze verplichtingen niet naleven.
• Hoofdstuk 5: Juridische verantwoordelijkheid
  • Dit hoofdstuk bepaalt de toepasselijke straffen of maatregelen die kunnen genomen worden indien een bedrijf de verplichtingen niet naleeft. Deze omvatten: waarschuwingen, publicatie van kritiek, tijdelijke schorsing van activiteiten of boetes (tot max. ca. €14 000)
• Hoofdstuk 6: Bijkomende bepalingen
  • Hier worden de instellingen aangeduid die bevoegd zijn voor de interpretatie van deze regels (o.a. CAC en de betrokken ministeries) en wordt de inwerktreding aangekondingd (1 maart 2022)

Als gevolg van de vaak algemene en vage bewoordingen is het moeilijk om de concrete impact van de regels in te schatten. Daarenboven is er eerder sprake van opt-out- dan opt-in mechanismen, wat het gebruik ervan door consumenten zal beperken. Zowel experts als investeerders zijn dan ook benieuwd naar de invloed van deze regels op het businessmodel van Chinese tech-bedrijven, alsook hoe de regels zullen worden afgedwongen. Zo kan men zich de vraag stellen of een strikte afdwinging wel te rijmen valt met de ambities van China op AI-vlak.