Op 10 juni kregen luisteraars van Radio 1 een interview te horen over het gebruik van camera’s deze zomer aan de kust om de drukte te meten. Het bericht was een gesprek met de CEO van het bedrijf Citymesh, dat zal zorgen voor de verzameling en analyse van de cameragegevens. In het radio-interview verduidelijkte de CEO dat hierbij artificiële intelligentie (AI) zal worden ingezet. Het was best een verhelderend gesprek, maar op een aantal vlakken bleven de luisteraars op hun honger zitten: hoe zal AI precies worden ingezet? Wat zijn de gevolgen van deze technologie voor je privacy? Tast zo’n toepassing onze individuele rechten niet aan?

Hoe kan het nog beter? We herbeluisterden het fragment en condenseerden onze ideeën over wat we goed vonden en wat beter kon in deze 6 onderwerpen die interviewers en geïnterviewden zeker moeten aankaarten!

Waarom wordt een AI-systeem gebruikt om drukte te meten? Dit is doorgaans niet louter omwille van kosten- en tijdsefficiëntie. In veel gevallen neemt AI een handeling over die we niet (meer) aan werknemers willen geven omdat die te repetitief is, of een AI-systeem die sneller en beter kan uitvoeren. De klok rond auto’s, fietsers, go-carts en wandelaars tellen is een zeer dure en tijdrovende taak voor personen, die gaandeweg hun concentratie hierbij verliezen. Wie wil zo’n job? Als we praten over AI-systemen is het aan te raden om expliciet te verduidelijken waarom het een goed idee is om de technologie in te zetten om dit probleem op te lossen.

De camerabeelden worden door Citymesh zelf verwerkt op de camera’s en worden niet doorgegeven aan de veiligheidsdiensten. De veiligheidsdiensten krijgen enkel een melding wanneer te veel personen zich op dezelfde plaats bevinden. Maar hoe worden de data verzameld en verwerkt? Wie zal toegang hebben tot de data? Dit werd niet duidelijk in het radio-interview, terwijl transparantie hierover wel vertrouwen kan creëren (als de verwerking tenminste correct gebeurt).

We kregen in het radio-interview gedetailleerd te horen welke stappen het AI-systeem precies zet. Om voorbijgangers te tellen, moet een AI-systeem namelijk heel wat verschillende subtaken uitvoeren. Ten eerste moet het systeem een object kunnen detecteren door een onderscheid te maken tussen de achtergrond en de voorgrond. Verder moet het systeem beslissen of het gedetecteerde object een voorbijganger is die geteld moet worden. Strandballen, frigoboxen, katten, honden, meeuwen en go-karts tellen nu eenmaal niet als een voorbijganger. Ten laatste moet het systeem een virtuele lijn op het beeld trekken en enkel die personen tellen die deze lijn oversteken. Om een inschatting te maken van het aantal voorbijgangers in een bepaalde zone, zal doorgaans meer dan één camera worden ingezet, die met elkaar zijn verbonden. Deze uiteenzetting in het gesprek was helder én nodig: inzicht in hoe een technologie werkt, kan ongerustheden wegnemen en de technologie ‘onttoveren’.

Doet het AI-systeem wel waarvoor het wordt ingezet? In het voorbeeld van het radio-interview: meet de toepassing de drukte wel op een correcte manier? Daar kan je enkel het antwoord op vinden wanneer je de verschillende handelingen en taken van het AI-systeem kent. Als je die kent, kan je per handeling nagaan hoe nauwkeurig die gebeuren en wat de foutenmarge is. Wees transparant over mogelijke fouten.

Een AI-systeem krijgt zijn ‘kennis’ namelijk altijd op basis van bepaalde gegevens. De gegevens die hiervoor worden gebruikt, zijn ‘trainingsdata’. Probeer het publiek inzicht te geven in die training. In dit geval: hoe leerde het systeem ‘personen’ herkennen en wat is de foutenmarge daarbij? Hoe vaak wordt een object, als een persoon geteld? Hoe vaak worden personen, als een object geteld? Hoe groot is de impact van die fouten? Informatie over hoe het AI-systeem werd getraind en geëvalueerd, geeft je meer inzicht in de gehele werking van het AI-systeem.

Citymesh zal de veiligheidsdiensten signaleren als het te druk zou zijn in een bepaalde zone aan de kust. Maar wat zullen de veiligheidsdiensten doen met deze informatie? Welke acties zullen zij ondernemen als het te druk is? Als een burgemeester beslist om niet op te treden, waarom werden dan camera’s geplaatst? Geef het publiek een duidelijk zicht op de acties die kunnen volgen uit het AI-systeem, om onterechte ongerustheid te vermijden