2024_IP_00160 - Interpellatie van raadslid Niel Staes: Opzet AEGIS en gebruik van slimme camera's

Beste burgemeester,

Een recent collegebesluit m.b.t. de trekkersrol van de Antwerpse Politiezone binnen het Europese project AEGIS deed het nodige stof opwaaien toen het bericht werd in de pers. Zowel bij privacy-experts, maar ook bij de COC. Voorzitter Frank Schuermans verwoordde het vrij scherp met: “Er zal nog veel water naar de zee vloeien voor de camera’s geïnstalleerd zijn.”.

Hoewel het project expliciet niet inzet op biometrische monitoring en gezichtsherkenning gaf de passsage in het collegebesluit niet veel opheldering over wat het dan wel ging.

Deelname aan het project AEGIS zal PZA in staat stellen om de aanpak voor dreigingsdetectie en -respons te verbeteren door onder andere gebruik te maken van geavanceerde technologieën, zoals slimme camera’s met AI-ondersteuning en een digitale microservice voor efficiëntere data-analyse.

De verschillende doelstellingen en werkbanken omvatten een reeks doelstellingen die zeker zouden kunnen bijdragen tot een verhoogde beveiliging en verstandhouding met de joodse gemeenschap. Het is vooral de opzet en doelstelling van werkpakket 3 'Verbetering van de detectiecapaciteit voor dreigingen door het gebruik van slimme technologie', die vragen opwerpt.

Daarom graag volgende duiding bij het initiatief:

1. Momenteel is het project een samenwerking tussen Europese ordediensten, de techindustrie en de joodse gemeenschap. Toch zijn er ook andere bredere maatschappelijk aspecten die spelen bij de ontwikkeling en uitrol van dit project. Waarom is er niet gekozen om ook een academische partner aan boord te nemen in dit project?
2. De projectaanvraag dicht een rol toe aan de verschillende DPO's en verwijst expliciet naar de inwerkingtreding van de AI Act. Ook de bestaande regelgeving rond het gebruik van AI - op alle niveaus - lijken niet compatibel met de doelstellingen van het project. Toch wordt er gekeken naar een uitrol in de verschillende 'living labs' binnnen de twee jaar. Hoe realistisch is dit? 
3. Bovendien is dit overduidelijk een 'High Risk AI System'. De opmaak van een Fundamental Rights Impact Assessment (en sjabloon voor andere diensten) is ook een cruciaal onderdeel van het project. Toch lijkt de uitrol simultaan te verlopen met de uitwerking hiervan. Spant dit project de kar niet voor het paard op deze manier?
4. De implementatie van AI is een droom voor de private sector die in deze een uitzonderlijk kans ziet om nieuwe producten en services uit te rollen in tal van sectoren. Ook de security-industrie lonkt maar al te graag naar een deel van de inkomsten. Dit project opent de deur voor deze sector op termijn naar alle ordediensten. Welke garanties zijn er dat de lessons learned, de IP, de software, ... niet nadien gecommercialiseerd wordt door private spelers? En zijn er plannen vanuit de Antwerpse Politiezone om hier zelf op termijn een 'commerciële poot' rond te ontwikkelen?
5. Tenslotte is de scope en de ambitie van het cameraproject. Experts maken zich vooral zorgen hierover. Wat is exact de opzet van de doelstelling 'the use of smart camera’s and AI for detection of imminent threats'. Gaat dit over het sneller detecteren van criminele activiteiten die plaatsvinden om escalatie te vermijden? Of gaat dit ook over het 'voorspellend' inschatten van mogelijks crimineel gedrag?