In een van de rijkste buurten van Canada is een gevecht uitgebroken over plannen om een door AI aangedreven surveillancesysteem te gebruiken om de eerste ‘virtuele gated community’ van het land te creëren om de toenemende vermogenscriminaliteit te bestrijden.
Misdaadcijfers binnen Toronto als geheel neemt het aantal af, maar de inwoners van Rosedale staan aan de vooravond van een aanhoudende stijging van het aantal woninginbraken, waarbij overvallers zich in de met bomen omzoomde buurt richten in een tempo dat ruim tweemaal zo hoog is als het stadsgemiddelde. Inbraak en diefstal zijn nog steeds de derde hoogste per inwoner van Toronto.
Het groeiende ongemak wordt weerspiegeld in de WhatsApp-groep van de gemeenschap, waar maar liefst 60 van de ongeveer 350 leden al bijdragen aan de financiering van particuliere beveiliging.
“Mijn vrienden hebben hier in de gemeenschap een gruwelijke huisoverval meegemaakt – hun kinderen werden met een mes vastgehouden en ze zullen de rest van hun leven getraumatiseerd blijven”, zegt Craig Campbell, de inwoner van Rosedale die het plan voorstelde. “Andere vrienden slapen ’s nachts niet goed omdat ze bang zijn voor de misdaad die gaat gebeuren. Bijna iedereen kent wel iemand die geraakt is. Er moet iets gebeuren.”
Eind maart woonden bewoners een virtuele bijeenkomst bij onder leiding van Campbell, die een beveiligingsbedrijf runt. Hij schetste een plan waarbij een eerste groep van 100 inwoners een maandelijks abonnement van €200,- zou betalen voor technologie die scant de kentekenplaten van auto’s die door de virtuele “poort” passeren.
Het Amerikaanse bedrijf Flock zegt dat de kunstmatige intelligentie die aan de technologie ten grondslag ligt, kan leren welke auto’s van bewoners zijn en welke verdacht zijn. Een uitrol in de buurt zou de intrede van Flock op de Canadese markt markeren.
Campbell benadrukte dat de camera’s geen gebruik maakten van gezichtsherkenning, maar in plaats daarvan kentekengegevens verzamelden om “witte lijsten” (bekend) en “zwarte lijsten” (verdacht) te creëren van voertuigen die de buurt binnenkomen. Gegevens verzameld door de camera worden 30 dagen bewaard en de politie heeft alleen toegang tot de gegevens met wettelijke toestemming. Het systeem zou samenwerken met de ongewapende bewakers die al betaald zijn om in het gebied te patrouilleren.
Campbell bezit de Canadese licentierechten op Flock en vertelde de Guardian dat hij “absoluut een commercieel belang heeft bij het creëren van een levensvatbaar bedrijf” rond het beveiligingssysteem. Maar hij zei ook dat hij gemotiveerd werd door een gevoel van frustratie bij vrienden en buren dat er niet genoeg werd gedaan.
“Voor de veiligheid van mijn gezin wacht ik niet tot de overheid dit oplost. Ja, het is een complexe kwestie. Maar er zijn dingen die we vandaag kunnen doen om onszelf te helpen in plaats van te wachten”, zei hij.
The Guardian besprak de bijeenkomst in maart in Toronto en ontdekte dat veel van de bewoners die spraken enthousiast waren over het project, evenals leden van de WhatsApp-groep. Maar anderen waren daar minder zeker van en noemden zorgen over AI-vooroordelen, profilering en het bredere spectrum van surveillance.
Kudde opscheppen dat het netwerk van meer dan 90.000 camera’s gemeenschappen heeft geholpen de criminaliteit met “tot 70%” te verminderen, een cijfer dat volgens onderzoekers moeilijk onafhankelijk te verifiëren is.
Het bedrijf heeft geconfronteerd met steeds meer toezicht van activisten in de VS na de lokale politie gedeelde gegevens van de scholen met ICE-agenten en een politieagent het systeem gebruikt om het land af te zoeken naar een vrouw die een zelfopgewekte abortus had ondergaan.
Een onderzoek gevonden meer dan een dozijn fouten bij het lezen van de kentekenplaat van een voertuig of het niet verifiëren ervan door agenten hadden tot gevolg dat mensen die geen misdaden hadden begaan, onder schot werden aangehouden, naar de gevangenis werden gestuurd of door een politiehond werden verscheurd.
Flock is de afgelopen jaren in botsing gekomen met de American Civil Liberties Union vanwege beschuldigingen van massale surveillance. Er is speciaal een website, FlockHopper, gemaakt om de gebruiker te helpen het systeem te vermijden. Een gebruiker plaatste een video op YouTube waarin hij liet zien hoe hij een Flock-camera gehackt in minder dan 30 seconden.
De privacywetten in Canada zijn veel strenger dan ten zuiden van de grens, en een plan zoals voorgesteld in Rosedale zou waarschijnlijk met een juridische uitdaging te maken krijgen als het ten uitvoer werd gelegd. Toezichthouders zullen het netwerk van camera’s waarschijnlijk zien als een systeem voor gegevensverzameling, en niet alleen als huisbeveiliging, wat aanleiding geeft tot de Canadese Personal Information Protection and Electronic Documents Act (Pipeda).
“We hebben er alle vertrouwen in dat we aan alle privacyregels zullen voldoen”, aldus Campbell. “Niets aan de camera’s en de technologie is anders dan welke burger dan ook die op een hoek staat en een foto maakt met zijn iPhone, behalve dat in dit geval alleen het kenteken wordt opgenomen.”
De politie van Toronto erkende dat wanneer bewoners zich onveilig voelen in het licht van criminaliteit, “ze naar manieren kunnen zoeken om hun gevoel van veiligheid te vergroten”, maar gaf geen commentaar op de wettigheid van het voorgestelde Flock-systeem.
Een woordvoerder van het korps zei dat “elke technologie die afbeeldingen, video’s of kentekenplaten vastlegt, belangrijke overwegingen met zich meebrengt rond privacy, gegevensopslag” en hoe die informatie werd gebruikt of gedeeld. De politie zei dat mensen die systemen willen gebruiken “misschien advies willen inwinnen over de toepasselijke privacywetgeving en regelgeving van lokale autoriteiten”.
In de WhatsApp-groep van Rosedale heerste spanning over de vraag hoe het project bekeken moest worden. “Is er een reden waarom niet iedereen dit niveau van veiligheid en beveiliging wil?” schreef een gebruiker die zei dat hij zich vooraf had geregistreerd voor het systeem van Flock.
Een ander antwoordde: “AI is een van de meest onethische instrumenten van onze tijd”, daarbij verwijzend naar de impact ervan op het milieu, de vooroordelen en gevallen van onrechtmatige arrestatie.
François Hébette, die anderhalf jaar geleden met zijn gezin vanuit Californië naar de wijk verhuisde, zei dat hij het sentiment achter de plannen begreep. Toen hij jonger was en in België woonde, maakte hij een inbraak mee en de schokkende angst die daarmee gepaard ging.
“Een particulier initiatief als dit kan behoorlijk effectief zijn en dit probleem oplossen”, zei hij. “Maar als je in een gated community wilt wonen, kun je daarheen verhuizen. Het idee om van een buurt een ‘virtuele’ buurt te maken, voelt gewoon niet goed. We hebben jonge kinderen en ik weet niet zeker of dat het soort wereld is dat ik voor hen wil.”
Een woordvoerder van de privacycommissaris van Ontario zei dat het kantoor geen specifiek commentaar kon geven omdat het de zaak niet had onderzocht. Maar ze zeiden dat bedrijven die surveillancetechnologieën leverden om winst te maken dat wel moesten doen individuen informeren en op een zinvolle manier toestemming verkrijgen en “persoonlijke informatie gebruiken of openbaar maken voor doeleinden die a een redelijk mens passend zou vinden afhankelijk van de omstandigheden”.
Het bedrijf moet er ook voor zorgen dat het publiek op de hoogte wordt gesteld van het feit dat er videobewaking plaatsvindt en het gebruik van de camera’s uitleggen. Het zou ook nodig zijn om ervoor te zorgen dat persoonlijke informatie (ook in opnames) die niet langer nodig was, aanwezig was vernietigd, verwijderd of anoniem gemaakt.
De stad Toronto heeft geen vergunningen nodig voor beveiligingscamera’s, maar beveelt een aantal ‘best practices’ aan, waaronder het minimaliseren van de beelden die buiten een pand worden verzameld. Dat merkt de stad op Informatie- en privacycommissaris van Ontario stelt een bewaartermijn van 72 uur voor – veel korter dan de 30 dagen die op de bewonersbijeenkomst van Rosedale werden voorgesteld.
Er zouden borden in de buurt worden geplaatst die waarschuwen dat er toezicht plaatsvindt en bewoners (of iedereen die er langskomt) toegang geven tot een QR-code die linkt naar het privacybeleid en het opt-outproces. Iedereen kan verzoeken om zijn kenteken uit het systeem te verwijderen. Hoewel bestuurders hun aanwezigheid in het systeem kunnen verminderen, kunnen ze niet volledig voorkomen dat ze worden geregistreerd. Omdat pendelaars, bezorgers en onderhoudspersoneel door de buurt reizen, is het onduidelijk of dit de toezichthouder tevreden zou stellen.
Campbell zei: “We hebben vragen uit de gemeenschap gehad over wat er gebeurt als de slechterik ervoor kiest zijn kenteken niet te laten verbergen. En ja, dat is een optie. Er zijn geldige vragen hierover en over de databases. Maar wat je niet kunt doen is de vooruitgang en innovatie tegenhouden. In plaats daarvan moet je attent zijn en heel openbaar zijn over wat je waarden zijn.”
