De politie arresteerde een man voor een inbraak in een stad die hij nog nooit had bezocht, nadat gezichtsscansoftware die in heel Groot-Brittannië werd ingezet, hem aanzag voor een andere persoon van Zuid-Aziatische afkomst.
Alvi Choudhury, 26, een software-ingenieur, werkte in het huis dat hij deelt met zijn ouders Zuidampton in januari toen de politie bij hem aanklopte, hem handboeien omdeed en hem bijna tien uur in hechtenis hield voordat hij om twee uur ’s nachts werd vrijgelaten.
De politie van Thames Valley had geautomatiseerde gezichtsherkenningssoftware gebruikt die hem koppelde aan beelden van een inbraakverdachte van £ 3.000, 160 kilometer verderop. Milton KeynesDat blijkt uit documenten die Liberty Investigates met de Guardian heeft gedeeld.
Maar de camerabeelden lieten een merkbaar jongere man zien met andere kenmerken dan vergelijkbaar krullend haar, zei Choudhury, die niet wist waarom hij was gearresteerd.
“Ik was erg boos omdat het kind er ongeveer tien jaar jonger uitzag dan ik”, zei Choudhury, die een baard draagt. “Alles was anders. De huid was lichter. De verdachte zag er 18 jaar oud uit. Zijn neus was groter. Hij had geen gezichtshaar. Zijn ogen waren anders. Zijn lippen waren kleiner dan de mijne.
“Ik ging er gewoon van uit dat de opsporingsambtenaar zag dat ik een bruin persoon was met krullend haar en besloot mij te arresteren.”
Britse politiediensten gebruiken er een algoritme gekocht door het Ministerie van Binnenlandse Zaken van Cognitec, een Duits bedrijf. Het voert maandelijks ongeveer 25.000 zoekopdrachten uit tegen ongeveer 19 miljoen politie-mugshots in de Britse politiedatabase. Face-to-face gevechten moeten worden behandeld als inlichtingen en niet als feiten, vindt de Nationale Hoofdraad van Politie. De politie van Thames Valley zei dat de beslissing om Choudhury te arresteren ook werd genomen na een menselijke visuele beoordeling.
Maar in december werd onthuld dat de technologie in bepaalde omgevingen een veel hoger percentage valse positieven oplevert voor zwarte (5,5%) en Aziatische (4,0%) gezichten dan voor blanke gezichten (0,04%), aldus het ministerie van Binnenlandse Zaken. besteld onderzoek. Politie- en misdaadcommissarissen gewaarschuwd van “met betrekking tot ingebouwde vooringenomenheid”, door te zeggen dat hoewel “er in geen enkel geval bewijs is van negatieve gevolgen, dit meer toeval dan opzet is”.
Sinds december heeft de Thames Valley Police ook live gezichtsherkenningstechnologie ingezet om het publiek te scannen op locaties in Oxford, Slough, Reading, Wycombe en Milton Keynes. Het heeft legde ongeveer 100.000 gezichten vastwat tot zes arrestaties leidde.
Gezien de verschillen tussen de man op CCTV en zijn eigen gezicht, ging Choudhury ervan uit dat hij binnenkort zou worden vrijgelaten. Hij bood bewijs aan van werkvergaderingen in Southampton op de dag van het misdrijf, maar werd in plaats daarvan in hechtenis genomen.
Choudhury eist schadevergoeding tegen de politie van Thames Valley en Hampshire, die zijn arrestatie hebben uitgevoerd. Zijn buren zagen dat hij geboeid werd weggevoerd, zijn vader was erg bang dat hij zou worden tegengehouden en hij kon de volgende dag niet werken, zei hij. Hij roept ook op tot meer transparantie over het aantal onrechtmatige arrestaties waarbij gezichtsherkenningstechnologie betrokken is.
De mugshot van Choudhury werd alleen op het politiesysteem bewaard omdat hij in 2021 ten onrechte was gearresteerd toen hij werd aangevallen tijdens een avondje uit op de Universiteit van Portsmouth. De politie liet hem zonder verdere actie vrij. Nu hij weer een mugshot heeft laten maken, is hij bang dat het geautomatiseerde systeem tot nog meer onrechtmatige arrestaties kan leiden.
“In mijn hoofd: als een bruin persoon in Schotland een bank berooft, komen ze mij dan arresteren?” zei hij.
Soms heeft hij een veiligheidsmachtiging nodig om voor overheidsklanten te kunnen werken, en toen hem werd gevraagd naar arrestaties zei hij: “Hierdoor zie ik er steeds onzekerder uit.”
De politie van Thames Valley gaf tegenover Choudhury toe dat de arrestatie “mogelijk het gevolg was van vooringenomenheid in de gezichtsherkenningstechnologie”. Maar een officier vertelde hem dat “aangezien het gebruik van gezichtsherkenning al op strategisch niveau wordt herzien, ik niet de behoefte voel om deze kwestie aan de orde te stellen als onderdeel van een breder organisatorisch leerproces”.
Een woordvoerder van de politie van Thames Valley ontkende dat de arrestatie onwettig was en zei: “Hoewel we onze excuses aanbieden voor het leed dat de klager in deze zaak is aangedaan, was hun arrestatie gebaseerd op de eigen visuele beoordeling van de opsporingsambtenaren dat de persoon op camerabeelden overeenkwam met de verdachte na een retrospectieve gezichtsherkenningsmatch en niet werd beïnvloed door racistische profilering.”
Maar Choudhury zei dat agenten op het politiebureau van Hampshire lachten toen hij vroeg: “Lijkt dit op mij?” En hij zei dat politieagenten uit Thames Valley die hem kwamen interviewen, zeiden: “Ze wisten dat ik niet de verdachte was nadat ze de beelden van de verdachte hadden bekeken en naar mijn foto hadden gekeken”.
Er zijn herhaaldelijk waarschuwingen geuit over het gebruik van geautomatiseerde gezichtsherkenningstechnologie. In december 2024 zei de Britse commissaris voor biometrie en CCTV, William Webster, gestemd Er bestaat bezorgdheid over het feit dat de politie beelden bleef opslaan en gebruiken van mensen die, na te zijn gearresteerd, vervolgens nooit zijn aangeklaagd of gedagvaard. Vorige maand, politie van Zuid-Wales betaald schadevergoeding voor een zwarte man die ten onrechte werd gearresteerd en 13 uur lang werd vastgehouden na gezichtsherkenningstechnologie.
De advocaat van Choudhury, Iain Gould, een partner bij DPP Law, zei dat de politie “ervoor moet zorgen dat kunstmatige intelligentie de menselijke intelligentie en due diligence niet vervangt, maar in plaats daarvan wordt gebruikt in zorgvuldige samenwerking ermee”.
De Kantoor aan huis genoemde begeleiding en training om fouten te minimaliseren en het vertrouwen van het publiek in gezichtsherkenning achteraf te behouden, werden beoordeeld door de Noorse politie-inspectie. Er staat dat er een nieuw nationaal gezichtsherkenningssysteem in ontwikkeling is met een verbeterd, onafhankelijk getest algoritme.
