‘Dringende duidelijkheid’ gezocht over racistische vooroordelen in gezichtsherkenningstechnologie van de Britse politie | Gezichtsherkenning

Dat heeft de Britse gegevensbeschermingswaakhond gevraagd Kantoor aan huis voor “snelle duidelijkheid” over raciale vooroordelen in gezichtsherkenningstechnologie van de politie voordat volgende stappen worden overwogen.

Het ministerie van Binnenlandse Zaken heeft toegegeven dat het “waarschijnlijker is dat de technologie ten onrechte bepaalde demografische groepen in de zoekresultaten opneemt” na testen door het National Physical Laboratory (NPL) van het gebruik ervan in de nationale database van de politie.

Uit het rapport bleek dat de technologie, die bedoeld is om ernstige overtreders te vangen, waarschijnlijker zwarte en Aziatische mensen ten onrechte met elkaar in verband brengt dan hun blanke tegenhangers.

In een verklaring als reactie op het rapport zei Emily Keaney, adjunct-commissaris van het Information Commissioner’s Office, dat de ICO het ministerie van Binnenlandse Zaken “om dringende duidelijkheid over deze kwestie” had gevraagd, zodat de waakhond “de situatie kon beoordelen en onze volgende stappen kon overwegen”.

De volgende stappen kunnen bestaan ​​uit handhavingsmaatregelen, waaronder het uitvaardigen van een juridisch bindend bevel om te stoppen met het gebruik van de technologie of boetes, en het samenwerken met het ministerie van Binnenlandse Zaken en de politie om verbeteringen aan te brengen.

Keaney zei: “Vorige week werden we bewust gemaakt van historische vooroordelen in het algoritme dat door troepen in het Verenigd Koninkrijk wordt gebruikt voor retrospectieve gezichtsherkenning in de nationale politiedatabase.

“We erkennen dat er actie wordt ondernomen om deze vooroordelen aan te pakken. Het is echter teleurstellend dat ons hier niet eerder over is geïnformeerd, ondanks regelmatige contacten met het ministerie van Binnenlandse Zaken en de politie als onderdeel van ons bredere werk om de overheid en de publieke sector verantwoordelijk te houden voor de manier waarop gegevens in hun diensten worden gebruikt.

“Hoewel we de waardevolle rol die technologie kan spelen waarderen, is het vertrouwen van het publiek in het gebruik ervan van cruciaal belang en kan elke perceptie van vooroordelen en discriminatie het wantrouwen vergroten. De ICO is hier om de publieke sector te ondersteunen en te helpen dit goed te doen.”

Politie- en misdaadcommissarissen zeiden dat de publicatie van de bevindingen van de NPL “een zorgwekkende ingebouwde vooringenomenheid benadrukt” en drongen aan op voorzichtigheid bij plannen voor een nationale uitbreiding, waaronder mogelijk camera’s die in winkelcentra, stadions en transportknooppunten worden geplaatst, zonder dat er voldoende waarborgen zijn getroffen.

De resultaten werden donderdag vrijgegeven, uren nadat Sarah Jones, de minister van politie, de technologie had omschreven als de “grootste doorbraak sinds DNA-matching”.

Gezichtsherkenningstechnologie scant de gezichten van mensen en vergelijkt de beelden met controlelijsten van bekende of gezochte criminelen. Het kan worden gebruikt bij het onderzoeken van live beelden van mensen die camera’s passeren, het vergelijken van hun gezichten met die op de gezochte lijst, of om agenten in staat te stellen individuen te targeten terwijl ze langs gemonteerde camera’s lopen.

Politieagenten kunnen vervolgens ook beelden van verdachten door politie-, paspoort- of immigratiedatabases halen om ze te identificeren en hun achtergrond te controleren.

Analisten die de retrospectieve gezichtsherkenningstechnologie-tool van de nationale database van de politie in een lagere setting onderzochten, ontdekten dat “het fout-positieve identificatiepercentage (FPIR) voor blanke proefpersonen (0,04%) lager is dan voor Aziatische proefpersonen (4,0%) en zwarte proefpersonen (5,5%)”.

Uit de test bleek dat het aantal valse positieven bij zwarte vrouwen bijzonder hoog was. “De FPIR voor zwarte mannelijke proefpersonen (0,4%) is lager dan die voor zwarte vrouwelijke proefpersonen (9,9%)”, aldus het rapport.

In reactie op het rapport zei een woordvoerder van het ministerie van Binnenlandse Zaken dat het ministerie de bevindingen ‘serieus’ nam en al actie had ondernomen, waaronder het verwerven en testen van een nieuw algoritme ‘dat geen statistisch significante vooroordelen heeft’.

“Gezien het belang van deze kwestie hebben we de Inspectie van de Politie ook gevraagd, samen met de forensische toezichthouder, om het gebruik van gezichtsherkenning door wetshandhavingsinstanties te beoordelen. Zij zullen de effectiviteit beoordelen van de remedies die de Nationale Politiechefraad ondersteunt”, aldus de woordvoerder.