Een man kreeg het bevel een supermarkt te verlaten Londen nadat het personeel hem ten onrechte had geïdentificeerd met behulp van controversiële nieuwe gezichtsherkenningstechnologie.
Warren Rajah kreeg te horen dat hij zijn boodschappen moest opgeven en de plaatselijke winkel moest verlaten die hij al een aantal jaren gebruikte na een “Orwelliaanse” fout bij een Sainsbury’s in Elephant and Castle, Londen.
Hij zei dat het supermarktpersoneel niet kon uitleggen waarom hem werd gevraagd te vertrekken en hem alleen naar een QR-code zou verwijzen die naar de website van het bedrijf Facewatch leidde, dat de retailer heeft ingehuurd om gezichtsherkenning in sommige van zijn winkels uit te voeren. Hij zei dat toen hij contact opnam met Facewatch, hem werd gevraagd een foto van zichzelf en een foto van zijn paspoort te sturen voordat het bedrijf bevestigde dat er geen gegevens van hem in de database stonden.
“Een van de redenen waarom ik boos was, was dat ik niet hoefde te bewijzen dat ik onschuldig ben”, zei Rajah. “Ik hoef niet te bewijzen dat ik ten onrechte als crimineel ben aangemerkt.” Hij beschreef het incident als “een beetje zoals Minority Report, Orwelliaans”.
Hij zei dat hij tijdens zijn normale winkelbezoek werd benaderd door drie personeelsleden van de winkel, van wie er één leek te bevestigen dat hij de persoon was die werd afgebeeld op een apparaat dat ze hadden. Het is duidelijk dat het Facewatch-systeem iemand anders heeft opgemerkt die de winkel was binnengekomen en dat het personeel Rajah voor hem aanzag.
Rajah was bezorgd dat er op het systeem van Facewatch een permanent dossier zou zijn aangemaakt dat erop duidde dat hij betrokken was bij een misdaad. Uiteindelijk vertelde de firma hem dat hij niet in de database stond en verwees hem terug naar Sainsbury’s.
“Je voelde je behoorlijk hulpeloos in de situatie omdat je gewoon van het kastje naar de muur werd gegooid – omdat Sainsbury’s aanvankelijk Facewatch schuldig was, maar Facewatch antwoordde dat het eigenlijk Sainsbury’s was”, zei hij. ‘En toen Sainsbury’s mij woensdag belde vanuit het directiekantoor, gaven ze het winkelpersoneel de schuld. Dus schuiven ze de schuld steeds af op wie hiervoor verantwoordelijk is.’
Rajah was boos dat hij vond dat hij zijn onschuld moest bewijzen – en zei dat hij weinig zekerheid had gekregen over hoe de informatie die hij aan Facewatch moest overhandigen, werd opgeslagen en of deze was verwijderd.
En hij zei dat hij, hoewel hij het geluk had door het systeem te kunnen navigeren, “wat gebeurt er met de kwetsbare mensen die bijvoorbeeld leerproblemen hebben of niet weten hoe ze een QR-code moeten scannen? Ze hebben geen processen of procedures ingevoerd waarmee iemand dit kan betwisten. Er mag niet van je worden verwacht dat je je persoonlijke gegevens verzendt – dat is volkomen onaanvaardbaar.”
Sainsbury’s zei: “We hebben contact gehad met de heer Rajah om ons oprecht te verontschuldigen voor zijn ervaring in onze Elephant and Castle-winkel. Dit was geen probleem met de gebruikte gezichtsherkenningstechnologie, maar een geval waarbij in de winkel met de verkeerde persoon werd gecontacteerd.”
Facewatch zei: “Het spijt ons om te horen over de ervaring van de heer Rajah en we begrijpen waarom dit verontrustend zou zijn geweest. Dit incident kwam voort uit een geval van menselijke fout in de winkel waarbij een medewerker de verkeerde klant benaderde.
“Ons gegevensbeschermingsteam volgde het gebruikelijke proces om zijn identiteit te verifiëren en bevestigde dat hij niet in onze database stond en niet was onderworpen aan waarschuwingen gegenereerd door Facewatch.”
