Gezinnen herenigen met hun verloren honden, wat is er niet leuk aan? Nou ja, gecoördineerde buurtwacht bijvoorbeeld.
Dat vat de reactie samen op de Super Bowl-advertentie voor Search Party, de AI-aangedreven functie van Amazon’s Ring die buitencamera’s in een buurt mobiliseert om verloren honden te helpen vinden.
Search Party heeft daarbij zorgen over de privacy geuit vorig jaar gelanceerdwaarbij de focus deels ligt op het feit dat de functie er is standaard ingeschakeld in in aanmerking komende camera’s, waarbij gebruikers zich moeten afmelden. Maar zoals met de meeste dingen, bracht de spotlight tijdens de grootste game van het jaar het naar een geheel nieuw niveau.
Zo werkt het: wanneer iemand een verloren hond meldt in de Ring-app, gebruiken Ring-camera’s in de buurt waarvoor deze functie is ingeschakeld, AI om hun opgeslagen beelden te scannen op een mogelijke match.
Als een camera iets detecteert, krijgt de eigenaar van de camera (niet de eigenaar van de verdwaalde hond) een melding. Vervolgens beslissen ze of ze de clip delen met de eigenaar van de hond. Niets wordt automatisch gedeeld. De zoekopdracht is tijdelijk en vervalt na een paar uur, tenzij deze wordt verlengd.
Dat soort subtiliteit vertaalt zich niet bepaald in een Super Bowl-spot van 30 seconden. Maar zelfs met een beter begrip van hoe het werkt, geloven critici het niet. De advertentie wordt bestempeld als ‘griezelig’ en ‘dystopisch’, waarbij critici op het voor de hand liggende wijzen: als de AI van Ring de camera’s van een buurt kan scannen op een bepaalde hond, wat houdt hem dan tegen om hetzelfde te doen voor een bepaalde persoon?
Voor de goede orde zegt Ring dat Search Party niet is ontworpen om menselijke biometrie te verwerken, en dat de beelden van Search Party niet zijn opgenomen in de Community Requests-service van het bedrijf, waarmee wetshandhavers video’s kunnen opvragen die Ring-gebruikers vrijwillig kunnen delen.
IN een interview met GeekWire vorig jaar beschreef Amazon VP en Ring-oprichter Jamie Siminoff (de man in de advertentie) de Search Party-functie als een doorbraak mogelijk gemaakt door de vooruitgang in AI, en zei dat deze zelfs twee jaar geleden niet betaalbaar had kunnen worden gebouwd.
Op de vraag hoe het bedrijf dit soort voordelen afweegt tegen privacykwesties, zei hij dat Ring’s aanpak erin bestaat klanten volledige controle te geven. ‘Je brengt het niet in evenwicht’, zei hij. “Je geeft 100% controle aan je klanten. Het zijn hun gegevens. Zij hebben er controle over.”
Maar voor critici gaat de vraag niet echt over wat Search Party nu doet. Het gaat erom waar de onderliggende technologie in de toekomst voor gebruikt zou kunnen worden.
Die bezorgdheid wordt versterkt door de recente acties van Ring zelf. Het bedrijf is ook uitgerold Bekende gezichtenwaarmee gebruikers foto’s van familie en vrienden kunnen registreren, zodat hun camera’s specifieke mensen kunnen identificeren, maar beperkt tot degenen die bekend zijn bij de camera-eigenaar.
Ringen samenwerking met Flock SafetyHet kentekenherkenningsbedrijf dat door duizenden politiediensten wordt gebruikt, is ook een bliksemafleider, hoewel Ring zegt dat de integratie nog niet live is. De samenwerking maakt deel uit van Ring’s Community Requests-tool, waarmee lokale wetshandhavingsinstanties tijdens actieve onderzoeken opnames kunnen opvragen van Ring-gebruikers in de buurt. Gebruikers kunnen ervoor kiezen deze verzoeken te negeren.
Het bedrijf zegt dat het geen partnerschap heeft met de Amerikaanse immigratie- en douanehandhaving en geen video deelt met het bureau. Maar groepen voor burgerlijke vrijheden, waaronder de ACLU, heeft reden tot zorg gegeven dat zodra de beelden de lokale politie bereiken, er geen garantie is dat het daar zal blijven, vooral gezien berichten dat sommige aan Flock gelieerde afdelingen zoekopdrachten naar ICE hebben uitgevoerd.
Siminoff, die vorig jaar na een onderbreking terugkeerde om Ring te leiden, is open geweest over het herhalen van de oorspronkelijke missie van het bedrijf om buurten veiliger te maken, inclusief het herstellen van partnerschappen met wetshandhavingsinstanties die tijdens zijn afwezigheid waren verminderd.
IN Het GeekWire-interviewhij erkende dat niet iedereen in het bedrijf het eens was met de verschuiving, maar zei dat hij “erg optimistisch is over de impact die we met Ring kunnen hebben”, en op een veel snellere tijdlijn dan hij eerder had gedacht, dankzij AI.
Amazon zegt dat Search Party dat heeft gedaan herenigd sinds de lancering meer dan één verloren hond per dag met hun families. Het bedrijf zegt 1 miljoen dollar toe om dierenasielen uit te rusten met Ring-camera’s. Maar de grotere vraag die de reactie aanwakkert, is of het vinden van verloren puppy’s vandaag de dag de infrastructuur opbouwt voor iets dat minder schattig en knuffelig is in de toekomst.
