Wat je thuis zegt, wat je zegt Doen bij u thuis. Privér dan dat wordt het niet. Maar volgens twee recente FTC-klachten: Amazone En Ring gebruikten deze zeer privégegevens – stemopnames verzameld door Amazon’s Alexa-stemassistent en video’s verzameld door Ring’s op internet aangesloten huisbeveiligingscamera’s – om hun algoritmen te trainen en tegelijkertijd weinig tijd te besteden aan de privacy van klanten. Deze vragen zijn voor het eerst aangekondigd sinds de FTC nieuw is Biometrische beleidsverklaringbevat belangrijke lessen voor bedrijven die kunstmatige intelligentie, biometrische gegevens en andere gevoelige informatie gebruiken.
AI en privacy moeten hand in hand gaan. In dit tijdperk van kunstmatige intelligentie willen ontwikkelaars steeds meer data – vaak, ongeacht de bron. Maar wees voorzichtig bij het verzamelen of opslaan van consumentengegevens. Op grond van de oneerlijkheidsnorm van sectie 5 kijkt de FTC niet alleen naar de potentiële voordelen van AI, maar ook naar de kosten voor consumenten. Volgens de klachten faalden Amazon en Ring voor deze test. De FTC beweerde dat Ring’s datatoegangspraktijken spionage en intimidatie mogelijk maakten, terwijl Amazon’s permanente opslag van spraakgegevens en slordige verwijderingspraktijken de stemopnames van consumenten blootstelden aan het risico van onnodige toegang van werknemers. De boodschap aan bedrijven: De FTC zal bedrijven verantwoordelijk houden voor de manier waarop zij de consumentengegevens verkrijgen, behouden en gebruiken die hun algoritmen aansturen. Zoals de commissarissen het in hun gezamenlijke mening in de Alexa-zaakmachine learning is geen vrijbrief om de wet te overtreden.
Consumenten – en niet bedrijven – hebben controle over hun gegevens. Sommige bedrijven zijn van mening dat het hen vrij staat de persoonlijke gegevens die zij bezitten te gebruiken voor elk doel dat zij willen. Niet zo snel. De FTC klaagt erover Amazone En Ring Maak duidelijk dat bedrijven die het recht van consumenten op controle over hun gegevens negeren, dit op eigen risico doen. In haar klacht zegt de FTC dat Ring alle werknemers en contractanten toegang gaf tot video’s van klanten om (onder andere) algoritmen te trainen door alleen het vakje ’toestemming’ aan te vinken. Maar dat is niet genoeg om ervoor te zorgen dat gebruikers daadwerkelijk controle hebben over wat er met hun informatie gebeurt. En in de Amazon-klacht zegt de FTC dat Amazon de rechten van ouders heeft ondermijnd Regel van de Children’s Online Privacy Protection Act (COPPA). om de stemopnames van hun kinderen te verwijderen. Ouders hebben op grond van de COPPA-regel het recht om te beslissen welke gegevens over hun kinderen door een bedrijf worden bewaard en welke gegevens worden verwijderd. Het resultaat is duidelijk: elk bedrijf dat de controle van consumenten over hun gegevens ondermijnt, kan te maken krijgen met handhaving door de FTC.
Zorg voor speciale waarborgen voor menselijke beoordeling en toegang van medewerkers tot gevoelige gegevens. AI-ontwikkelaars vertrouwen vaak op menselijke reviewers om de gegevens te taggen en te annoteren die machine learning-algoritmen trainen. Maar weten consumenten wanneer hun gegevens worden gecontroleerd? In haar klacht zegt de FTC dat Ring deze recensie voor zijn klanten verborgen hield en recensenten toestond misbruik te maken van hun toegang tot video’s van consumenten. Dit resulteerde in de klanten van Ring – waarvoor Ring-producten werden gekocht meer beveiliging – werd uiteindelijk het doelwit van spionage en surveillance door Ring-medewerkers. In de Amazon-klacht staat ook dat Amazon geen passende controles heeft gebruikt om te beperken welke werknemers toegang hadden tot de stemopnames van Alexa-gebruikers, dus duizenden van de werknemers had toegang tot gevoelige stemopnames die ze niet nodig hadden. Bedrijven die afhankelijk zijn van menselijke beoordeling zijn zich ervan bewust dat beveiligingsmaatregelen voor gevoelige gegevens, inclusief strikte toegangscontroles, geen bijzaak mogen zijn. Ze zouden de eerste stap moeten zijn.
De FTC beschermt biometrische gegevens. Vorige maand heeft de FTC een beleidsverklaring over de bescherming van biometrische gegevens. Deze verklaring legt uit dat biometrische gegevens – of het nu gaat om vingerafdrukken en irisscans of video’s en stemopnames – de grootste bescherming verdienen vanwege de inherente gevoeligheid ervan en de mogelijkheid van vooringenomenheid, discriminatie en ander schadelijk gebruik. De schikking van de FTC met Amazon en Ring onderstreept dat wanneer de FTC zegt dat de bescherming van biometrische gegevens een prioriteit is, zij ook meent wat zij zegt – en de Commissie zal dat beleid ondersteunen met handhavingsmaatregelen.
De FTC gebruikt alle beschikbare middelen om de privacy van kinderen te beschermen. Na een reeks handhavingsacties op het gebied van de privacy van kinderen en tieners (denk aan Microsoft, Epische spellen, Edmodo, Weight Watchers (Kurbo)En Chegg), moet het duidelijk zijn dat de bescherming van kinderen een topprioriteit is voor de FTC. Dit geldt vooral op het snijvlak tussen AI en de privacy van kinderen en tieners. Daarin Amazon-klachtVolgens de FTC heeft Amazon de stemopnames van kinderen (zowel audiobestanden als transcripties) permanent opgeslagen en het recht op verwijdering van ouders ondermijnd. Volgens de klacht zou Amazon die gegevens vervolgens kunnen gebruiken voor natuurlijke taalverwerking. Daarin Klacht bellenDe FTC beschrijft Rings arrogante benadering van privacy en veiligheid, ondanks het feit dat de camera’s op de markt werden gebracht om kinderkamers in de gaten te houden. Het antwoord van de FTC? Geen dobbelstenen. De FTC zal alle beschikbare instrumenten gebruiken – inclusief de COPPA-regel en het verbod op misleidende en oneerlijke praktijken van de FTC Act – om de privacy van kinderen te beschermen.
Wilt u uw algoritmen en dataproducten behouden? Verkrijg de gegevens legaal. Ook met Ring en Alexa Kromme, Cambridge AnalyticaEn OoitalbumDe FTC heeft talloze bevelen ontvangen waarin bedrijven worden verplicht gegevens te verwijderen En gegevensproducten verwijderen of niet genereren, zoals algoritmen, modellen en andere hulpmiddelen, die zijn afgeleid van slecht verzamelde gegevens. Deze acties maken duidelijk dat er geen vrijkaarten zijn voor datamisbruik. Als u op illegale wijze consumentengegevens verkrijgt of misbruikt, kunt u betalen met uw dataproduct.
