Werknemers bij Meta Platforms kunnen al snel het gevoel krijgen dat ze TMI verspillen aan de MCI van hun werkgever.
Het moederbedrijf van Facebook, Instagram en WhatsApp installeert nieuwe software – naar verluidt het Model Capability Initiative (MCI) genoemd – op de computers en werkstations van haar medewerkers, die onder andere muisbewegingen en toetsaanslagen zal volgen en vastleggen in een poging om gebruikers te trainen AI modellen, Dat meldde Reuters voor het eerst op dinsdag.
Het maakt allemaal deel uit van een bredere inspanning om autonome AI-agenten te ontwikkelen die specifieke werktaken kunnen uitvoeren.
Een woordvoerder van Meta bevestigde dat het bedrijf inderdaad doorgaat met de maatregel.
“Als we agenten bouwen om mensen te helpen bij het uitvoeren van alledaagse taken met behulp van computers, hebben onze modellen echte voorbeelden nodig van hoe mensen ze daadwerkelijk gebruiken – zaken als muisbewegingen, klikken op knoppen en navigeren door vervolgkeuzemenu’s”, zegt de woordvoerder. Snel bedrijf. “Om te helpen lanceren we een interne tool die dat soort input over bepaalde applicaties vastlegt om ons te helpen onze modellen te trainen.”
Met betrekking tot privacykwesties voegde Meta toe: “Er zijn veiligheidsmaatregelen getroffen om gevoelige inhoud te beschermen en de gegevens worden niet voor andere doeleinden gebruikt.”
Meta heeft ontslag genomen honderden medewerkers dit jaar en het is zover geruchten wervelen dat er nog meer zullen komen. Het zou duizenden mensen kunnen ontslaan, grotendeels om de hogere AI-kosten te compenseren en ruimte te maken voor AI-agenten om een deel van het werk op zich te nemen dat oorspronkelijk door mensen werd gedaan.
Het zou niet ongekend zijn: een paar maanden geleden noemde Block Inc, het fintech-bedrijf van Jack Dorsey, AI-efficiënties als ontslagen 40% van zijn personeelsbestand.
Hoe laag kan het moreel gaan?
Het is begrijpelijk dat veel Meta-werknemers zich waarschijnlijk ongemakkelijk zullen voelen, zowel bij het vooruitzicht hun baan te verliezen als bij het feit dat het bedrijf elke beweging die ze op hun computers maken, zal volgen.
Helaas zeggen experts dat ze er niet veel aan kunnen doen.
“In de Verenigde Staten is Meta’s aanpak grotendeels toegestaan, maar het bevindt zich in een juridisch gevoelig gebied”, zegt Natalie Bidnick Andreas, assistent-professor onderwijs aan de afdeling Communicatiewetenschappen van de Universiteit van Texas. “De federale wetgeving biedt zeer weinig bescherming voor de privacy van werknemers, dus er bestaat geen landelijke regel die het monitoren van toetsaanslagen of muisbewegingen op bedrijfsapparaten duidelijk verbiedt.”
Dergelijke praktijken passen meestal binnen de wettelijke grenzen, op voorwaarde dat ze beperkt blijven tot de eigen hardware en werkaccounts van een bedrijf, voegt Andreas toe, hoewel sommige staten wellicht strengere regels hanteren.
“Regelgeving op staatsniveau zorgt voor enige complexiteit”, zegt Andreas, “aangezien een paar staten werkgevers verplichten werknemers op de hoogte te stellen van elektronisch toezicht, terwijl recente privacywetten de rechten op persoonlijke gegevens uitbreiden, maar zich nog steeds meer op consumenten dan op werknemers richten.”
De wetten moeten worden verkregen
Hoewel er strengere wetten zijn met betrekking tot het loggen van toetsaanslagen en schermopnamen in plaatsen als de Europese Unie, is de bestaande wetgeving in de Verenigde Staten ‘ontoereikend voor het AI-tijdperk’, zegt Dario Maestro, juridisch directeur van het Surveillance Technology Oversight Project, een groep belangenbehartigers en juridische diensten die strijdt tegen het toenemende gebruik van surveillancetechnologie.
De bestaande “statuten zijn ontworpen om te voorkomen dat leidinggevenden telefoongesprekken afluisteren en privé-e-mails lezen, en niet om te voorkomen dat bedrijven elke klik omzetten in trainingsgegevens”, zegt Maestro. “Werknemers hebben bijna geen federaal recht om te weigeren, en ‘toestemming’ verkregen onder dreiging van ontslag is helemaal geen toestemming.”
“Om deze maas in de wet te dichten, zullen wetgevers van de staat AI-training als een afzonderlijk gebruik moeten behandelen – een gebruik dat een afzonderlijke, herroepbare toestemming vereist en hergebruik van werknemersgegevens verhindert die verder gaan dan wat oorspronkelijk werd bekendgemaakt”, voegt Maestro toe.
‘Medewerkers kunnen niet zinvol weigeren’
Op ethisch vlak zegt Andreas dat “de zorgen veel dieper gaan”, en zij herhaalt Maestro door te zeggen dat werknemers niet echt in staat zijn om in te stemmen met de activiteit.
“Werknemers kunnen zich niet zinvol afmelden wanneer hun werkgever besluit toetsaanslagen te loggen, dus elk idee van toestemming is grotendeels symbolisch”, zegt ze. “Zelfs als Meta het programma omschrijft als een bijdrage aan de ontwikkeling van AI, weten werknemers dat opt-out kan worden geïnterpreteerd als niet-naleving.”
Derek Leben, universitair hoofddocent ethiek aan de Tepper School of Business van de Carnegie Mellon University, zegt dat Meta ook niet de enige is.
“Dit is iets waar veel bedrijven mee experimenteren, en door te experimenteren bedoel ik dat ze ermee verder gaan en kijken wat voor tegenslag ze krijgen van werknemers, vakbonden, de media en het publiek”, zegt Leben.
Hij voegt eraan toe dat er veel discussie en debat is en is geweest over waar de ethische grens ligt in relatie tot werkgevers die de privacy van werknemers respecteren wanneer ze op het werk zijn – als die grens bestaat.
Waar het in werkelijkheid op neerkomt, is of werkgevers “hun werknemers met waardigheid als menselijke wezens behandelen”, zegt Leben. Zonder dit zouden werknemers het gevoel kunnen hebben dat ze “als kinderen worden behandeld” en dat het volgen van hun computers “niet respectvol is”.
De praktijken van Meta zullen waarschijnlijk door andere bedrijven worden overgenomen, nu werkplekken in het tijdperk van AI worstelen met nieuwe privacyverwachtingen.
“Dit soort toezicht normaliseert ook een niveau van toezicht dat van oudsher gericht was op gig- en magazijnmedewerkers, door het uit te breiden naar de rollen van kenniswerkers en de verwachtingen voor professioneel werk te hervormen”, zegt Andreas. “Het vervaagt verder de grens tussen het doen van je werk en het opleiden van je vervanger.”
