EILANDOp de veranda van het huis van haar familie, met haar laptop op een in de muur ingebouwde modderplaat, werkt Monsumi Murmu vanaf een van de weinige plaatsen waar het mobiele telefoonsignaal aanhoudt. De bekende geluiden van het huiselijk leven komen van binnenuit: rammelend keukengerei, voetstappen, stemmen.
Op haar scherm ontvouwt zich een heel ander tafereel: een vrouw wordt vastgepind door een groep mannen, de camera trilt, er wordt geschreeuwd en er klinkt ademhaling. De video is zo verontrustend dat Murmu de video versnelt, maar haar werk vereist dat ze de video doorziet.
Murmu, 26, is contentmoderator voor een mondiaal technologiebedrijf dat inlogt vanuit zijn dorp in de Indiase staat Jharkhand. Het is haar taak om afbeeldingen, video’s en tekst te classificeren die door geautomatiseerde systemen zijn gemarkeerd als mogelijke schendingen van de regels van het platform.
Op een gemiddelde dag bekijkt ze wel 800 video’s en afbeeldingen en velt ze oordelen die algoritmen trainen om geweld, misbruik en schade te herkennen.
Dit werk vormt de kern van de nieuwste doorbraak van machine learning, die berust op het feit dat AI slechts zo goed is als de gegevens waarop het is getraind. In India wordt deze arbeid steeds meer uitgevoerd door vrouwen, die deel uitmaken van een beroepsbevolking die vaak wordt omschreven als: “spookwerkers”.
“De eerste paar maanden kon ik niet slapen”, zegt ze. “Ik sloot mijn ogen en zag nog steeds dat het scherm werd gelezen.” Beelden volgden haar in haar dromen: van dodelijke ongelukken, van het verliezen van familieleden, van seksueel geweld dat ze niet kon stoppen of ontsnappen. Die nachten, zegt ze, werd haar moeder wakker en kwam bij haar zitten.
Nu, zegt ze, shockeren de beelden haar niet meer zoals vroeger. “Aan het eind van de dag voel je je niet gestoord, je voelt je leeg.” Er zijn nog steeds nachten, zegt ze, waarin de dromen terugkomen. ‘Dan weet je dat de baan iets met je heeft gedaan.’
Onderzoekers zeggen dat deze emotionele verdoving – gevolgd door vertraagde psychologische gevolgen – een bepalend kenmerk is van contentmoderatie. “Er kunnen moderators zijn die aan psychologische schade ontsnappen, maar ik heb daar nog geen bewijs van gezien”, zegt Milagros Miceli, een socioloog die leiding geeft aan Het onderzoek van de datawerkerseen project dat de rol van werknemers in kunstmatige intelligentie onderzoekt.
“In termen van risico’s”, zegt ze, ” valt inhoudsmoderatie in de categorie van gevaarlijk werk, vergelijkbaar met welke dodelijke industrie dan ook.”
Studies tonen aan moderatie van inhoud veroorzaakt blijvende cognitieve en emotionele spanning, wat vaak resulteert in gedragsveranderingen zoals verhoogde alertheid. Werknemers melden opdringerige gedachten, angst en slaapstoornissen.
EEN onderzoek onder contentmoderators die afgelopen december werd gepubliceerd en waaraan ook werknemers in India deelnamen, identificeerde traumatische stress als het meest uitgesproken psychologische risico. Uit het onderzoek bleek dat zelfs waar interventies op de werkplek en ondersteuningsmechanismen aanwezig waren, er nog steeds aanzienlijke niveaus van secundair trauma waren.
Al in 2021 werkten naar schatting 70.000 mensen in India met data-annotatie. marktkapitalisatie van ongeveer $ 250 miljoen. (£ 180 miljoen) in 2021Dat meldt de IT-industrieorganisatie Nasscom van het land. Ongeveer 60% van de omzet kwam uit de VS, terwijl slechts 10% uit India kwam.
Ontstoken 80% van de gegevensannotatie en inhoudmoderatiewerkers komen uit landelijke, semi-landelijke of gemarginaliseerde achtergronden. Bedrijven opereren doelbewust vanuit kleinere dorpen en steden, waar de huren en arbeidskosten lager zijn en een groeiende groep afgestudeerden van de eerste generatie een baan zoekt.
Verbeteringen op internet verbinding heeft het mogelijk gemaakt om deze locaties rechtstreeks te verbinden met de mondiale AI-toeleveringsketens zonder werknemers naar steden te verplaatsen.
Vrouwen vormen de helft of meer van deze beroepsbevolking. Voor bedrijven worden vrouwen gezien als betrouwbaar, gedetailleerd en eerder geneigd om thuiswerk of werk op contractbasis te accepteren dat als ‘veilig’ of ‘respectabel’ kan worden gezien. Deze banen bieden zeldzame toegang tot inkomen zonder migratie.
Een aanzienlijk aantal werknemers in deze hubs komt uit Dalit- en Adivasi-gemeenschappen (stammen). Voor velen van hen is digitaal werk van welke aard dan ook vertegenwoordigt een opwaartse verschuiving; schonere, regelmatigere en beter betaalde banen dan werk in de landbouw of mijnbouw.
Maar werken vanuit of dicht bij huis kan ook de marginale positie van vrouwen versterken, aldus Priyam Vadaliya, een onderzoeker die werkt op het gebied van kunstmatige intelligentie en datawerk, voorheen verbonden aan het in Bengaluru gevestigde Aapti Institute.apti Institute in Bengaluru.
“De respectabiliteit van het werk en het feit dat het als zeldzame bron van betaald werk aan de deur komt, schept vaak een verwachting van dankbaarheid”, zegt ze. “Deze verwachting kan werknemers ervan weerhouden om de psychologische schade die het veroorzaakt in twijfel te trekken.”
Raina Singh was 24 toen ze begon te werken met data-annotatie. Een universitair diploma was haar plan geweest, maar de zekerheid van een maandelijks inkomen vond ze noodzakelijk voordat ze het zich kon veroorloven dit na te streven.
Ze keerde terug naar haar geboorteplaats Bareilly in Uttar Pradesh en logde elke ochtend in vanuit haar slaapkamer, waar ze werkte via een extern bedrijf dat een contract had gesloten voor wereldwijde technologieplatforms. Het salaris – ongeveer £330 per maand – leek redelijk. De functieomschrijving was vaag, maar het werk voelde beheersbaar.
Haar eerste taken bestonden uit op tekst gebaseerde taken: het screenen van korte berichten, het markeren van spam, het identificeren van frauduleus taalgebruik. “Het voelde niet alarmerend”, zegt ze. “Gewoon saai. Maar er was ook iets spannends. Ik had het gevoel dat ik achter de AI werkte. Voor mijn vrienden was de AI gewoon ChatGPT. Ik zag wat ervoor zorgde dat het werkte.”
Maar ongeveer zes maanden later veranderden de taken. Zonder waarschuwing werd Singh verplaatst naar een nieuw project dat verband hield met een entertainmentplatform voor volwassenen. Haar taak was het markeren en verwijderen van inhoud waarin sprake is van seksueel misbruik van kinderen.
“Ik had nooit gedacht dat dit bij het werk zou horen”, zegt ze. Het materiaal was grafisch en onverbiddelijk. Toen ze haar zorgen uitte bij haar manager, herinnert ze zich dat haar werd verteld: ‘Dit is Gods werk: jij zorgt ervoor dat kinderen veilig zijn.’
Kort daarna veranderde de taak opnieuw. Raina en zes anderen in haar team kregen de opdracht pornografische inhoud te categoriseren. “Ik kan niet eens tellen aan hoeveel porno ik werd blootgesteld”, zegt ze. “Het was constant, uur na uur.”
Het werk beïnvloedde haar persoonlijke leven. “Het idee van seks begon me te walgen”, zegt ze. Ze trok zich terug uit de intimiteit en voelde zich steeds meer gescheiden van haar partner.
Toen Singh klaagde, was het antwoord direct: ‘In uw contract staat data-annotatie – dit is data-annotatie.’ Ze verliet de baan, maar een jaar later zegt ze dat de gedachte aan seks gevoelens van misselijkheid of dissociatie kan veroorzaken. “Soms als ik bij mijn partner ben, voel ik me een vreemde in mijn eigen lichaam. Ik wil nabijheid, maar mijn geest blijft zich terugtrekken.”
Vadaliya zegt dat vacatures zelden uitleggen wat de baan eigenlijk inhoudt. “Mensen worden aangenomen onder dubbelzinnige labels, maar pas nadat de contracten zijn getekend en de training is begonnen, beseffen ze wat het eigenlijke werk is.”
Externe en parttime functies worden online agressief gepromoot als ‘makkelijk geld verdienen’ of ‘geen investering’ en verspreid YouTube-video’s, LinkedIn-posts, Telegram-kanalen en door influencers geleide tutorials die werk als flexibel, laaggeschoold en veilig omschrijven.
The Guardian sprak met acht data-annotatie- en contentmoderatiebedrijven in India. Slechts twee zeiden dat ze psychologische steun boden aan werknemers; de rest beweerde dat het werk niet veeleisend genoeg was om geestelijke gezondheidszorg nodig te hebben.
Vadaliya zegt dat waar er steun is, het individu die moet opzoeken en de zorglast op de werknemers moet afwentelen. “Het negeert de realiteit dat veel datawerkers, vooral degenen met een afgelegen of gemarginaliseerde achtergrond, misschien niet eens de taal hebben om te verwoorden wat ze ervaren”, zegt ze.
De afwezigheid van wettelijke erkenning van psychische schade De arbeidswetten van India, zo voegt ze eraan toe, zorgen er ook voor dat werknemers geen zinvolle bescherming krijgen.
De psychologische last wordt vergroot door isolatie. Contentmoderators en datawerkers zijn aan verplichtingen gebonden geheimhoudingsovereenkomsten (NDA’s) waardoor ze niet over hun werk kunnen praten, zelfs niet met familie en vrienden. Schending van geheimhoudingsverklaringen kan leiden tot beëindiging of juridische stappen.
Murmu vreesde dat als haar familie achter haar werk zou komen, zij, net als veel andere meisjes in haar dorp, gedwongen zou worden het betaalde werk op te geven en te trouwen.
Met nog maar vier maanden te gaan op haar contract, dat ongeveer £260 per maand betaalt, weerhoudt het schrikbeeld van de werkloosheid haar ervan zorgen over haar geestelijke gezondheid te uiten. “Het vinden van een andere baan baart mij meer zorgen dan het werk zelf”, zegt ze.
In de tussentijd heeft ze manieren gevonden om met de ontberingen te leven. “Ik maak lange wandelingen het bos in. Ik zit onder de blote hemel en probeer de stilte om me heen op te merken.”
Op sommige dagen verzamelt ze minerale stenen uit de grond bij haar huis of schildert ze traditionele geometrische patronen op de muren van het huis. “Ik weet niet of het echt iets oplost”, zegt Murmu. “Maar ik voel me een beetje beter.”
