Miljoenen mensen over de hele wereld maken en delen diepnaaktfoto’s via de beveiligde berichtenapp Telegrameen analyse van Guardian heeft aangetoond dat de verspreiding van geavanceerde AI-instrumenten het online misbruik van vrouwen industrialiseert.
The Guardian heeft minstens 150 Telegram-kanalen geïdentificeerd – grote gecodeerde groepschats die populair zijn vanwege hun veilige communicatie – die gebruikers lijken te hebben in veel landen, van Groot-Brittannië tot Brazilië, China tot Nigeria, Rusland tot India. Sommigen van hen bieden tegen betaling ‘naakt’-foto’s of video’s aan: gebruikers kunnen een foto van elke vrouw uploaden en de AI zal een video maken van de vrouw die seksuele handelingen verricht. Veel meer bieden een feed met beelden – van beroemdheden, social media-beïnvloeders en gewone vrouwen – die naakt zijn weergegeven of door AI zijn gemaakt om seksuele handelingen te verrichten. Volgers gebruiken de kanalen ook om tips te delen over beschikbare deepfake-tools.
Terwijl er al lang Telegram-kanalen zijn toegewijd Naast de verspreiding van naaktfoto’s van vrouwen zonder toestemming betekent de wijdverbreide beschikbaarheid van AI-tools dat iedereen onmiddellijk het onderwerp kan worden van expliciete seksuele inhoud die door miljoenen kan worden bekeken.
Op een Russischtalig Telegram-kanaal dat reclame maakt voor diep neppe ‘blogger-lekken’ en ‘celebrity-lekken’, beloofde een bericht over een AI-nudificatie-Telegram-bot ‘een neuraal netwerk dat het woord ‘nee’ niet kent’.
“Kies posities, vormen en plaatsen. Doe alles met haar wat je in het echte leven niet kunt doen”, stond er.
Op een Chineestalig Telegram-kanaal met bijna 25.000 abonnees deelden mannen video’s van hun ‘eerste liefde’ of de ‘beste vriend van hun vriendin’, gemaakt om te strippen met behulp van kunstmatige intelligentie.
Een netwerk van Telegram-kanalen gericht op Nigeriaanse gebruikers verspreidt deepfakes, samen met honderden gestolen naakt- en intieme foto’s.
Telegram is een beveiligde berichtenapp waarmee gebruikers groepen of kanalen kunnen creëren om inhoud naar een onbeperkt aantal contacten uit te zenden. Onder het perron servicevoorwaardengebruikers kunnen geen ‘illegale pornografische inhoud’ posten op ‘openbaar zichtbare’ kanalen en bots, of ‘deelnemen aan activiteiten die in de meeste landen als illegaal worden beschouwd’.
Een overzicht van de onafhankelijke analyse- en databaseservice Telemetrie.ioUit de gegevens van Telegram, die een index van dergelijke kanalen bevatten, blijkt dat Telegram een aantal nudificatiekanalen heeft gesloten.
Telegram vertelde de Guardian dat deepfake-pornografie en de tools om deze te creëren expliciet verboden zijn volgens de servicevoorwaarden, en voegde eraan toe dat “dergelijke inhoud routinematig wordt verwijderd wanneer deze wordt gedetecteerd. Moderators die over aangepaste AI-tools beschikken, houden proactief toezicht op openbare delen van het platform en accepteren rapporten om inhoud te verwijderen die onze servicevoorwaarden schendt, inclusief het aanmoedigen van de creatie van deepfake-pornografie.”
In zijn verklaring zegt Telegram dat het tegen 2025 meer dan 952.000 inbreukmakende materialen heeft verwijderd.
De afgelopen weken is het gebruik van AI-tools om geseksualiseerde deepfakes te creëren en vrouwen te vernederen in het publieke debat geëxplodeerd nadat Grok, de generatieve AI-chatbot op het sociale mediaplatform X van Elon Musk, werd gevraagd om creëren duizenden foto’s van vrouwen in bikini of minimale kleding, zonder toestemming.
Het resultaat schandaal leidde ertoe dat Musks kunstmatige-intelligentiebedrijf xAI aankondigde dat het Grok niet langer zou toestaan foto’s van echte mensen in bikini’s te bewerken. De Britse mediaregulator Ofcom kondigde ook een onderzoek aan naar X.
Maar er is een reservoir aan forums, websites en apps, waaronder Telegram, die miljoenen mensen eenvoudig toegang geven tot expliciete inhoud zonder toestemming – en die inhoud op verzoek kunnen genereren en delen, zonder medeweten van de vrouwen die erdoor worden geschonden. Een rapport gepubliceerd op dinsdag van het Tech Transparency Project ontdekte dat tientallen nudificatie-apps beschikbaar zijn in de Google Play Store en de Apple App Store, en dat deze in totaal 705 miljoen downloads hebben gehad.
Een woordvoerder van Apple zei dat het bedrijf 28 van de 47 nudificatie-apps had verwijderd die door het Tech Transparency Project in zijn onderzoek waren geïdentificeerd, terwijl een woordvoerder van Google zei dat “de meeste apps” op zijn dienst waren opgeschort en dat er een onderzoek gaande was.
Telegramkanalen zijn een steunpilaar van een breder internet-ecosysteem dat zich toelegt op het creëren en verspreiden van intieme beelden zonder toestemming, zegt Anne Craanen, onderzoeker op het gebied van gendergerelateerd geweld bij het in Londen gevestigde Institute for Strategic Dialogue.
Ze stellen gebruikers in staat de controle op grote platforms zoals Google te omzeilen en tips te delen over hoe ze beveiligingsmaatregelen kunnen omzeilen die voorkomen dat AI-modellen deze inhoud genereren. Maar “de verspreiding en viering van dit materiaal is een ander onderdeel”, zei ze. “Het verspreiden ervan onder andere mannen en erover opscheppen, en het feestelijke aspect, is ook heel belangrijk. Het laat echt de vrouwonvriendelijke ondertoon ervan zien. Ze proberen vrouwen te straffen of vrouwen het zwijgen op te leggen.”
Vorig jaar sloot Meta er één Italiaanse Facebookgroep waar mannen intieme foto’s deelden van hun partners en nietsvermoedende vrouwen. Voordat de groep werd verwijderd, Mijn vrouw (wat “mijn vrouw” betekent), had ongeveer 32.000 leden.
Echter, de onderzoekende nieuwsbrief Indicator ontdekte dat Meta er niet in was geslaagd de stroom van AI-nudifier-advertenties op zijn platforms te stoppen en sinds 4 december vorig jaar minstens 4.431 nudifier-advertenties op zijn platforms te hebben geïdentificeerd, hoewel sommige oplichting leken te zijn. Een woordvoerder van Meta zei dat het advertenties verwijdert die in strijd zijn met het beleid.
AI-instrumenten hebben de wereldwijde toename van onlinegeweld tegen vrouwen geïntensiveerd, waardoor vrijwel iedereen beledigende beelden kan maken en delen. In veel rechtsgebieden, waaronder een groot deel van het Mondiale Zuiden, bestaan er weinig juridische mogelijkheden om daders ter verantwoording te roepen. Minder dan 40% van de landen heeft wetten die vrouwen en meisjes tegen 2024 beschermen tegen cyberintimidatie of cyberstalking De Wereldbank gegevens. De Schattingen van de VN dat 1,8 miljard vrouwen en meisjes nog steeds geen wettelijke bescherming hebben tegen online intimidatie en andere vormen van door technologie gefaciliteerd misbruik
Gebrek aan regelgeving is slechts een van de redenen waarom vrouwen en meisjes in lage-inkomenslanden bijzonder kwetsbaar zijn, zeggen actievoerders. Kwesties zoals slechte digitale vaardigheden en armoede kunnen de risico’s vergroten. Ugochi Ihe, een medewerker bij TechHer, een in Nigeria gevestigde organisatie die vrouwen en meisjes aanmoedigt om te leren en te werken in de technologie, zegt dat ze gevallen is tegengekomen waarin vrouwen die geld lenen via leenapps het slachtoffer zijn geworden van afpersing door ‘gewetenloze mannen die kunstmatige intelligentie gebruiken. Elke dag wordt het misbruik creatiever.’
De werkelijke gevolgen van digitaal misbruik zijn verwoestend, waaronder geestelijke gezondheidsproblemen, isolatie en verlies van werk.
“Deze dingen zullen ongetwijfeld het leven van een jong meisje verwoesten”, zegt Mercy Mutemi, een in Kenia gevestigde advocaat die vier slachtoffers van deep-fake-misbruik bijstaat. Sommige van haar cliënten zijn banen geweigerd en kregen te maken met disciplinaire hoorzittingen op school, zei ze, allemaal vanwege deepfake-beelden die zonder hun toestemming werden verspreid.
Hij zei dat haar organisatie klachten had behandeld van vrouwen die door hun families waren uitgesloten nadat ze waren bedreigd met naaktfoto’s en intieme foto’s van Telegram-kanalen.
“Als het eenmaal uit is, is er geen manier meer om je waardigheid en je identiteit terug te winnen. Zelfs als de dader komt zeggen: ‘Oh, dat was een diepe nep’, kun je niet zeggen hoeveel mensen het hebben gezien. De reputatieschade is onomkeerbaar.”
