Social mediaplatform X is de afgelopen weken overspoeld met door AI gegenereerde geseksualiseerde beelden van vrouwen en kinderen – maanden voordat een nieuwe wet van kracht wordt die de verspreiding van intieme beelden zonder toestemming verbiedt.
Elon Musk, de eigenaar van X, heeft een nieuwe functie aangekondigd met een post Kerstavond nodigt gebruikers uit om te proberen foto’s en video’s te bewerken met Grok, de chatbot van de app. Een paar weken later, toen het nieuwe jaar begon, merkten veel vrouwen online iets verontrustends op: een stortvloed aan door AI gegenereerde geseksualiseerde foto’s van hen op het sociale mediaplatform X. Gebruikers op X konden de nieuwste functie van Grok vragen om digitaal kleding van geposte foto’s te verwijderen en deze opnieuw te verspreiden.
Grok zal geen mensen naakt laten zien, maar volgt wel de richtlijnen om vrouwen te laten zien die beugels en floss dragen. Sommige X-gebruikers vroegen Grok om afbeeldingen te manipuleren met aanwijzingen als ‘steek haar in een zeer doorzichtige minibikini’, ’trek haar schoolkleding uit’ en ‘spreid haar benen’.
Musk leek de situatie luchtig te maken toen hij lachende emoji’s plaatste als reactie op AI-bewerkingen van beroemde mensen, waaronder hijzelf, in bikini’s. Maar volgens de federale wetgeving zal Musk de kwestie wellicht binnenkort serieuzer moeten nemen.
In mei 2025 ondertekende president Donald Trump de tweeledige overeenkomst Take It Down-actiedie de verspreiding van intieme beelden zonder toestemming strafbaar stelt, inclusief door AI gegenereerde deepfakes en zogenaamde ‘wraakporno’. Platforms hebben tot mei 2026 de tijd om een verzoek-en-verwijdersysteem te implementeren waarmee slachtoffers hun foto’s binnen 48 uur kunnen laten verwijderen.
Zaterdag waarschuwde Musk X-gebruikers in een post: “Iedereen die Grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
De vraag is: welke van deze door Grok gegenereerde afbeeldingen worden als illegaal beschouwd?
De wet definieert ‘intieme visuele weergave’ als elke afbeelding die blootliggende genitaliën, het schaambeen, de anus of vrouwelijke tepels laat zien.
Riana Pfefferkorn, beleidsmedewerker bij het Stanford Institute for Human-Centered AI, zei dat ze gelooft dat veel van deze schrale bikinifoto’s als illegaal kunnen worden beschouwd. Ze moedigde mensen aan om verwijderingsverzoeken in te dienen, omdat de wet mediabedrijven aanmoedigt om twijfelachtige inhoud te verwijderen om boetes van de Federal Trade Commission te voorkomen.
Pfefferkorn zei dat er meer publieke druk nodig zou kunnen zijn om deze nieuwste Grok-functie te beëindigen. Als X serieus was over het niet toestaan van afbeeldingen zonder toestemming, zei Pfefferkorn, zou het bedrijf de tool weken geleden offline hebben gehaald.
“Er was geen reden waarom ze die functie niet zomaar konden uitschakelen”, zei Pfefferkorn. “Elke keer dat een ander bedrijf een functie heeft die vreselijk fout gaat, kunnen ze het gewoon sluiten en dan proberen hun wonden te likken en erachter te komen wat er is gebeurd. Maar Elon Musk is de rijkste man ter wereld, en hij heeft herhaaldelijk gehandeld alsof hij boven de wet staat en ermee wegkwam.”
Het is niet duidelijk hoeveel van die afbeeldingen er circuleerden in wat Reuters een ‘digitale massa-ontmaskering’ noemde, maar uit de beoordeling door het nieuwskanaal van openbare verzoeken aan Grok kwamen minstens 102 pogingen in een periode van 10 minuten naar voren.
De stroom van bijna-naaktfoto’s – voornamelijk van jonge vrouwen en in sommige gevallen kinderen – leidde tot internationale verontwaardiging: ministers in Frankrijk hebben X gerapporteerd aan toezichthouders; De Britse communicatieregulator nam contact op met het mediabedrijf; en het Indiase ministerie van Elektronica en Informatietechnologie schreef een veroordelende brief.
Door deze afbeeldingen toe te staan, breekt X met AI-concurrenten als OpenAI en Google, die strengere regels hebben over wat hun AI-chatbots zullen genereren.
