X blijft gebruikers toestaan zeer geseksualiseerde video’s van vrouwen in bikini’s te posten, gegenereerd door de AI-tool Grok, ondanks de bewering van het bedrijf dat het misbruik heeft aangepakt.
The Guardian was in staat om korte video’s te maken van mensen die zich uitkleden tot bikini’s, op basis van foto’s van volledig geklede echte vrouwen. Het was ook mogelijk om deze inhoud voor volwassenen op het openbare platform van X te plaatsen zonder enige indicatie dat deze was gemodereerd, wat betekent dat de clip binnen enkele seconden door iedereen met een account kon worden bekeken.
Het leek een eenvoudige oplossing te bieden aangekondigde beperkingen van het sociale netwerk van Elon Musk deze week. Deze werden verwelkomd door premier Keir Starmer, die de door Grok gemaakte foto’s “walgelijk” en “schandelijk” had beschreven.
Na weken van toenemende publieke bezorgdheid zei X woensdag laat dat het “technologische maatregelen had geïmplementeerd om te voorkomen dat het Grok-account het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikini’s zou toestaan”.
Het zei dat de beperking van toepassing zou zijn op alle gebruikers, inclusief betaalde abonnees, en dat er “nultolerantie bestond voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud”. Maar er werd niet gespecificeerd of mensen nog steeds dergelijke afbeeldingen zouden kunnen maken in de zelfstandige Grok-app en dat materiaal vervolgens openbaar zouden kunnen delen op X.
The Guardian ontdekte dat deze stand-alone versie van Grok, bekend als Grok Imagine – die gemakkelijk toegankelijk is via een webbrowser – nog steeds reageerde op oproepen om de kleding digitaal te verwijderen van afbeeldingen van vrouwen.
Journalisten uploadden stilstaande beelden van volledig geklede, echte vrouwen en lieten hen door de AI-tool bikini’s aankleden. Het platform reageerde door verder te gaan dan het verzoek en korte video’s te maken waarin vrouwen hun kleding uittrekken, vergelijkbaar met een seksueel provocerende striptease.
Er is contact opgenomen met X voor commentaar.
Rebecca Hitchen, hoofd beleid en campagnes bij de End Violence Against Women Coalition, zei dat een dergelijke eenvoudige oplossing niet mogelijk zou moeten zijn.
“De voortdurende gemakkelijke toegang tot geavanceerde nudificatietools laat duidelijk zien dat X de kwestie van online geweld tegen vrouwen en meisjes niet serieus genoeg neemt”, zei ze.
Hitchen drong er bij de Britse regering op aan Ofcomde mediaregulator, om druk uit te oefenen op X en andere platforms “om de verspreiding van op afbeeldingen gebaseerd seksueel misbruik te stoppen”.
Reuters heeft ook gemeld dat zijn journalisten, waaronder één in Groot-Brittannië, Grok hebben gebruikt om on-demand geseksualiseerde afbeeldingen te maken naar aanleiding van de berichten van X.
“Het is moeilijk te geloven dat xAI en Elon Musk niet kunnen bedenken hoe ze kunnen voorkomen dat deze beelden door Grok worden verspreid”, zegt Penny East, uitvoerend directeur van de Fawcett Society. ‘Eerst besloot Musk dat de oplossing was om nudificatie alleen een voorrecht te laten zijn voor gebruikers die voor X betalen. Vervolgens beloofde hij er helemaal mee te stoppen. En toch is het niet gestopt.
“De waarheid is dat Musk en de technologie-industrie eenvoudigweg geen prioriteit geven aan veiligheid of waardigheid in de producten die ze maken. De lat voor vrouwen is vrij laag om te verwachten online te kunnen praten zonder dat mannen ze uitkleden. En toch lijkt het onmogelijk.”
Hoewel Downing Street had gezegd dat het zich “bevestigd” voelde door de stappen die X had gezet, was er ook voorzichtigheid onder de ministers over de omvang van de veranderingen en de manier waarop deze zouden worden gerealiseerd.
Donderdag verwelkomde Liz Kendall, de technologiesecretaris, die de seksuele manipulatie van afbeeldingen van vrouwen en kinderen als “weerzinwekkend en verachtelijk” had omschreven, de stap en bedankte “degenen die zich hebben uitgesproken tegen dit misbruik, vooral de slachtoffers”.
Maar ze voegde eraan toe: “Ik verwacht dat de feiten volledig en stevig zullen worden vastgesteld door het lopende onderzoek van Ofcom.”
Starmer eiste ook dat X onverwijld zou handelen. ‘Vrijheid van meningsuiting is niet de vrijheid om toestemming te schenden’, zei hij. “De beelden van jonge vrouwen bevinden zich niet in het publieke domein en hun veiligheid staat niet ter discussie. Ik ben blij dat X nu actie onderneemt om de volledige naleving van de Britse wetgeving te garanderen – dit moet onmiddellijk gebeuren.”
Ofcom zei dat zijn formele onderzoek naar X: maandag gelanceerdbleef aan de gang en er werd “de klok rond gewerkt om dit vooruit te helpen en antwoorden te krijgen op wat er mis ging en wat er wordt gedaan om het probleem op te lossen”.
De Canadese privacywaakhond zei dat het onderzoek deed naar xAI, terwijl de autoriteiten op de Filippijnen zeiden dat ze Grok wilden blokkeren, terwijl de Maleisische autoriteiten van plan waren juridische stappen te ondernemen.
Maar de controverse kan nuttig zijn geweest bij het vergroten van het publieke bewustzijn van Grok. Donderdag deelde Musk een bericht waarin hij beweerde dat “populariteit en gebruik in de echte wereld wereldwijd omhoogschieten” – samen met een grafiek van “Grok” als zoekwoord dat een nieuw hoogtepunt bereikte op Google Trends. Musk voegde er simpelweg aan toe: “Probeer Grok.com.”
Een regeringswoordvoerder zei: “De Online Safety Act vereist al dat platforms als X voorkomen dat illegale inhoud, inclusief intieme afbeeldingen zonder wederzijds goedvinden en materiaal over kindermisbruik, op hun diensten verschijnt.
“De minister van Buitenlandse Zaken heeft gezegd dat ze verwacht dat X’s naleving van de Britse wet volledig zal worden vastgesteld door het onderzoek van Ofcom, dat al aan de gang is, en dat de regering niet zal rusten voordat sociale-mediabedrijven aan hun wettelijke verplichtingen voldoen.
“We ondernemen ook verdere stappen via het voorgestelde ‘nudificatie’-delict, dat zich zal richten op tools die specifiek zijn ontworpen om zonder toestemming intieme beelden te genereren.”
