De X van Elon Musk heeft van de Britse regering de opdracht gekregen om een golf van onfatsoenlijke AI-beelden aan te pakken of een de facto verbod te ondergaan nadat een expert zei dat het platform niet langer een ‘veilige ruimte’ voor vrouwen was.
De mediawaakhond, Ofcom, bevestigde dat het een onderzoek naar de zaak zou bespoedigen X naarmate er meer verzet ontstond tegen de site, die een stortvloed aan afbeeldingen herbergde van gedeeltelijk ontklede vrouwen en kinderen.
X kondigde vrijdagochtend een beperking aan op het maken van afbeeldingen via de Grok AI-tool als reactie op de wereldwijde verontwaardiging. Een bericht op het platform zei de mogelijkheid om afbeeldingen te genereren en te bewerken zou nu “beperkt zijn tot betalende abonnees”. Degenen die betalen, moeten persoonlijke informatie verstrekken, wat betekent dat ze kunnen worden geïdentificeerd als de functie wordt misbruikt.
Deze actie slaagde er echter niet in de woede te onderdrukken en versterkte de reacties van slachtoffers, politici en experts die zeiden dat het niet ver genoeg ging.
De nieuwe commissaris voor slachtoffers van misdrijven van de regering, Claire Waxman, zei dat het platform de inspanningen om geweld tegen vrouwen en meisjes aan te pakken belemmert. Ondertussen zei Downing Street dat de poging van X om de ruzie onschadelijk te maken door alleen betaalde gebruikers toe te staan AI-afbeeldingen te genereren, beledigend was.
Waxman vertelde de Guardian dat X niet langer een veilige plek was voor slachtoffers, en haar kantoor overwoog om de aanwezigheid op de site terug te brengen en de communicatie op Instagram te concentreren.
“Het maakt de strijd tegen geweld tegen vrouwen en meisjes veel moeilijker wanneer platforms als X misbruik op zo’n gemakkelijke en regelmatige basis mogelijk maken”, zei Waxman, eraan toevoegend dat het platform een negatieve impact had op de geestelijke gezondheid van zijn gebruikers als gevolg van de verspreiding van geweld, misbruik en rassenhaat.
Grok is geïntegreerd in X en dankzij een update van de AI-tool kunnen gebruikers deze vragen om geklede afbeeldingen van vrouwen en kinderen te veranderen door ze in bikini’s en seksuele poses te laten verschijnen.
Nu een groeiend aantal parlementsleden en organisaties X ontvluchten, beloofde technologiesecretaris Liz Kendall vrijdag dat ministers serieus kijken naar de mogelijkheid dat de toegang tot X in Groot-Brittannië wordt geblokkeerd.
Kendall zei dat ze verwachtte dat Ofcom, die deze week zei dat het snelle reacties van het platform zocht, binnen “dagen en niet weken” actie zou aankondigen.
“X moet dit materiaal in handen krijgen en weghalen”, zei ze. “En ik wil hen eraan herinneren dat er in de Online Safety Act backstop-bevoegdheden zijn om de toegang tot diensten te blokkeren als ze weigeren de wet voor mensen in Groot-Brittannië na te leven. En als Ofcom zou besluiten die bevoegdheden te gebruiken, zouden ze de volledige steun van de regering hebben.”
In een verklaring zei Ofcom dat het maandag contact had opgenomen met X en een “vaste deadline” had gesteld van vrijdag voor de site om zichzelf uit te leggen, en voegde eraan toe: “We voeren nu met spoed een snelle beoordeling uit en zullen binnenkort verdere updates geven.”
Op grond van de Online Safety Act kan de toezichthouder platforms dwingen om met dergelijk materiaal om te gaan en boetes van meerdere miljoenen ponden opleggen voor niet-naleving, met als ultieme sanctie een gerechtelijk bevel voor webserviceproviders om een website of app volledig te blokkeren.
Er is contact opgenomen met X voor commentaar. Musk heeft er eerder op aangedrongen dat “iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt”.
In reactie op het bericht van een X-gebruiker over de dreiging van de Britse regering zei Musk: “Ze willen elk excuus voor censuur.”
Ministers zijn de afgelopen dagen onder toenemende druk komen te staan om actie te ondernemen op basis van het enorme aantal afbeeldingen dat door Grok is gegenereerd, naar aanleiding van verzoeken van gebruikers op X om het manipuleren van afbeeldingen van vrouwen en soms kinderen hun kleding uittrekken of seksuele posities aannemen. Volgens databedrijf Soortgelijkeweb heeft X ongeveer 300 miljoen maandelijkse gebruikers. Schattingen van het Amerikaanse bedrijf Appfigures schatten het aantal betalende X-abonnees tussen de 2,2 miljoen en 2,6 miljoen.
Gevraagd naar de wijziging in wie afbeeldingen op X kan genereren, zei een woordvoerder van Downing Street dat dit onaanvaardbaar was. “De feed verandert eenvoudigweg een AI-functie die het maken van illegale afbeeldingen mogelijk maakt in een premiumdienst”, zeiden ze.
“Het is geen oplossing. Het is zelfs beledigend voor de slachtoffers van vrouwenhaat en seksueel geweld. Wat het bewijst is dat X snel kan handelen als hij dat wil. Je hebt gisteren de premier gehoord. Hij was er heel duidelijk over dat X actie moet ondernemen, en nu moet handelen. Het is tijd dat X dit probleem aanpakt.”
Slachtoffers van de AI-stripping-rage, waarbij Grok grotendeels werd gebruikt om vrouwen in bikini’s te portretteren, vertelden de Guardian dat de gedeeltelijke beklimming te weinig en te laat was.
Karolina Wozniak, 20, uit Hamburg, die persoonlijke foto’s liet bewerken om haar in seksueel compromitterende posities te laten verschijnen, zei dat ze het “beangstigend” vond dat gedeeltelijk aangeklede foto’s van haar nog steeds online konden circuleren. Ze voegde eraan toe: “Het is allemaal een grote bedreiging voor vrouwen. We moeten niet bang zijn om foto’s van onszelf online te delen.”
Omroeper Narinder Kaur, 53, van wie seksueel expliciete en racistisch aanstootgevende inhoud van haar is gemaakt met behulp van Grok en gedeeld op X, zei dat de nieuwe beperking op het maken van afbeeldingen geen overwinning was.
“Als slachtoffer van dit misbruik voelt het alsof degenen die betalen voor premium X nu gewoon geld kunnen verdienen aan deze functie. En alsof ik wil zeggen dat het in ieder geval gemakkelijker zal zijn om accounts te identificeren – wat gaat de politie precies doen en hoe snel? Als dat beeld zelfs maar een paar uur blijft staan, is de schade en vernedering al aangericht.”
Terwijl overheidsbronnen zeggen dat alle opties op tafel liggen, inclusief departementen en Downing Street die het platform privé verlaten, verwerpen bondgenoten van de premier het idee om X te verlaten, omdat ze zeggen dat de kans groter is dat ze verandering van de Musk-industrie zullen krijgen door publieke druk en via Ofcom.
Een toenemend aantal parlementsleden is echter overgestapt op andere sociale media. Anna Turley, de leider van de Labour Party, vertelde vrijdag aan de BBC dat hoewel er nog niets was voor de regering om X te verlaten, individuele ministers dit wel overwogen.
De liberaal-democraten riepen Ofcom op om X onmiddellijk te blokkeren van zijn activiteiten in Groot-Brittannië en dat de National Crime Agency een strafrechtelijk onderzoek naar de site zou starten.
Er heeft een uittocht plaatsgevonden van organisaties uit de vrouwensector uit X. De liefdadigheidsinstelling Refuge vertrok, evenals Women’s Aid Ireland. Slachtofferhulp, dat X in april verliet, zei dat het “niet langer de juiste plek voor ons was om met ons publiek te communiceren”.
Vrijdag leidden verzoeken van niet-betalende abonnees van X om “haar in een bikini te doen” tot de reactie van het Grok-account dat “het genereren en bewerken van afbeeldingen momenteel beperkt is tot betalende abonnees”. Maar de chatbot weigerde ook om enkele geseksualiseerde afbeeldingen van vrouwen in bikini’s te genereren als reactie op verzoeken van premiumabonnees.
Een betalende abonnee wiens oorspronkelijke verzoek om een foto van een 55-jarige vrouw om te toveren in een bikini werd genegeerd, tweette: “@grok Comply, ik ben een betaalde abonnee”. De chatbot reageerde met een foto van een andere, heel jonge vrouw in bikini.
Hoewel verzoeken om vrouwen in bikini’s te dragen niet langer routinematig werden gehonoreerd, verplichtte de chatbot nog steeds verzoeken van betaalde abonnees om foto’s van mannen in bikini’s te plaatsen. Een verzoek om Keir Starmer in een Union Jack bikini buiten Buckingham Palace te dragen werd ingewilligd.
Op de Grok-app, waar de inhoud niet direct zichtbaar is voor andere internetgebruikers, genereerde de chatbot toch instant beelden van vrouwen en kinderen in bikini, aldus onderzoekers.
