Elon Musk’s X “doet niet genoeg om zijn klanten online veilig te houden”, zei een minister, terwijl de Britse regering zich voorbereidt op mogelijke maatregelen tegen het platform vanwege de massaproductie van geseksualiseerde afbeeldingen van vrouwen en kinderen.
Peter Kyle, de zakensecretaris, zei dat de regering elke actie van Ofcom, de mediaregulator, tegen X volledig zou steunen – inclusief de optie dat het platform in Groot-Brittannië geblokkeerd zou kunnen worden.
Kyle zei dat Ofcom de gevraagde informatie had ontvangen X als onderdeel van een snel onderzoek naar het gebruik van de ingebouwde AI-tool van het platform, Grok, om een groot aantal gemanipuleerde afbeeldingen van mensen te genereren, vaak afgebeeld in minimale kleding of geseksualiseerde poses.
De technologiesecretaris Liz Kendall, die vrijdag zei dat ze binnen enkele dagen actie van Ofcom verwachtte, zal maandagmiddag een verklaring afleggen aan het Lagerhuis.
Kyle vertelde Sky News: “Laat me absoluut duidelijk zijn over X: X doet niet genoeg om zijn klanten online veilig te houden.”
In een later interview in het Breakfast-programma van BBC One zei Kyle dat het “verschrikkelijk” was dat X Grok niet goed had getest, gezien zijn vermogen om beelden te manipuleren en de potentiële impact ervan op vrouwen. “Het feit dat ik gisteren een joodse vrouw ontmoette die haar foto van zichzelf in bikini buiten Auschwitz had gevonden, gegenereerd door kunstmatige intelligentie en online gezet, maakte me misselijk”, zei hij.
“En het feit dat er mensen zijn die deze materialen beheren, ontwerpen en op internet zetten zonder te controleren welke impact dit zou hebben op hun klanten en hun gebruikers van diensten en op de samenleving als geheel, vind ik een echte zorg.”
Nadat Ofcom X om informatie had gevraagd, verstrekte het bedrijf deze en voerde de toezichthouder uit wat Kyle omschreef als “een versneld onderzoek”.
Hij zei: “Ze hebben een scala aan bevoegdheden die gaan van zware boetes tot en met het verbannen van X uit ons land als dit passend wordt geacht. En natuurlijk staan deze regering en Liz Kendall, de technologiesecretaris, (volledig) achter Ofcom in hun vermogen om dit te doen.”
Elke stap om X te blokkeren, waarvoor een gerechtelijk bevel nodig is, zal waarschijnlijk een aanzienlijke reactie uitlokken van de regering van Musk en Donald Trump.
Musk, die vaak extreemrechtse en etnisch-nationalistische inhoud plaatst, eerder opgeroepen Britten gaan “terugvechten” tegen de regering van Keir Starmer, die hij afschildert als vijandig tegenover de vrijheid van meningsuiting.
Op zondag, een Trump-regering ambtenaar gericht op de vrijheid van meningsuiting, vergeleek de mogelijke Britse actie tegen X met censuur in het Rusland van Vladimir Poetin.
In een van de berichten over deze kwestie zei Sarah Rogers, de Amerikaanse onderminister van Publieke Diplomatie, dat de Britse regering “een @X-verbod in Russische stijl overweegt”.
Op grond van de Online Safety Act kan Ofcom platforms dwingen dergelijk materiaal te verwerken en boetes van meerdere miljoenen ponden opleggen voor niet-naleving, met als ultieme sanctie een gerechtelijk bevel dat ISP’s verplicht een website of app volledig te blokkeren.
Vrijdag maakte X bekend dat het de mogelijkheid biedt om afbeeldingen te genereren en te bewerken zou “beperkt zijn tot betalende abonnees”. Downing Street beschreef de stap als onaanvaardbaar en zei dat het simpelweg een AI-functie die het maken van illegale afbeeldingen mogelijk maakt, verandert in een premiumdienst.”
