De invloedrijke commissie voor vrouwen en gelijkheid van het Lagerhuis heeft besloten te stoppen met het gebruik van X na de AI-tool voor sociale media begon te genereren duizenden digitaal gewijzigde afbeeldingen van vrouwen en kinderen zonder kleding.
Het besluit van het partijoverschrijdende comité om zijn ambtenaar in de mottenballen te stoppen X account oefent hernieuwde druk uit op ministers om beslissende actie te ondernemen nadat de site werd overspoeld met afbeeldingen, waaronder geseksualiseerde en ongeklede afbeeldingen van kinderen, gegenereerd door de AI-tool Grok.
Sarah Owen, het Labour-parlementslid dat de commissie voorzit, zei dat, gezien het feit dat het voorkomen van geweld tegen vrouwen en meisjes een van de belangrijkste beleidsterreinen is, “het steeds duidelijker is geworden dat X geen geschikt platform is om voor onze communicatie te gebruiken”.
Liz Kendall, de technologiesecretaris, heeft de beelden genoemd “verschrikkelijk en onaanvaardbaar in een fatsoenlijke samenleving” en riep Ofcom, de Britse mediaregulator, op om de nodige stappen te ondernemen.
De woordvoerder van Keir Starmer zei woensdag dat “alle opties op tafel liggen” voor Ofcom, dat de macht heeft om enorme boetes op te leggen of de toegang tot een website te beperken.
Het besluit van de Commissie Vrouwen en Gelijkheid is de eerste belangrijke stap van een Westminster-organisatie om X te verlaten. Het is duidelijk dat de commissie de beslissing woensdag tijdens een bijeenkomst heeft genomen. Het zal zijn X-account, dat ongeveer 27.000 volgers heeft, bestaand maar inactief houden om ervoor te zorgen dat niemand anders het kan overnemen.
Sommige individuele leden van de commissie, zoals Owen, zijn al gestopt met het gebruik van X.
Owen is ook van plan om naar het Cabinet Office en Ofcom te schrijven om op te roepen tot actie tegen X.
Ze zei: “Ik verliet persoonlijk X in 2024 nadat het platform en de eigenaar makers van extreemrechts racistisch en vrouwonvriendelijk materiaal hadden gepromoot en betaald. De commissie hoorde eind vorig jaar over onderzoeken naar de cohesie van de gemeenschap dat X-posts regelmatig in strijd zijn met de Britse wet op haatzaaiende uitlatingen.
“De afgelopen dagen hebben X en xAI de creatie en het delen van AI-deepfakes, niet-consensuele intieme beelden en materiaal over seksueel kindermisbruik mogelijk gemaakt, allemaal gebieden die door onze commissie zijn aangemerkt als online geweld tegen vrouwen en meisjes.
“Wij achten het niet gepast om een dergelijk platform te gebruiken om ons werk te delen. Ik hoop dat de regering, Ofcom en relevante wetshandhavingsinstanties snel zullen werken om X onmiddellijk te laten voldoen aan de Britse wet inzake onlineveiligheid en het niet-consensuele gebruik van intieme beelden, om ter verantwoording te worden geroepen voor zijn tekortkomingen en, als het weigert onze wetten na te leven, op passende wijze te worden bestraft.”
Maandag zei Ofcom dat het op de hoogte was van ernstige zorgen over het feit dat Grok afbeeldingen zou maken van ongeklede mensen en geseksualiseerde afbeeldingen van kinderen. Het zei dat het contact had opgenomen met X en xAI “om te begrijpen welke stappen zij hebben ondernomen om te voldoen aan hun wettelijke plichten om gebruikers in het Verenigd Koninkrijk te beschermen” en dat het de noodzaak van een onderzoek zou beoordelen op basis van de reactie van het bedrijf.
De woordvoerder van Starmer zei: “Wat we op Grok hebben gezien is een schande. Het is volkomen onaanvaardbaar. Niemand zou de beproeving moeten doorstaan van grove vervalsingen van zichzelf online en we zullen de verspreiding van deze vernederende beelden niet toestaan.
“X moet dit dringend aanpakken en Ofcom heeft onze volledige steun bij het ondernemen van handhavingsmaatregelen daar waar bedrijven er niet in slagen Britse gebruikers te beschermen. Het heeft al de macht om boetes uit te vaardigen tot miljarden ponden en zelfs de toegang te stoppen tot een website die de wet overtreedt. En als het gaat om het online veilig houden van mensen, liggen alle opties nog op tafel.”
Gevraagd naar de kwestie zei de woordvoerder van Kemi Badenoch dat de conservatieve leider het met de regering eens was: “We vinden het allebei absoluut weerzinwekkend en willen dat het zo snel mogelijk wordt vernietigd.”
Op de vraag of dit zou kunnen betekenen dat Badenoch, een enthousiaste gebruiker van X met 350.000 volgers, het platform zou verlaten, zei hij: “We zijn er heel duidelijk over dat wat er gebeurt met de Grok-deepfakes absoluut weerzinwekkend is en dat er iets moet worden gedaan om dit te stoppen. Ik ga hier geen politiek aankondigen.”
Eerder op woensdag werd Nigel Farage gevraagd of hij graag geld wilde verdienen aan een website met een bedrijfsmodel dat deels gebaseerd was op materiaal over seksueel kindermisbruik. De leider van Reform UK wordt betaald voor betrokkenheid op de site als een veelgevolgde, geverifieerde gebruiker.
Farage vermeed de specifieke vraag, maar zei dat hij “zeer bezorgd” was over de beelden en zei dat hij geloofde dat X naar de kritiek zou luisteren.
