Ontgrendel Editor’s Digest gratis
Roula Khalaf, redacteur van de FT, kiest haar favoriete verhalen in deze wekelijkse nieuwsbrief.
Sir Keir Starmer heeft gezworen actie te ondernemen tegen Elon Musk’s X en roept het sociale mediaplatform op om ‘de boel op orde te krijgen’ en te voorkomen dat zijn AI-chatbottool Grok geseksualiseerde beelden van kinderen produceert.
De Britse premier maakte deze opmerkingen toen voormalig minister van Arbeid Louise Haigh er bij de regering op aandrong om helemaal te stoppen met het gebruik van X.
Starmer kwam tussenbeide te midden van groeiende publieke woede over wat hij ‘illegaal’ noemde afbeeldingen gegenereerd door Grokontwikkeld door Musk’s xAI en gedeeld op het platform dat voorheen bekend stond als Twitter.
“Dit is beschamend, walgelijk en onaanvaardbaar. X moet hier grip op krijgen”, zei Starmer donderdag tegen Greatest Hits Radio. “We zullen hier actie op ondernemen omdat het simpelweg niet acceptabel is.”
De afgelopen dagen hebben gebruikers Grok zover gekregen om seksuele afbeeldingen van kinderen te maken, wat in strijd is met de gebruiksinstructies van het bedrijf.
In Frankrijk hebben ministers de beelden die Grok heeft gegenereerd aan de openbare aanklagers gerapporteerd. Ze verwezen het ook naar Arcom, de mediaregulator van het land, met betrekking tot “mogelijke schendingen door X” van zijn verplichtingen onder de EU-wetgeving inzake digitale diensten.
Starmer zei dat hij een mogelijke interventie steunde Ofcomde Britse mediawaakhond, die deze week zei de beschuldigingen te onderzoeken.
De technologie-industrie en toezichthouders hebben geworsteld met de verreikende sociale impact van generatieve AI.
De Internet Watch Foundation, een Britse non-profitorganisatie, zei dat door AI gegenereerde beelden van seksueel misbruik van kinderen het afgelopen jaar zijn verdubbeld, waarbij het materiaal extremer is geworden.
Grok is opzettelijk ontworpen om minder inhoudswaarborgen te bieden dan de concurrentie, waarbij Musk het model “maximaal zoeken naar de waarheid” noemt.
Maar de Grok 4, het krachtigste model, werd in juli uitgebracht met een ‘Pittige modus’-functie waarmee gebruikers gewaagde en seksueel suggestieve inhoud voor volwassenen kunnen genereren. X integreert een aantal xAI-functies, zoals Grok, rechtstreeks in het platform.
Groot-Brittannië werkt aan een wetsvoorstel om het bezitten, creëren of distribueren van AI-instrumenten die beelden van seksueel misbruik van kinderen kunnen genereren illegaal te maken, en om te eisen dat AI-systemen grondig worden getest om ervoor te zorgen dat ze geen illegale inhoud kunnen genereren.
Haigh, de voormalige transportsecretaris, riep zowel de Britse regering als de Labour Party op om X in de steek te laten.
“Het was al een onaangename plek vóór de overname door Elon Musk, maar sinds zijn aanvaarding van haatzaaiende uitlatingen en anonieme onlinemisbruikers is het volkomen nutteloos geworden”, zei ze.
“De onthullingen over het mogelijk maken, zo niet aanmoedigen, van seksueel misbruik van kinderen betekenen dat het oneerlijk is om de site nog een minuut te gebruiken.”
Gisteren zei het Comité Vrouwen en Gelijkheid dat het gestopt was met het gebruik van het sociale mediaplatform.
Sarah Owen, voorzitter van de commissie, schreef aan minister Nick Thomas-Symonds: “Het is zeker niet langer houdbaar voor de regering om op een dergelijk platform aanwezig te blijven, niet in de laatste plaats gezien de missie van de regering om geweld tegen vrouwen en meisjes aan te pakken.”
