Ofcom beschreef de rapporten als “zeer zorgwekkend” (bestand) | Fotocredit: REUTERS
De Britse mediaregulator Ofcom is maandag een formeel onderzoek gestart naar Elon Musk’s X vanwege de beeldcreatiefunctie van zijn AI-chatbot Grok, die is gebruikt om geseksualiseerde deepfakes te produceren.
Grok krijgt te maken met toenemende internationale weerstand omdat het gebruikers toestaat geseksualiseerde afbeeldingen van vrouwen en kinderen te maken en te delen met behulp van eenvoudige tekstprompts.
Ofcom omschreef de berichten als ‘zeer zorgwekkend’.
In een verklaring staat dat ze afbeeldingen van mensen hebben uitgekleed “kan overeenkomen met intiem beeldmisbruik of pornografie – en geseksualiseerde afbeeldingen van kinderen… kunnen overeenkomen met materiaal van seksueel misbruik van kinderen”.
Toen X contact opnam met AFP, reageerde hij niet onmiddellijk.
Ofcom zei dat het op 5 januari contact had opgenomen met X en hem had gevraagd de stappen uit te leggen die het heeft genomen om Britse gebruikers te beschermen.
Zonder details over de uitwisseling te delen, zei de toezichthouder dat X binnen het gegeven tijdsbestek reageerde.
Het formele onderzoek zal uitwijzen of X “niet heeft voldaan aan zijn wettelijke verplichtingen”.
Volgens de Britse Online Safety Act, die in juli van kracht werd, zijn websites, sociale media en platforms voor het delen van video’s die mogelijk schadelijke inhoud hosten, verplicht om strikte leeftijdsverificatie te implementeren via hulpmiddelen zoals gezichtsopnamen of creditcardcontroles.
Het is ook illegaal voor mediasites om zonder toestemming intieme afbeeldingen of materiaal met seksueel misbruik van kinderen te maken of te delen, inclusief seksuele deepfakes gemaakt met AI.
Ofcom heeft de bevoegdheid om boetes op te leggen van 10 procent van de wereldwijde omzet voor overtredingen van deze regels.
Grok leek eind vorige week de internationale kritiek af te weren met een nieuw beleid voor het genereren van inkomsten, door op X te schrijven dat de tool nu “beperkt was tot betalende abonnees”, samen met een link naar een premium-abonnement.
De Britse premier Keir Starmer heeft de maatregel veroordeeld als een belediging voor de slachtoffers en “geen oplossing”.
Zaterdag werd Indonesië het eerste land dat alle toegang tot de tool ontzegde, en Maleisië volgde zondag.
De Europese Commissie heeft gezegd dat zij de klachten over Grok onderzoekt.
Uitgegeven – 13 januari 2026 om 11:47 uur IST
