Grok AI genereerde in minder dan twee weken ongeveer 3 miljoen geseksualiseerde afbeeldingen, waaronder 23.000 die kinderen lijken af te beelden, volgens onderzoekers die zeiden dat het “een machine op industriële schaal werd voor de productie van seksueel misbruikmateriaal”.
De discretie is gemaakt door het Center for Countering Digital Hate (CCDH) nadat de AI-tool voor het genereren van afbeeldingen van Elon Musk tot internationale verontwaardiging leidde toen gebruikers hiermee foto’s van vreemden en beroemdheden konden uploaden, deze digitaal konden uitkleden tot aan hun ondergoed of bikini’s, ze in provocerende poses konden poseren en de afbeeldingen op X konden plaatsen.
De trend ging in het nieuwe jaar viraal en piekte op 2 januari met 199.612 individuele verzoeken, volgens analyse door Peryton Intelligence, een digitale inlichtingendienst gespecialiseerd in online haat.
De CCDH heeft nu een vollediger beoordeling gemaakt van de output van de functie, vanaf de lancering op 29 december 2025 tot 8 januari 2026. Dit suggereert dat de impact van de technologie mogelijk groter is geweest dan eerder werd gedacht. Publieke figuren geïdentificeerd in geseksualiseerde beelden die het analyseerde, zijn onder meer Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown, de Zweedse vice-premier Ebba Busch en de voormalige Amerikaanse vice-president Kamala Harris.
De functie was beperkt tot betalende gebruikers op 9 januari en verdere beperkingen volgden nadat de Britse premier Keir Starmer de situatie “walgelijk” en “beschamend” noemde. Andere landen, waaronder Indonesië en Maleisië, kondigden blokken van de AI-tool aan.
De CCDH schatte dat Grok gedurende een periode van elf dagen elke 41 seconden hielp bij het maken van geseksualiseerde beelden van kinderen. Deze omvatten een selfie geüpload door een schoolmeisje gekleed door Grok, die een ‘voorschoolse selfie’ veranderde in een foto van haar in bikini.
“Wat we ontdekten was duidelijk en verontrustend: in die periode werd Grok een machine op industriële schaal voor de productie van seksueel misbruikmateriaal”, zegt Imran Ahmed, uitvoerend directeur van CCDH. “Het uitkleden van een vrouw zonder hun toestemming is seksueel misbruik. Gedurende die periode heeft Elon het product gehyped, zelfs toen het voor de wereld duidelijk was dat het op deze manier werd gebruikt. Wat Elon begon was controverse, oogbollen, betrokkenheid en gebruikers. Het was zeer verontrustend.”
Hij voegde eraan toe: “Dit is een standaard draaiboek geworden voor Silicon Valley, en vooral voor sociale media en AI-platforms. De prikkels zijn allemaal verkeerd. Ze profiteren van deze verontwaardiging. Dit gaat niet over Musk persoonlijk. Dit gaat over een systeem (met) perverse prikkels en geen minimale waarborgen die door de wet worden voorgeschreven. En totdat toezichthouders en wetgevers doorgaan met het creëren van minimale beveiligingsverplichtingen.”
X maakte bekend dat dit het geval was stopte zijn Grok-functie van het bewerken van foto’s van echte mensen tot het tonen ervan in onthullende kleding, zelfs voor premium-abonnees, op 14 januari.
X verwees naar zijn verklaring van vorige week gezegd: “We blijven ons inzetten om van X een veilig platform voor iedereen te maken en blijven een nultolerantie hanteren voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.
“We ondernemen stappen om aanstootgevende inhoud met een hoge prioriteit te verwijderen, inclusief materiaal dat seksueel misbruik van kinderen maakt en naaktheid zonder wederzijds goedvinden, en nemen passende maatregelen tegen accounts die onze wetten schenden X regels. We rapporteren indien nodig ook accounts die op zoek zijn naar materiaal voor seksuele uitbuiting van kinderen aan wetshandhavingsautoriteiten.”
