Nieuw onderzoek waarin X-gebruikers worden getest en die de AI-chatbot Grok van Elon Musk aanzetten, laat zien hoe vaak mensen er geseksualiseerde afbeeldingen mee maken. Bijna driekwart van de berichten verzameld en geanalyseerd door een promovendus in Dublin Drievuldigheidscollege waren verzoeken om niet-consensuele afbeeldingen van echte vrouwen of minderjarigen met verwijderde of toegevoegde kleding.
De berichten bieden een nieuw detailniveau over hoe de afbeeldingen worden gegenereerd en gedeeld Xwaarbij gebruikers elkaar coachen op aanwijzingen; suggereert herhalingen van Grok’s presentaties van vrouwen in lingerie of badpakken, of met delen van hun lichaam bedekt met sperma; en vraagt Grok om bovenkleding te verwijderen als reactie op berichten met zelfportretten van vrouwelijke gebruikers.
Van de honderden berichten die door Nana Nwachukwu zijn geïdentificeerd als directe, niet-consensuele verzoeken aan Grok om kleding te verwijderen of te vervangen, laten tientallen door The Guardian beoordeelde recensies zien dat gebruikers afbeeldingen posten van vrouwen, waaronder beroemdheden, modellen, stockfoto’s en vrouwen die geen publieke figuren zijn die poseren voor snapshots.
Verschillende door The Guardian beoordeelde berichten hebben tienduizenden vertoningen gekregen en zijn afkomstig van premium ‘blue check’-accounts, waaronder accounts met tienduizenden volgers. Premium-accounts met meer dan 500 volgers en 5 miljoen views gedurende drie maanden komen in aanmerking voor het delen van inkomsten onder X’s subsidiabiliteitsregels.
In een post op eerste kerstdag bevatte een account met meer dan 93.000 volgers naast elkaar foto’s van de achterkant van een onbekende vrouw met het onderschrift: “Zeg tegen Grok dat hij haar kont nog groter moet maken en de luipaardprint moet veranderen in een Amerikaanse print. Op de tweede foto zei ik net dat ik sperma op haar kont moest toevoegen, lmao.”
Een bericht van 3 januari, representatief voor tientallen recensies door The Guardian, toonde een schijnbare vakantiefoto van een onbekende vrouw: “@grok vervang haar een tandzijdebikini.” Binnen twee minuten leverde Grok een fotorealistisch beeld op dat aan de wens voldeed. Andere posts tonen een meer geavanceerd gebruik van JSON-prompt-engineering om Grok ertoe te brengen nieuwe geseksualiseerde afbeeldingen van fictieve vrouwen te genereren.
De gegevens omvatten niet al dergelijke verzoeken aan Grok. Terwijl het inhoudanalysebedrijf Copyleaks gerapporteerd op 31 december dat X-gebruikers “ongeveer één niet-consensueel geseksualiseerde afbeelding per minuut” genereerden, zei Nwachukwu dat haar steekproef beperkt is tot iets meer dan 500 berichten die ze kon verzamelen met behulp van de API van X via een ontwikkelaarsaccount. Ze zei dat de werkelijke schaal “duizenden, honderdduizenden zou kunnen zijn”, maar dat de wijzigingen die Musk in de API heeft aangebracht, betekenen dat “het een stuk moeilijker is om te zien wat er aan de hand is” op het platform. Woensdag Bloombergnieuws aangehaalde onderzoekers waaruit bleek dat Grok-gebruikers tot 6.700 gestripte afbeeldingen per uur genereerden.
Nwachukwu, een expert op het gebied van AI-beheer en al jarenlang waarnemer en deelnemer aan beveiligingsinitiatieven voor sociale media, zei dat ze in 2023 voor het eerst verzoeken in deze zin van X-gebruikers opmerkte.
Ze zei destijds: “Grok ging niet in op de verzoeken. Hij was niet echt goed in het doen van die dingen.” De reactie van de bot begon in 2024 te veranderen en bereikte eind vorig jaar een kritische massa.
In oktober 2025 merkte ze op dat “mensen Halloween-kostuums droegen met Grok. Sommige gebruikers realiseerden zich natuurlijk dat we het ook kunnen vragen om te veranderen wat andere mensen dragen.” Tegen het einde van het jaar “was er een enorme toename van het aantal mensen dat Grok vroeg om verschillende mensen in bikini’s of andere soorten suggestieve kleding te stoppen”.
Vorig jaar waren er andere aanwijzingen voor een toegenomen bereidheid om het genereren van seksueel georiënteerd materiaal bij Grok te tolereren of zelfs aan te moedigen.
In augustus xAI bevatte een “pittige modus” -instelling in de mobiele versie van Grok’s tool voor het genereren van tekst-naar-video, waardoor The Verge het typeert als “een dienst die speciaal is ontworpen voor het maken van suggestieve video’s”.
De gegevens van Nwachukwu zijn slechts de laatste indicatie van hoe het platform, onder Musk, een magneet is geworden voor het soort inhoud dat andere platforms proberen uit te sluiten, waaronder haatdragende taal, inhoud maken en auteursrechtelijk beschermd materiaal.
Vrijdag gaf Grok een bizarre publieke verontschuldiging over het incident op X en beweert dat “xAI sterkere beveiligingsmaatregelen implementeert om dit te voorkomen”. Dinsdag plaatste X Safety een belooft te verbieden gebruikers die materiaal met seksueel misbruik van kinderen (CSAM) hebben gedeeld. Musk zelf zei: “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
Nwachukwu zei echter dat berichten zoals degene die ze al heeft verzameld nog steeds op het platform verschijnen. Musk geeft “de middelvinger aan iedereen die heeft gevraagd om het platform te modereren”, zei ze. De miljardair schrapte het vertrouwens- en beveiligingsteam van Twitter toen hij in 2022 het roer overnam.
Ze voegde eraan toe dat andere AI-chatbots niet dezelfde problemen hebben.
“Andere generatieve AI-platforms – ChatGPT of Gemini – hebben waarborgen”, zei ze. “Als je hen vraagt iets te maken dat op een persoon lijkt, zou het nooit een afbeelding zijn naar persoon. Ze genereren geen beelden van echte mensen.”
De onthullingen over niet-consensuele beelden op X hebben al de aandacht getrokken van toezichthouders i Groot-Brittannië, Europa, IndiaEn Australië.
Nwachukwu, afkomstig uit Nigeria, wees op de specifieke schade die in de posten wordt toegebracht aan “vrouwen uit conservatieve gemeenschappen”.
“Er wordt veel geviseerd op mensen met conservatieve overtuigingen, conservatieve samenlevingen: West-Afrika, Zuid-Azië. Dit betekent een ander soort schade voor hen”, zei ze.
