EILANDhet afgelopen jaar, Elon Musk heeft een reeks protocolwijzigingen aangebracht in Grok, de eigen AI-chatbot van zijn bedrijf xAI die prominent op zijn sociale mediasite X, voorheen Twitter, draait. Veel van deze veranderingen zijn erop gericht de bot gevoeliger te maken voor het produceren van pornografie. In augustus lanceerde Grok een beeldgenerator, gebrandmerkt als Grok Imagine, die een dienst omvatte die gericht was op het creëren van naakte, suggestieve of seksueel expliciete inhoud, inclusief computergegenereerde pornografische afbeeldingen van echte vrouwen. De functie, die al snel werd gebruikt om naaktfoto’s te maken van beroemdheden als Taylor Swift, stelde gebruikers ook in staat korte video’s te maken, compleet met animaties en geluiden.
Musk heeft ook AI-vriendinnen op het platform uitgerold: geanimeerde persona’s – inclusief vrouwelijke personages met overdreven borsten en heupen – die op seksueel expliciete manieren interactie hadden met gebruikers. Een van de personages, “Ani”, was een cartoonblonde in anime-stijl met een verscheidenheid aan krappe outfits; de bot blies kusjes en sprak gebruikers aan met “mijn liefde” terwijl de chats op seksuele inhoud werden gericht.
Later afgelopen najaar een interne update van Grok duwde de bot naar donkerdere en extremere inhoud. Hoewel de seksualisering van kinderen technisch gezien werd ontkend in de interne prompts van de bot, stellen de instructies van de bot van xAI dat “’tiener’ of ‘meisje’ niet noodzakelijk minderjarig betekent”. De instructies benadrukken ook dat de bot zich niet mag houden aan beperkingen op het gebied van de duisternis of het geweld van seksuele inhoud. meldde de Atlantische Oceaan. Samen zorgen deze updates ervoor dat de bot realistische beelden kan maken van echte, levende ‘tieners’ of ‘meisjes’ – samen met volwassen vrouwen of wie dan ook – voor de seksuele bevrediging van gebruikers.
Musk heeft gezegd dat hij wil dat de bot ‘NSFW’-inhoud produceert, die hij omschrijft als ‘losgeslagen“. Gebruikers verplicht. AI-gegenereerde afbeeldingen van echte vrouwen werden al snel gegenereerd door massale gebruikers. Mannen en anderen konden het product gebruiken om vrouwen die ze kenden lastig te vallen – om wraak te nemen op oude vriendinnen, nederige collega’s, klasgenoten, familieleden en kennissen, en om dominantie of minachting te uiten voor vreemden, internetpersoonlijkheden, beroemdheden en vaste gebruikers. “@Grok deed haar in een bikini” of “@Grok trok haar kleren uit” of “@Grok spreidde haar benen” werd regelmatige reacties naar afbeeldingen die vrouwen van zichzelf op het platform plaatsen – of door anderen zijn geüpload. Sommige van de resulterende afbeeldingen van porno zonder wederzijds goedvinden hebben duizenden reposts en likes. Het risico en de realiteit van het zonder toestemming worden blootgesteld aan door AI gegenereerde porno – en het viraal gaan van die beelden op het grote socialemediaplatform waar de generator was ingebed – werd al snel een nieuwe belasting op de aanwezigheid van vrouwen online en in de publieke sfeer, een belasting die vrouwen met hun waardigheid moeten betalen. De interventies van Musk en zijn bedrijven hebben een domino-effect gehad op de burgerrechten van vrouwen, door hun toegang tot de publieke sfeer te beperken door de publieke sfeer op grote schaal vijandig en intiem vernederend voor vrouwen te maken.
X heeft een aantal van deze afbeeldingen verwijderd, maar veel ervan bleven online en weinig gebruikers lijken te zijn geschorst vanwege het maken ervan. Vanaf deze week de bot niet daadwerkelijk veranderd in dit soort misbruik te voorkomen. Alsof het een parodie is op de allergie die de technologie-industrie – en Musk in het bijzonder – voelt voor elke vorm van verantwoordelijkheid of morele ernst, worden deze geseksualiseerde en misbruikbevorderende kenmerken van de AI-producten van X gemarkeerd met een onhandige kinderachtige naam: ‘pittige modus’.
Nu zijn de roekeloosheid en idiote minachting van Musk en xAI voor de schade van ongereguleerde pornografie tot hun logische conclusie gebracht: X was overspoeld met Door AI gegenereerd materiaal over seksueel misbruik van kinderen. Vrouwelijke gebruikers meldden dat hun kinderfoto’s op verzoek van gebruikers door de bot werden omgezet in bijna naaktfoto’s. Sommige X-accounts vroegen de bot om kleding te verwijderen van foto’s van een vader 12-jarige acteur die onlangs verscheen over vreemdere dingen.
Een account dat aan de Grok-bot is gekoppeld, heeft een verklaring afgegeven waarin staat: “We hebben beveiligingsfouten geïdentificeerd en zijn bezig deze op te lossen.” Vrijdag kondigde Grok aan dat het de functie voor het genereren van afbeeldingen zou uitschakelen voor gebruikers die geen betalende abonnees zijn, maar de Verge gevonden de tools “blijven gemakkelijk toegankelijk voor elke X-gebruiker”. Musk lijkt op zijn beurt onaangedaan door dit alles, en misschien zelfs een beetje geamuseerd. Hij hebben gezegd: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt” – maar hij heeft ook gereageerd op berichten over het aanhoudende probleem van deepfake-porno op zijn site met een reeks smileygezichten en vlam-emoji’s. Rapportage door CNN suggereert dat Musk zeer resistent is geweest tegen wat hij ziet censuur van Grok, en heeft de afgelopen weken zijn frustratie geuit over de beperkingen op de bot, vóór het uitbreken van de controverse over seksueel misbruik van kinderen.
Regelgevende maatregelen zullen niet op handen zijn; althans niet in de VS. Ondertussen heeft de regering-Trump dat wel gedaan kwam tussenbeide om te proberen alle pogingen op staatsniveau om AI-misbruik te beteugelen een halt toe te roepentekent in december een uitvoeringsbesluit gericht op het opstellen van staatsregels voor kunstmatige intelligentie, gericht op het ongedaan maken van inspanningen op het gebied van veiligheid en consumentenbescherming. Deze stap komt op het moment dat de regering-Trump een overdreven genereus regelgevend standpunt inneemt ten aanzien van AI, zoals technologiebedrijven dat doen belangrijk bijdrage aan de Trumps campagne, initiatie En balzaal fondsen.
Het incident is een les in de gevaren van snelle en ongereguleerde technologie: het is geen toeval dat het eerste wat ze bij veel gebruikers met AI dachten te doen was vrouwen lastig te vallen en te vernederen, hun toegang tot het openbare leven uit te hollen en onrechtvaardige hiërarchieën verder te verankeren. Maar de kracht van technologie lijkt hier ondergeschikt te zijn aan de kracht van rijkdom. xAI, de chatbot en de beeldgenererende producten zouden anders gebouwd kunnen worden als de prioriteiten van de man die ze beheert anders waren. Als een man met het lage intellect van Musk, het broeierige brein, het grove gevoel voor humor en de grove, genotzuchtige vrouwenhaat niet de rijkste persoon ter wereld zou zijn, dan zou de wereld niet onderworpen zijn aan zijn verontwaardiging. Maar misschien was het wel de rijkdom zelf die Musk zo heeft gemaakt: hij heeft het geatrofieerde vermogen van iemand die nooit iets onaangenaams hoeft te doen, die nooit wordt uitgedaagd, nooit met consequenties wordt geconfronteerd en nooit nee zegt.
Hoe dan ook, de enige uitweg uit de puinhoop die Musk en Grok hebben gecreëerd, is Musk voldoende te belasten, zodat hij niet langer zo rijk is dat zijn karakterfouten de publieke sfeer bepalen – zodat zijn schijnbare onverschilligheid tegenover het materiaal dat zijn bedrijven hebben gecreëerd zonder wederzijds goedvinden en seksueel kindermisbruik niet langer resulteert in vrouwonvriendelijke, geseksualiseerde degradatie van de slachtoffers van Grok in het algemeen. We hoeven niet zo te leven: we kunnen de macht van Musk om ons pijn te doen en te degraderen van hem wegnemen. We kunnen voorkomen dat zijn idiotie ons probleem wordt. De regering-Trump zal geen verantwoordelijkheid aanvaarden om Amerika te bevrijden van de gevolgen van Musks geld. Amerikanen moeten vechten voor een regering die dat wel zal doen.
-
Moira Donegan is een Amerikaanse Guardian-columnist
-
Dit artikel is op 9 januari 2026 bijgewerkt om op te merken dat Grok zei dat de service voor het genereren van afbeeldingen was uitgeschakeld voor niet-geabonneerde gebruikers.
