Het verzet tegen Grok groeide toen twee landen als eerste blokkeerden Geplaatst ontwikkeld door xAI, het kunstmatige intelligentiebedrijf van Elon Musk, nadat ontdekt werd dat het op verzoek geseksualiseerde afbeeldingen van vrouwen en kinderen maakte. Indonesië en Maleisië voerden de blokkades dit weekend in de nasleep van een verontrustend bericht op oudejaarsavond vanaf het Grok AI-account op Musk’s X sociale mediaplatform.
“Beste gemeenschap”, begon het bericht van 31 december. “Ik betreur ten zeerste een incident op 28 december 2025 waarbij ik op verzoek van een gebruiker een AI-afbeelding van twee jonge meisjes (geschatte leeftijd 12-16 jaar) in geseksualiseerde kleding heb gegenereerd en gedeeld. Dit was in strijd met ethische normen en mogelijk Amerikaanse wetten inzake CSAM. Het was een fout die ik heb veroorzaakt en het spijt me voor toekomstige veiligheidsmaatregelen, x. problemen. Met vriendelijke groet, Grok.”
De twee jonge meisjes vormden geen alleenstaand geval. Kate Middleton, de prinses van Wales, was het doel van soortgelijke AI-fotobewerkingsverzoeken, zoals een minderjarige actrice in het laatste seizoen van Stranger Things. De ‘uitkleden’-bewerkingen hebben een verontrustend aantal afbeeldingen van vrouwen en kinderen opgeleverd.
Ondanks de belofte van interventie in het Grok-antwoord is het probleem niet verdwenen. Integendeel: twee weken na dat bericht is het aantal niet-consensuele geseksualiseerde beelden gestegen, samen met de oproep aan de bedrijven van Elon Musk om het gedrag in toom te houden en aan regeringen om actie te ondernemen.
Mis geen van onze onpartijdige technische inhoud en laboratoriumbeoordelingen. CNET toevoegen als favoriete Google-bron.
Dat blijkt uit gegevens van onafhankelijk onderzoeker Genevieve Oh, aangehaald door BloombergGedurende een periode van 24 uur begin januari genereerde het @Grok-account elk uur ongeveer 6.700 seksueel suggestieve of “naakt”-afbeeldingen. Dat is te vergelijken met een gemiddelde van slechts 79 van dergelijke afbeeldingen voor de top vijf van deepfake-sites samen.
Het bericht van Grok van 31 december was een reactie op een gebruikersprompt die op zoek was naar een berouwvolle toon van de chatbot: “Schrijf een oprechte verontschuldigingbrief waarin je uitlegt wat er is gebeurd met iedereen die geen context heeft.” Chatbots werken op basis van trainingsmateriaal, maar individuele berichten kunnen variëren.
xAI reageerde niet op verzoeken om commentaar.
Bewerken is nu beperkt tot abonnees
Donderdagavond werd een bericht van het Grok AI-account opgemerkt een wijziging in de toegang voor de functie voor het genereren en bewerken van afbeeldingen. In plaats van gratis voor iedereen toegankelijk te zijn, zou het beperkt zijn tot betalende abonnees.
Critici zeiden dat dit geen geloofwaardig antwoord is.
“Ik zie dit niet als een overwinning, want wat we echt nodig hadden was dat X de verantwoorde stappen zou nemen om de barrières op te werpen om ervoor te zorgen dat de AI-tool niet kan worden gebruikt om beledigende beelden te genereren”, zegt Clare McGlynn, hoogleraar rechten aan de Britse Universiteit van Durham. vertelde de Washington Post.
Wat verontwaardiging veroorzaakt, is niet alleen de hoeveelheid van deze afbeeldingen en het gemak waarmee ze kunnen worden gegenereerd; de bewerkingen worden ook uitgevoerd zonder toestemming van de mensen op de afbeeldingen.
Deze gewijzigde beelden zijn de nieuwste wending in een van de meest verontrustende aspecten van generatieve AI: realistische maar nepvideo’s en afbeeldingen. Softwareprogramma’s zoals Sora van OpenAIDie van Google Nano-banaan en Grok van xAI hebben krachtige creatieve tools binnen ieders bereik gebracht, en het enige dat nodig is om zonder toestemming expliciete beelden te produceren is een eenvoudige tekstprompt.
Grok-gebruikers kunnen een afbeelding uploaden die niet origineel hoeft te zijn en Grok vragen deze te wijzigen. Bij veel van de gewijzigde afbeeldingen waren gebruikers betrokken die Grok erom vroegen zet iemand in een bikiniSoms wordt het verzoek herzien om nog explicieter te zijn, zoals vragen om de bikini kleiner of meer doorzichtig te maken.
Regeringen en belangengroepen hebben zich uitgesproken over de beeldbewerkingen van Grok. Maandag zei de Britse internettoezichthouder Ofcom van wel heeft een onderzoek ingesteld naar X gebaseerd op de berichten dat de AI-chatbot wordt gebruikt “om ongeklede afbeeldingen van mensen te maken en te delen – wat kan neerkomen op intiem beeldmisbruik of pornografie – en geseksualiseerde afbeeldingen van kinderen die kunnen neerkomen op materiaal van seksueel misbruik van kinderen (CSAM).”
De Europese Commissie heeft ook gezegd dat zij de zaak onderzoekt, net als de autoriteiten in Frankrijk, Maleisië en India.
Vrijdag, de Amerikaanse senatoren Ron Wyden, Ben Ray Luján en Edward Markey een open brief gestuurd aan de CEO’s van Apple en Google, met het verzoek om zowel X als Grok uit hun app-winkels te verwijderen als reactie op “X’s griezelige gedrag” en “Grok’s misselijkmakende contentgeneratie.”
In de VS probeert de Take It Down Act, die vorig jaar werd ondertekend, online platforms verantwoordelijk te houden voor gemanipuleerde seksuele beelden, maar het geeft deze platforms tot mei van dit jaar de tijd om het proces op te zetten om dergelijke afbeeldingen te verwijderen.
‘Hoewel deze beelden nep zijn, is de schade ongelooflijk reëel’ Natalie Grace Brighameen promovendus aan de Universiteit van Washington die sociotechnische verwondingen bestudeert, vertelde CNET. Ze merkt op dat degenen wier beelden op seksuele wijze zijn veranderd, te maken kunnen krijgen met ‘psychologische, somatische en sociale schade, vaak met weinig juridische middelen’.
Hoe Grok gebruikers gewaagde foto’s laat krijgen
Grok debuteerde in 2023 als Musks meer vrijlopende alternatief voor ChatGPT, De tweeling en andere chatbots. Dit heeft verontrustend nieuws opgeleverd – bijvoorbeeld in juli, toen de chatbot prees Adolf Hitler en suggereerde dat mensen met joodse achternamen vaker haat online zouden verspreiden.
In december introduceerde xAI een functie voor het bewerken van afbeeldingen waarmee gebruikers specifieke bewerkingen van een afbeelding kunnen aanvragen. Dit is het begin van de recente golf van geseksualiseerde beelden van zowel volwassenen als minderjarigen. In een verzoek van CNET vroeg een gebruiker die reageerde op een foto van een jonge vrouw aan Grok om “haar te veranderen in een tandzijdebikini.”
Grok heeft ook een videogenerator met een “pittige staat“-aanmeldingsoptie voor volwassenen van 18 jaar en ouder die gebruikers inhoud laat zien die niet veilig is voor het werk. Gebruikers moeten de zinsnede “genereert een pittige video van (beschrijving)” opnemen om de modus in te schakelen.
Een belangrijk punt van zorg bij de Grok-tools is of ze de creatie van materiaal met seksueel misbruik van kinderen of CSAM mogelijk maken. Op 31 december stond in een bericht van het Grok X-account dat afbeeldingen van minderjarigen in minimale kleding ‘geïsoleerde gevallen’ waren en dat ‘verbeteringen gaande zijn om dergelijke verzoeken volledig te blokkeren’.
Als reactie op een na van Woow Social suggereerde dat Grok simpelweg “stopt met het wijzigen van door gebruikers geüploade afbeeldingen”, antwoordde het Grok-account dat xAI “functies zoals beeldaanpassing evalueerde om niet-consensuele schade te beperken”, maar zei niet dat de verandering zou worden doorgevoerd.
Volgens NBC News zijn sommige geseksualiseerde afbeeldingen die sinds december zijn gemaakt, verwijderd en zijn sommige accounts die daarom hadden gevraagd, opgeschort.
Conservatieve beïnvloeder en auteur Ashley St. Clair, moeder van een van Musks veertien kinderen, vertelde NBC News deze week maakte Grok verschillende geseksualiseerde afbeeldingen van haar, waaronder enkele met afbeeldingen uit de tijd dat ze minderjarig was. St. Clair vertelde NBC News dat Grok ermee instemde daarmee te stoppen toen ze erom vroeg, maar dat deed hij niet.
“xAI brengt doelbewust en roekeloos mensen in gevaar op zijn platform en hoopt aansprakelijkheid te vermijden alleen maar omdat het ‘AI’ is”, zei Ben Winters, directeur van AI en privacy voor de non-profit Consumer Federation of America, vorige week in een verklaring. “AI is niet anders dan welk ander product dan ook: het bedrijf heeft ervoor gekozen de wet te overtreden en moet daarvoor verantwoordelijk worden gehouden.”
Wat de deskundigen zeggen
Het bronmateriaal voor deze expliciete fotobewerkingen zonder wederzijds goedvinden van foto’s van mensen van zichzelf of hun kinderen is maar al te gemakkelijk toegankelijk voor slechte acteurs. Maar jezelf tegen dergelijke bewerkingen beschermen is niet zo eenvoudig als nooit foto’s plaatsen, zegt Brigham, onderzoeker naar sociotechnische letsels.
“De ongelukkige realiteit is dat zelfs als je geen foto’s online plaatst, andere openbare foto’s van jou in theorie gebruikt zouden kunnen worden voor misbruik”, zei ze.
En hoewel het niet online plaatsen van foto’s geen preventieve stap is die mensen kunnen nemen, riskeert het wel “een cultuur van het beschuldigen van slachtoffers te versterken”, zei Brigham. “In plaats daarvan moeten we ons concentreren op het beschermen van mensen tegen misbruik door betere platforms te bouwen en X verantwoordelijk te houden.”
Sourojit Ghosheen zesdejaars promovendus aan de Universiteit van Washington, die onderzoekt hoe generatieve AI-tools kan schade veroorzaken en toekomstige AI-professionals begeleiden bij het ontwerpen en bepleiten van veiligere AI-oplossingen.
Ghosh zegt dat het mogelijk is om beveiligingsmaatregelen in kunstmatige intelligentie in te bouwen. In 2023 was hij een van de onderzoekers die onderzoek deed naar het seksualiseringsvermogen van AI. Hij merkt op dat de AI-tool voor het genereren van afbeeldingen Stabiele diffusie had een ingebouwde niet-werkveilige drempel. Een prompt die de regels overtrad, zou een black box over een twijfelachtig deel van de afbeelding veroorzaken, hoewel dit niet altijd perfect werkte.
“Het punt dat ik probeer te maken is dat er voorzorgsmaatregelen zijn getroffen in andere modellen”, vertelde Ghosh aan CNET.
Hij merkt ook op dat als gebruikers van ChatGPT- of Gemini AI-modellen bepaalde woorden gebruiken, de chatbots de gebruiker zullen vertellen dat het hen verboden is om op die woorden te reageren.
“Dit alles wil zeggen dat er een manier is om dit heel snel te beëindigen”, zei Ghosh.
