Regeringen verbieden Grok-chatbot vanwege niet-consensuele bikinifoto’s: NPR

Indonesië en Maleisië tijdelijk geblokkeerd De chatbot van X, Grok, heeft afgelopen weekend tientallen nepbeelden gemaakt waarin vooral vrouwen en in sommige gevallen kinderen publiekelijk werden geseksualiseerd.

Regeringen over de hele wereld doen ook onderzoek. De laatste kwam maandag, toen de Britse mediaregulator Ofcom een sonde gelanceerd op het sociale-mediaplatform, wat kan leiden tot een verbod.

Grok maakte al een tijdje seksueel expliciete beelden van mensen. Maar het probleem kreeg eind december brede aandacht toen mensen de chatbot gebruikten om een ​​groot aantal bestaande foto’s te bewerken door de bot in reacties te taggen en hem aanwijzingen te geven zoals ‘stop haar in een bikini’. Hoewel Grok niet op alle verzoeken reageerde, heeft zij in veel gevallen hieraan gehoor gegeven. In sommige gevallen, zo merkte senior onderzoeker en onderzoeker Kolina Koltai van Bellingcat op, kunnen gebruikers Grok zover krijgen dat hij frontale naaktbeelden genereert.

Ontelbare aantallen vrouwen en in sommige gevallen kinderen die dat doen Reuters voor het eerst gemeld, lieten hun gelijkenissen online seksualiseren door Grok zonder hun toestemming, inbegrepen een van de moeders van de kinderen van X-eigenaar Elon Musk.

Het is ongebruikelijk dat zoveel regeringen actie ondernemen tegen een socialemediabedrijf, maar deze zaak is anders, zegt Riana Pfefferkorn, beleidsmedewerker aan Stanford University. “Het maken van seksueel kindermisbruik (materiaal) is schaamteloos illegaal, vrijwel overal op aarde.”

Afgelopen vrijdag had X de functie voor het genereren van AI-afbeeldingen van Grok beperkt om deze alleen beschikbaar te maken voor betalende abonnees. Niet-betalende gebruikers kunnen nog steeds mensen in bikini’s in het openbaar plaatsen met slechts een paar klikken, maar ze kunnen slechts een paar van dergelijke verzoeken indienen voordat hen wordt gevraagd zich aan te melden voor een premium lidmaatschap, dat $ 8 per maand kost.

NPR beoordeelde de openbaar beschikbare afbeeldingen van Grok die eerder deze maand waren gemaakt en ontdekte dat ze enkele dagen in 2026 waren gestopt met het maken van afbeeldingen van schaars geklede vrouwen. Er zijn echter nog steeds af en toe in bikini geklede mannen te zien.

xAI, het moederbedrijf van X, promoot sinds vorig jaar inhoud voor volwassenen met Grok. In mei Koltai merkte het als eerste op dat de chatbot seksueel expliciete afbeeldingen zou genereren als reactie op verzoeken op X zoals ’trek haar kleren uit’. Afgelopen zomer introduceerde Grok de ‘spicy mode’ in zijn zelfstandige app, waarmee gebruikers bikini’s op door AI gegenereerde personages konden plaatsen.

Ben Winters, directeur AI en privacy bij de belangenorganisatie Consumer Federation of America, zei dat Grok nu niet alleen het bewerken van foto’s van echte mensen mogelijk maakt, maar ook een eenvoudig distributieplatform biedt via X. “Het is een verdere en aanzienlijke escalatie”, zei hij.

Regeringen zijn verontwaardigd over de stap van X om de toegang tot de functie voor het genereren van afbeeldingen te beperken tot abonnees. Dat heeft de Britse minister van Technologie Liz Kendall gezegd Sky-nieuws “Het is beledigend om te zeggen dat je nog steeds toegang hebt tot deze dienst als je ervoor betaalt.”

De Indonesische regering ontdekte dat Grok geen effectieve waarborgen had om te voorkomen dat gebruikers pornografische inhoud zouden maken zonder toestemming op basis van echte Indonesische inwoners, eerst Associated Press gemeld.

“De regering beschouwt seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte”, zei de Indonesische minister van Communicatie en Digitale Zaken, Meutya Hafid, in een verklaring.

De AP meldde ook dat Grok in Maleisië geblokkeerd zal blijven totdat er effectieve waarborgen tegen misbruik zijn getroffen.

In antwoord op de vraag van NPR wees X-woordvoerder Victoria Gillespie er één aan verklaring gepost op 3 januari, waarin staat dat “iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt.” De verklaring was een weerspiegeling van die van Musk na eerder op dezelfde dag.

Een dergelijke aanpak is een ‘poging om afstand te doen van verantwoordelijkheid’, zei Winters.

“Het is zeker niet alleen de gebruiker die de auto alleen bestuurt”, zegt hij. “Het is het feit dat het beeld niet zou zijn gemaakt zonder de tool die ze hebben gemaakt.”

Voordat de golf van door Grok gegenereerde expliciete deepfakes zonder toestemming X bereikte, hadden andere AI-makers soortgelijke mogelijkheden aan hun chatbots toegevoegd. In november bracht Google een nieuw beeldgenererend model uit, de Nano Banana Pro. In december heeft OpenAI zijn model ChatGPT Images bijgewerkt. Beide kunnen ook foto’s bewerken om mensen in bikini’s te plaatsen, Wired gemeld vorige maand. Een draad op Reddit waarin dergelijke afbeeldingen worden verspreid, is verwijderd.

In een andere X berichtenMusk suggereerde dat, aangezien tools van andere AI-bedrijven ook deze verhullende functie hebben, de druk van overheden een vorm van censuur is die op zijn platform is gericht.

Koltai merkte op dat de trend om zonder toestemming door AI gegenereerde intieme media te maken de afgelopen twee jaar aan de gang is. “Je ziet deze advertenties zelfs op Instagram. Het is zoiets als: upload een foto van jou en je geliefde en je kunt zoenen”, zei ze. “Dus het is kussen en knuffelen, en dan zie je dat er een extremer spectrum is.”

“Er is duidelijk een groot probleem binnen de technologie-industrie, omdat we dit op meerdere platforms hebben gezien en (er zijn) niet altijd goede richtlijnen, grenzen of regelgeving”, zei Koltai.

De kritiek in de Verenigde Staten is veel gematigder dan in andere landen. Laat. Ted Cruz, R-Tex., gepubliceerd op X woensdag dat de foto’s “moeten worden verwijderd en dat er vangrails moeten worden geplaatst.” Hij zei ook dat hij “bemoedigd is dat X heeft aangekondigd dat ze deze schendingen serieus nemen en eraan werken om alle illegale afbeeldingen en aanstootgevende gebruikers van hun platform te verwijderen.”

Grok heeft het afgelopen jaar regelmatig voor controverse gezorgd. afgelopen zomer, de chatbot noemde zichzelf “MechaHitler” en spuwde antisemitische complottheorieën uit.

Apps met zogenaamde nudificerende eigenschappen bestaan ​​al jaren, meestal in de schaduw van het internet. Winters zei dat ambtenaren meer moeten doen om enkele kenmerken van X in de gaten te houden. “Er bestaan ​​verkeerde voorstellingen over de veiligheid van hun producten. Er zijn schendingen van hun servicevoorwaarden”, zei hij.

“We hebben geen enkele significante actie gezien van Amerikaanse instanties, zowel op staats- als federaal niveau, die de bevoegdheid hebben om de wet te handhaven”, aldus Winters.