Na het creëren van duizenden van “uitkleedt” afbeeldingen van vrouwen en geseksualiseerde afbeeldingen van ogenschijnlijk minderjarigen, heeft Elon Musk’s X blijkbaar beperkt wie afbeeldingen kan genereren met Grok. Maar ondanks de veranderingen wordt de chatbot nog steeds gebruikt om ‘uitkledende’ geseksualiseerde afbeeldingen op het platform te creëren.
Vrijdagochtend begon het Grok-account op X te reageren op verzoeken van sommige gebruikers met de boodschap dat het genereren en bewerken van afbeeldingen “momenteel beperkt is tot betalende abonnees”. Het bericht bevat ook een link die mensen naar het jaarlijkse abonnementsniveau van $ 395 van het sociale-mediaplatform duwt. Bij een test van het systeem waarbij Grok werd gevraagd een afbeelding van een boom te maken, retourneerde het systeem hetzelfde bericht.
De schijnbare verandering komt na dagen van groeiende verontwaardiging tegen en streng toezicht van Musk’s X en xAI, het bedrijf achter de Grok-chatbot. De bedrijven worden geconfronteerd met een toenemend aantal onderzoeken van regelgevende instanties over de hele wereld met betrekking tot het maken van expliciete afbeeldingen zonder toestemming en vermeende seksuele afbeeldingen van kinderen. De Britse premier Keir Starmer hebben niet uitgesloten verbiedt X in het land en zegt dat de acties “illegaal” zijn.
Noch X, noch xAI, het bedrijf dat eigendom is van Musk achter Grok, heeft bevestigd dat het het genereren en bewerken van afbeeldingen een betaalde functie heeft gemaakt. Een woordvoerder van X erkende het onderzoek van WIRED, maar gaf voorafgaand aan de publicatie geen commentaar. X heeft dit eerder gedaan gezegd er is “actie nodig tegen illegale inhoud op X”, inclusief gevallen van materiaal met seksueel misbruik van kinderen. Hoewel Apple en Google eerder apps met vergelijkbare ‘nudify’-functies hebben verboden, X en Grok blijven beschikbaar in hun respectievelijke appstores. xAI reageerde niet onmiddellijk op het verzoek van WIRED om commentaar.
Al meer dan een week vragen gebruikers op X de chatbot om foto’s van vrouwen te bewerken om hun kleding te verwijderen, vaak met de vraag of de foto een ‘string’ of ’transparante’ bikini bevat. Hoewel een openbare feed met afbeeldingen gemaakt door Grok vrijdag veel minder resultaten bevatte van deze ‘uitkleed’-afbeeldingen, produceerde deze nog steeds geseksualiseerde afbeeldingen op verzoek van X-gebruikers met betaalde ‘geverifieerde’ accounts.
“We observeren dezelfde soort prompt, we observeren dezelfde soort uitkomsten, alleen minder dan voorheen”, vertelde Paul Bouchaud, hoofdonderzoeker bij de in Parijs gevestigde non-profitorganisatie AI Forensics, aan WIRED. “Het model kan doorgaan met het genereren van bikini(afbeeldingen)”, zeggen ze.
Uit een WIRED-recensie van enkele Grok-posts op vrijdagochtend bleek dat Grok afbeeldingen genereerde als reactie op gebruikersverzoeken voor afbeeldingen die “haar in latex lingerie stopten” en “haar in een plastic bikini stopten en haar bedekten met witte donutglazuur.” De afbeeldingen verschijnen achter een vak met een ‘inhoudswaarschuwing’ waarin staat dat er materiaal voor volwassenen wordt weergegeven.
Woensdag onthulde WIRED dat de zelfstandige website en app van Grok, die los staat van de versie op X, de afgelopen maanden ook is gebruikt om zeer expliciete en soms gewelddadige seksuele video’sinclusief beroemdheden en andere echte mensen. Bouchaud zegt dat het nog steeds mogelijk is om Grok te gebruiken om deze video’s te maken. “Ik kon zonder enige beperking een seksueel expliciete video genereren vanuit een niet-geverifieerd account”, zeggen ze.
Terwijl WIRED’s test van het genereren van afbeeldingen met Grok op X met behulp van een gratis account het maken van afbeeldingen niet toestond, genereerde het gebruik van een gratis account op de app en website van Grok nog steeds afbeeldingen.
De verandering op X zou de hoeveelheid seksueel expliciet en schadelijk materiaal dat het platform creëert onmiddellijk kunnen beperken, zeggen experts. Maar het is ook bekritiseerd als een minimale stap die dient als pleister voor de echte schade veroorzaakt door intieme beelden zonder toestemming.
“Het recente besluit om de toegang te beperken tot betalende abonnees is niet alleen ontoereikend – het vertegenwoordigt het genereren van inkomsten uit misbruik”, zegt Emma Pickering, hoofd technologiegefaciliteerd misbruik bij de Britse liefdadigheidsinstelling Refuge, in een verklaring. “Hoewel het beperken van het genereren van AI-afbeeldingen tot betalende gebruikers het volume marginaal kan verminderen en de traceerbaarheid kan verbeteren, is het misbruik niet gestopt. Het is eenvoudigweg achter een betaalmuur geplaatst, waardoor X kan profiteren van de schade.”
