De Australische onlineveiligheidswaakhond onderzoekt geseksualiseerde deepfake-afbeeldingen die op internet zijn geplaatst X Met dank aan AIA.
Elon Musk’s X heeft te maken gehad met een wereldwijde terugslag sinds Grok begon met het genereren van geseksualiseerde beelden van vrouwen en meisjes zonder hun toestemming als reactie op verzoeken om zich uit te kleden.
Ashley St Clair, de vervreemde moeder van een van Musks kinderen, zei dat ze geen reactie had op haar klachten over het digitaal uitkleden.
“Ik voelde me geschokt, ik voelde me geschonden, vooral toen ik de rugzak van mijn kleine kind achterin zag,” zei ze deze week.
Op de nepfoto’s was een foto te zien van een 12-jarig meisje in bikini. Grok-chatbot heeft een “verontschuldiging” afgegeven wanneer daarom wordt gevraagd, maar blijft deepfakes genereren.
eSafety Australia zei dat het afbeeldingen van volwassenen onderzoekt, maar dat de afbeeldingen van kinderen in dit stadium niet voldoen aan de drempel voor materiaal met seksuele uitbuiting van kinderen.
“Sinds eind 2025 heeft eSafety talloze rapporten ontvangen over het gebruik van Grok om zonder toestemming geseksualiseerde afbeeldingen te genereren”, aldus een woordvoerder van eSafety.
“Sommige rapporten hebben betrekking op afbeeldingen van volwassenen, die worden beoordeeld in het kader van ons programma voor misbruik op basis van afbeeldingen, terwijl andere betrekking hebben op materiaal voor mogelijke seksuele uitbuiting van kinderen, dat wordt beoordeeld in het kader van ons programma voor illegale en beperkte inhoud.
“De beeldgebaseerde meldingen van mishandeling zijn zeer recent binnengekomen en worden nog beoordeeld.
“Wat betreft de onwettige en beperkte inhoudsrapporten voldeed het materiaal niet aan de classificatiedrempel voor materiaal over seksuele uitbuiting van kinderen van klasse 1. Als gevolg hiervan heeft eSafety geen verwijderingskennisgevingen afgegeven of handhavingsmaatregelen genomen met betrekking tot deze specifieke klachten.”
Meld u aan: AU Breaking News-e-mail
De Australische toezichthouder definieert illegaal en beperkt materiaal als “online-inhoud, variërend van het meest ernstig schadelijke materiaal, zoals afbeeldingen en video’s waarin seksueel kindermisbruik of terroristische daden worden afgebeeld, tot inhoud waartoe kinderen geen toegang mogen hebben, zoals gesimuleerde seksuele activiteit, gedetailleerde naaktheid of gewelddadig geweld”.
De X-app geeft gebruikers toegang tot een ‘pittige modus’ voor expliciete inhoud.
“Dit is niet pikant”, zegt EU-woordvoerder digitale zaken Thomas Regnier. vertelde ABC. “Dit is illegaal. Het is verschrikkelijk.”
Eliot Higgins, oprichter van de onderzoeksjournalistieke groep Bellingcat, onthulde hoe Grok met verzoeken omging om een foto van de Zweedse vicepremier Ebba Busch in het parlement te manipuleren.
Gebruikers gaven Grok instructies zoals “bikini nu” en “stop haar nu in een bikini met Zuidelijke vlag”. Higgins zei dat de getoonde afbeeldingen de richtingen weerspiegelden.
Woensdag werd bekend dat Musks kunstmatige-intelligentiebedrijf xAI, dat Grok ontwikkelde, 20 miljard opgehaald in zijn laatste financieringsronde.
De Britse technologiesecretaris, Liz Kendall, zei dat de diep nep-beelden “verschrikkelijk en onaanvaardbaar waren in een fatsoenlijke samenleving” en dat X er “snel mee moest omgaan”.
De woordvoerder van eSafety zei dat de toezichthouder “bezorgd bleef over het toenemende gebruik van generatieve AI om mensen te seksualiseren of uit te buiten, vooral als er kinderen bij betrokken zijn”.
“eSafety heeft in 2025 handhavingsmaatregelen genomen tegen enkele van de ‘nudify’-diensten die het meest worden gebruikt om AI-materiaal voor seksuele uitbuiting van kinderen te creëren, wat heeft geleid tot hun terugtrekking uit Australië”, aldus de woordvoerder.
Guardian Australia heeft contact opgenomen met X voor commentaar. Maandag zei het bedrijf: “We ondernemen actie tegen illegale inhoud op X, inclusief materiaal over seksueel misbruik van kinderen, door het te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale autoriteiten en wetshandhavers.”
Na wereldwijde verontwaardiging over de schadelijke aard van de inhoud schreef Musk dat “iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt”.
In Australië is ondersteuning beschikbaar op Verder dan blauw op 1300 22 4636, Levenslijn om 13 11 14, en om Herenlijn op 1300 789 978. Kinderen, jongvolwassenen, ouders en leerkrachten kunnen contact opnemen Hulplijn voor kinderen om 1800 55 1800; volwassen overlevenden kunnen hulp zoeken bij Stichting Blauwe Knoop op 1300 657 380. In Groot-Brittannië: de liefdadigheidsinstelling Verstand is bereikbaar op 0300 123 3393 en Kinderlijn op 0800 1111. De NSPCC biedt ondersteuning voor kinderen op 0800 1111, en volwassenen die zich zorgen maken over een kind op 0808 800 5000. De Nationale Vereniging voor Mensen die in de kindertijd zijn misbruikt (Napac) biedt ondersteuning voor volwassen overlevenden op 0808 801 0331. Bel of sms in de VS Geestelijke gezondheidszorg Amerika op 988 of chat op 988lifeline.org, of bel of sms Kinderbijslag misbruikhotline op 800-422-4453. Andere hulpbronnen zijn te vinden op Kinderhulplijn Internationaal
