De Britse technologiesecretaris heeft een golf van afbeeldingen opgeroepen van vrouwen en kinderen met hun kleding digitaal verwijderd, gegenereerd door Elon Musk Grok AI “verschrikkelijk en onaanvaardbaar in een fatsoenlijke samenleving”.
Nadat duizenden intieme deepfakes online circuleerden, Liz Kendal zei dat X, het socialemediaplatform van Musk, dit “dringend moest aanpakken” en zij steunde de Britse toezichthouder Ofcom om “alle handhavingsmaatregelen te nemen die zij nodig acht”.
“We kunnen en zullen de verspreiding van deze vernederende en vernederende beelden, die onevenredig gericht zijn op vrouwen en meisjes, niet toestaan”, zei ze. “Vergis je niet, Groot-Brittannië zal de eindeloze verspreiding van walgelijk en aanstootgevend materiaal online niet tolereren. We moeten allemaal samenwerken om dit uit te roeien.”
Haar opmerkingen kwamen te midden van waarschuwingen dat de Online Safety Act, die tot doel heeft online schade aan te pakken en kinderen te beschermen, moet worden aangescherpt, ondanks de druk van de regering-Trump om deze af te zwakken.
Een deskundige had kritiek op het “tennisspel” tussen platforms zoals X en Britse toezichthouders toen er zich problemen voordeden, en noemden de reactie van de regering ‘zorgwekkend traag’.
Jessaline Caine, een overlevende van seksueel kindermisbruik, noemde de reactie van de regering ‘ruggengraatloos’ en vertelde de Guardian dat de chatbot dinsdagochtend nog steeds voldeed aan verzoeken om een foto van haar als driejarige te manipuleren om haar in een string bikini te kleden. Haar identieke verzoeken aan ChatGPT en Gemini werden afgewezen.
“Andere platforms hebben deze waarborgen, dus waarom staat Grok de creatie van deze afbeeldingen toe?” zei ze. “De beelden die ik heb gezien zijn zo weerzinwekkend en vernederend. De overheid is zeer reactief geweest. Deze AI-instrumenten hebben betere regelgeving nodig.”
Maandag zei Ofcom dat het op de hoogte was van ernstige zorgen over het feit dat Grok ongeklede afbeeldingen van mensen en geseksualiseerde afbeeldingen van kinderen zou maken. Het zei dat het contact had opgenomen met X en xAI “om te begrijpen welke stappen zij hebben ondernomen om te voldoen aan hun wettelijke plichten om gebruikers in het Verenigd Koninkrijk te beschermen” en dat het de noodzaak van een onderzoek zou beoordelen op basis van de reactie van het bedrijf.
De druk op de ministers om een hardere lijn te volgen groeit. Beeban Kidron, crossbench-collega en campagnevoerder voor online kinderveiligheid, heeft er bij de regering op aangedrongen “enige ruggengraat te tonen” en opgeroepen tot een “heronderzoek van het Online Safety Act-regime, zodat het sneller is en meer tanden heeft”.
Over X zei ze: “Als een ander consumentenproduct deze schade zou veroorzaken, zou het al teruggeroepen zijn.”
Ze zei dat Ofcom actie moest ondernemen “in dagen, niet in jaren” en drong er bij gebruikers op aan weg te lopen “van producten die geen serieuze intentie tonen om schade aan kinderen, vrouwen en de democratie te voorkomen”.
Ofcom heeft de bevoegdheid om technologieplatforms tot £ 18 miljoen te verfijnen. of 10% van hun kwalificerende wereldwijde omzet, afhankelijk van welke van de twee het grootst is. De grootste boete tot nu toe kwam vorige maand, toen een pornoaanbieder de verplichte leeftijdscontroles niet uitvoerde kreeg een boete van 1 miljoen DKK.
Vorige maand beloofden de ministers nieuwe wetten om ‘nudificatie’-tools te verbieden, die generatieve AI gebruiken om afbeeldingen van echte mensen om te zetten in nep-naaktfoto’s en -video’s zonder hun toestemming. Het is nog onduidelijk wanneer het verbod van kracht wordt.
Sarah Smith, hoofd innovatie bij de Lucy Faithfull Foundation, een liefdadigheidsinstelling die zich inzet om kindermisbruik te voorkomen, riep X op om de beeldbewerkingsfuncties van Grok onmiddellijk uit te schakelen “totdat er robuuste waarborgen zijn getroffen om te voorkomen dat dit opnieuw gebeurt”.
X heeft niet gereageerd op een verzoek om commentaar op de opmerkingen van Kendall. Maandag stond er: “We ondernemen actie tegen illegale inhoud op X, inclusief materiaal met seksueel misbruik van kinderen, door het te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale autoriteiten en wetshandhavers.”
Jake Moore, een wereldwijde cyberveiligheidsadviseur bij beveiligingssoftwarebedrijf ESET, bekritiseerde het ‘tennisspel’ tussen platforms als X en de Britse toezichthouders en noemde de reactie van de regering ‘verontrustend traag’.
Hij zei dat naarmate AI steeds meer toestond dat nepbeelden als langere video’s werden weergegeven, de gevolgen voor de levens van mensen alleen maar erger zouden worden.
“Het is ongelooflijk dat dit in 2026 zou kunnen gebeuren”, zei hij. “We moeten vooruitgang boeken met extreme regelgeving. Elk grijs gebied dat we aanbieden zal worden misbruikt. De regering begrijpt het grotere plaatje hier niet.”
Het is al illegaal om zonder toestemming intieme afbeeldingen of materiaal met seksueel misbruik van kinderen te maken of te delen, inclusief seksuele deepfakes gemaakt met AI. Valse foto’s van mensen in bikini kunnen kwalificeren als intieme foto’s definitie omvat in de wetgeving de persoon die blote borsten, billen of geslachtsdelen heeft of alleen deze delen bedekt heeft met ondergoed. Onfatsoenlijke beelden erbij betrekken die kinderen afbeelden in erotische posities zonder seksuele activiteit.
Lady Kidron zei dat door AI gegenereerde afbeeldingen van kinderen in bikini’s misschien geen materiaal voor seksueel misbruik van kinderen zijn, maar dat ze de privacy en keuzevrijheid van kinderen niet respecteerden.
“We kunnen niet in een wereld leven waarin een kind geen foto kan plaatsen van het winnen van een race, tenzij hij of zij bereid is zich te laten seksualiseren en vernederen”, zei ze.
