Vernederende beelden van kinderen en vrouwen waarvan de kleding digitaal is verwijderd door Grok AI worden nog steeds gedeeld op Elon Musk’s X, ondanks de toewijding van het platform om gebruikers die deze genereren te schorsen.
Na dagen van bezorgdheid over het gebruik van chatbots om foto’s te veranderen om geseksualiseerde beelden van echte vrouwen te creëren kinderen uitgekleed tot op hun ondergoed Zonder hun toestemming zei de Britse communicatiewaakhond Ofcom maandag dat het “snel contact had opgenomen met X en xAI om te begrijpen welke stappen zij hebben genomen om te voldoen aan hun wettelijke verplichtingen om gebruikers in het VK te beschermen”. Ofcom voegde eraan toe dat het zou beoordelen of een onderzoek nodig is op basis van de reactie van het bedrijf.
Ondertussen beschuldigden politici en vrouwenrechtenactivisten de Britse regering ervan “achter de feiten aan te lopen” door er niet in te slagen wetgeving aan te nemen die zes maanden geleden werd aangenomen en die het maken van dergelijke intieme beelden illegaal zou maken.
De trend, die in het nieuwe jaar viraal ging, was voor de Europese Commissie aanleiding om maandag te zeggen dat zij “zeer serieus” onderzoek deed naar klachten dat Grok werd gebruikt om seksueel expliciete beelden van kinderen te genereren en te verspreiden.
De zorgen begonnen naar boven te komen nadat een update in december van Musks gratis AI-assistent, Grok, het voor gebruikers gemakkelijker maakte om foto’s te plaatsen en te vragen om hun kleding te laten uittrekken. Hoewel de site geen volledige nudificatie toestaat, kunnen gebruikers wel verzoeken dat afbeeldingen worden gewijzigd om mensen in klein, onthullend ondergoed en in seksueel georiënteerde poses te tonen.
Op zondag en maandag bleven Grok-gebruikers seksueel georiënteerde afbeeldingen van minderjarigen genereren, waarbij afbeeldingen van kinderen vanaf 10 jaar in één nacht werden gemaakt. Ashley St Clair, moeder van een van Musks kinderen, klaagde erover De AI-tool genereerde een foto van haar toen ze 14 jaar oud was in bikini.
Een foto van Stranger Things-actrice Nell Fisher werd zondag door Grok bewerkt om haar in een bikini met bananenprint te plaatsen. Visser is 14 jaar oud. Veel vrouwen hebben hun woede hierover geuit X nadat ze ontdekten dat hun foto’s zonder hun toestemming waren verwijderd. Op sommige door de AI-tool gemanipuleerde afbeeldingen van vrouwen en kinderen lijken stoffen die lijken op sperma op hun gezicht en borsten te zijn uitgesmeerd.
Wetenschappers weten het AI-forensisch onderzoekeen in Parijs gevestigde non-profitorganisatie onderzocht 50.000 vermeldingen van @Grok op X en 20.000 door de tool gegenereerde afbeeldingen, gevonden gedurende een periode van een week tussen 25 december en 1 januari. Zeker een kwart van de @Grok-vermeldingen betrof verzoeken voor de tool voor het maken van afbeeldingen. Binnen deze prompts voor het genereren van afbeeldingen was er een hoge prevalentie van termen als ‘haar’, ‘set’, ‘verwijderen’, ‘bikini’ en ‘kleding’.
Het bleek dat meer dan de helft van de afbeeldingen mensen waren in ‘minimale kleding’ zoals ondergoed of bikini’s, waarbij de meerderheid vrouwen waren die jonger leken te zijn dan 30 jaar. Een minderheid van de afbeeldingen, of 2%, lijkt mensen van 18 jaar of jonger te tonen, voegde AI Forensics eraan toe, waarbij sommige afbeeldingen kinderen jonger dan vijf jaar vertegenwoordigen. De onderzoekers zeiden dat het grootste deel van de inhoud nog steeds online beschikbaar was en dat er ook verzoeken in stonden om nazi- en Islamitische Staatspropaganda te genereren.
Musk toonde zich aanvankelijk geamuseerd over de trend en plaatste vrijdag de huilende emoji als reactie op een foto van een digitaal ontworpen broodrooster die een bikini draagt. Hij zei: “Ik weet niet zeker waarom, maar ik kon niet stoppen met lachen om deze.” Na wereldwijde verontwaardiging over de schadelijke aard van de inhoud, schreef hij later dat “iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud zou uploaden”.
Een woordvoerder van X zei: “We ondernemen actie tegen illegale inhoud op X, inclusief materiaal van seksueel misbruik van kinderen (CSAM), door het te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale autoriteiten en wetshandhavers.”
Een eerdere verklaring van Grok, waarin hij aankondigde dat het “veiligheidstekortkomingen had geïdentificeerd” en deze “snel repareerde”, bleek te zijn gegenereerd door kunstmatige intelligentie; het was niet duidelijk of het bedrijf daadwerkelijk stappen ondernam om beveiligingsfouten op te lossen.
Regelgevers hebben jarenlang gewerkt aan het verbieden van nudificatie-apps op telefoons, met wisselend succes, maar de updates van Grok van vorige maand hebben het probleem mainstream gemaakt, waardoor het gemakkelijk is geworden om intieme foto’s te maken en te delen van individuen waarvan de meeste kleding is verwijderd, op een van de populairste platforms van internet.
Hoewel het maken van afbeeldingen met uitgetrokken kleding van kinderen al illegaal is, is de wet rond het maken van deepfakes door volwassenen ingewikkelder. Britse campagnevoerders zijn er afgelopen juni in geslaagd wetgeving aan te nemen die het illegaal maakt om intieme afbeeldingen te maken en te vragen zonder toestemming van een persoon. De relevante bepalingen moeten echter nog worden geïmplementeerd, wat betekent dat de wetgeving momenteel niet afdwingbaar is. Het zonder toestemming delen van deze deepfake-beelden is echter al illegaal.
Charlotte Owen, de conservatieve collega die vóór de wetgeving waszei: “De regering heeft herhaaldelijk de hielen gezeten en geweigerd een tijdschema te geven voor de inwerkingtreding van deze essentiële bepalingen. We kunnen ons geen uitstel meer veroorloven. Overlevenden van dit misbruik verdienen beter. Niemand zou moeten leven in angst dat zijn toestemming op deze gruwelijke manier wordt geschonden.”
Een woordvoerder zei dat de regering vastbesloten is om de nieuwe misdrijven van het creëren of uitlokken van een intieme deepfake zonder toestemming zo snel mogelijk ten uitvoer te leggen, en voegde eraan toe dat seksueel expliciete deepfakes “vernederend en schadelijk zijn… daarom hebben we wetgeving opgesteld om de creatie ervan zonder toestemming te verbieden en ervoor te zorgen dat overtreders met het passende strafbare feit worden geconfronteerd.”
Gabby Bertijnde conservatieve collega, die campagne heeft gevoerd om de nudificatietechnologie te reguleren, zei dat de regering snel moest handelen omdat de huidige wetgeving “altijd een inhaalslag maakt”.
Jess Asato, het Labour-parlementslid dat campagne heeft gevoerd voor een betere regulering van pornografie, zei: “Het is aan Elon Musk om te beseffen dat dit een vorm van aanranding is en passende actie te ondernemen. Het is het nemen van een foto van vrouwen zonder hun toestemming en het uitkleden ervan om haar te vernederen – er is geen andere reden om dit te doen dan om te vernederen.”
