Vrouwen en meisjes dagen Grok van Elon Musk voor de rechter vanwege deepfakes op het gebied van AI

Maandag drie meiden heeft een class action-rechtszaak aangespannen tegen xAI, bewerend dat de Grok AI-tool van het bedrijf werd gebruikt om uit hun afbeeldingen materiaal over seksueel kindermisbruik te genereren.

Deze nieuwe civiele rechtszaak sluit zich aan bij ten minste twee andere, waarbij niet-consensuele deepfakes zijn aangespannen tegen xAI, opgericht door miljardair Elon Musk. Die eerdere zaken draaiden om niet-consensuele deepfakes die op X waren gepost, het socialemediaplatform dat ook eigendom is van Musk, terwijl deze nieuwe klacht betrekking heeft op een app van derden die op Grok AI vertrouwde om afbeeldingen te maken.

Grok-afbeeldingen genereren debuteerde in december op Xen gebruikers vonden onmiddellijk manieren om seksueel expliciete afbeeldingen te genereren, ondanks dat naaktheid verboden was. Grok genereerde in negen dagen ruim 4,4 miljoen afbeeldingenvolgens een recensie van The New York Times, en 1,8 miljoen daarvan waren geseksualiseerde afbeeldingen van vrouwen. Onderzoekers van het non-profit Center for Countering Digital Hate naar schatting maakte Grok 23.000 geseksualiseerde afbeeldingen van kinderen ruim 11 dagen.

Terwijl sommige gebruikers foto’s van zichzelf maakten, waren veel van de foto’s van mensen die geen idee hadden dat ze digitaal werden uitgekleed op sociale media.

Voorlopig zijn de drie rechtszaken de enige weg naar gerechtigheid voor de duizenden, zo niet miljoenen, mensen die op deze manier het slachtoffer zijn geworden van Grok. Federale aanklagers hebben nog geen strafzaak gevoerd Take It Down-actiedie de publicatie van intieme afbeeldingen zonder toestemming verbiedt. (Inderdaad, zelfs toen de diepgaande vervalsingen van Grok aanleiding gaven tot internationaal onderzoek, heeft het Pentagon kondigde aan dat ze Grok zouden integreren in januari, nadat hij het jaar ervoor een contract van $ 200 miljoen had binnengehaald.) Alle drie de zaken zijn civiele zaken waarin schadevergoeding wordt geëist.

“We hebben geen mechanismen om verantwoordelijk te houden, om transparantie te eisen, om informatie van deze bedrijven te eisen, en ze zijn ongelooflijk resistent tegen het nemen van verantwoordelijkheid wanneer hun platforms schade aanrichten”, zegt Imran Ahmed, oprichter en CEO van het non-profit Center for Countering Digital Hate.

“Ervoor zorgen dat jouw platform geen machine op industriële schaal is voor het seksueel misbruiken van vrouwen en kinderen lijkt een no-brainer voor iemand die een consumentenplatform wil lanceren,” zei Ahmed.

xAI reageerde niet op een verzoek om commentaar.

Alle rechtszaken betreffen nalatigheid van de kant van xAI bij het vrijlaten van Grok. In elk geval wordt beweerd dat xAI geen industriestandaard tests heeft uitgevoerd of gemeenschappelijke waarborgen heeft geïmplementeerd om het genereren van expliciete, niet-consensuele beelden of materiaal met seksueel misbruik van kinderen te voorkomen.

xAI debuteerde in 2023 met de Grok-chatbot en Musk kondigde deze aan als tegengif voor andere chatbots waarvan hij zei dat ze besmet met het ‘wake-mind-virus’. Vanaf het begin, ontwikkelaars zeiden dat Grok “pittige” vragen zou beantwoorden dat andere apps zouden weigeren te reageren. Deze claim is het bedrijf in deze rechtszaken blijven achtervolgen, omdat het wordt gebruikt om nalatigheid aan te tonen.

Grok bestaat als een zelfstandige app en is toegankelijk via het sociale mediaplatform X, voorheen bekend als Twitter. Op 20 december 2025 kondigde Musk aan dat Grok gevraagd zou kunnen worden om afbeeldingen op X te bewerken en te genereren. Deepfake-misbruik explodeerde op het platform, waarbij veel politici en waakhonden van het maatschappelijk middenveld alarm sloegen. Na weken van weinig actie zei de socialemediagigant dat het genereren van afbeeldingen beperkt zou blijven tot betaalde X-accounts – in wezen geld verdienen zonder toestemming, betoogden critici. (Dat ook stopte niet helemaal bevrijdt X-accounts van het maken van afbeeldingen met Grok.)

Op 14 januari Musk heeft de X uitgegeven dat hij “niet op de hoogte was van kleine naaktfoto’s gegenereerd door Grok”, maar zei dat “vijandige hacking” tot onverwachte resultaten zou kunnen leiden die onmiddellijk zouden worden verholpen. In twee van de drie rechtszaken wordt beweerd dat Grok vóór die datum seksueel expliciete, zo niet volledig naakte, afbeeldingen van kinderen heeft gemaakt.

Twee van de huidige zaken komen voort uit de uitrol van Grok’s beeldgenerator bij X. Ashley St. Clair, een politieke beïnvloeder en moeder van een van Musk’s 14 publiekelijk erkende kinderen, heeft xAI op 15 januari aangeklaagd nadat gebruikers Grok hadden gevraagd seksueel expliciete afbeeldingen van haar te maken. St. Clair zegt dat sommige afbeeldingen een beeld van haar als 14-jarige veranderen, waardoor door AI gegenereerd materiaal over seksueel misbruik van kinderen ontstaat.

Jane Doe, de aanklager class action-rechtszaak ingediend op 23 januariis een vrouw uit South Carolina die zegt dat het Grok-account zonder haar toestemming een door AI gegenereerde foto van haar in een onthullende bikini heeft geplaatst. Ze zei dat X weigerde de foto te verwijderen nadat ze deze in eerste instantie had gemeld, en dat ze de foto pas kon laten verwijderen nadat ze deze in drie dagen meerdere keren had gerapporteerd. Ze zei dat ze onbetaald verlof moest nemen en leeft in angst dat het imago weer de kop op zal steken en haar professionele kansen zal kosten.

In tegenstelling tot de vorige twee zaken richt de class action-rechtszaak die maandag is aangespannen zich op materiaal over seksueel kindermisbruik dat naar verluidt is gemaakt op een app waarvoor een licentie is verleend Grok Imagine-API. Drie studenten uit Tennessee, twee minderjarigen en één wier deepfakes uit foto’s van haar waren gehaald toen ze nog geen 18 was, ontdekten dat iemand door AI gegenereerd materiaal over seksueel misbruik van kinderen maakte van foto’s die ze op sociale media hadden geplaatst. De verdachte zou deze beelden hebben verspreid, samen met de voornamen van de slachtoffers en de naam van hun school, waardoor de kans op lichamelijk letsel groter werd. De verdachte werd in december gearresteerd en volgens de klacht hebben de aanklagers, bekend als Jane Does 1, 2 en 3, last gehad van ernstige angstgevoelens, vooral op school.

Maar Riana Pfefferkorn, een beleidsmedewerker bij het Stanford Institute for Human-Centered AI en een expert op het gebied van door AI gegenereerde wetten tegen seksueel kindermisbruik, zei dat deze rechtszaak lijkt op een “aanklacht tegen xAI op de harde manier”, omdat de klacht de deepfakes van twee van de eisers niet rechtstreeks aan Grok koppelt.

Er zijn nog een paar andere uitdagingen waarmee deze zaken tegen xAI worden geconfronteerd. Juridisch gezien zei Pfefferkorn dat xAI heeft aangegeven dat het zal proberen de zaken te laten seponeren op grond van Sectie 230 van de Communications Decency Act, die zegt dat platforms niet verantwoordelijk zijn voor wat hun gebruikers plaatsen, tenzij het verband houdt met sekshandel. (De aanklacht die maandag werd ingediend, beweert dat xAI de Victims of Trafficking Protection Act heeft overtreden.) Dit is een gebied van open juridisch debat, aangezien mensen Grok vermoedelijk afbeeldingen hebben laten genereren, maar het @grok-account de deep fakes heeft gepost.

Deze gevallen zouden een kans kunnen zijn om duidelijk te maken dat AI-platforms verantwoordelijk moeten worden gehouden voor de spraak die ze genereren, zei Ahmed. “Ons juridisch kader moet veranderen om met de nieuwe realiteit om te kunnen gaan”, zei hij, terwijl hij pleitte voor hervorming van Sectie 230.

Als de federale DEFIANCE Act wordt aangenomen, zou dit een nieuwe mogelijkheid kunnen bieden voor financiële compensatie voor slachtoffers van deepfakes. De rekening heeft de Senaat ontruimden pleitbezorgers verzamelen voor een stemming in het parlement.

De class action van maandag werd ingediend in het noordelijke district van Californië, net als de andere class action. St. Clair heeft haar aanklacht ingediend in het zuidelijke district van New York, waar ze woont. De twee voorgaande zaken hangen samen met verzoeken om in Texas te worden vervolgd. xAI beweert dat gebruikers van Grok akkoord gingen met servicevoorwaarden die vereisten dat alle rechtszaken moesten worden aangespannen in het noordelijke district van Texas, de thuisbasis van een conservatieve rechterlijke macht die d. minstens één keer heeft in het voordeel van Musk beslist.