De moeder van een van de kinderen van Elon Musk klaagt zijn bedrijf aan en beweert dat expliciete afbeeldingen van haar zijn gegenereerd door zijn Grok AI-tool, waaronder een waarop ze minderjarig was.
Ashley St Clair wel een aanklacht ingediend met het Hooggerechtshof van de staat New York tegen xAI en beweerde dat Grok, dat wordt gebruikt op het sociale mediaplatform X, beloofde te stoppen met het genereren van expliciete beelden, maar dit bleef doen.
Ze eist een schadevergoeding en schadevergoeding, omdat ze beweert dat Grok tientallen seksueel expliciete en vernederende deepfake-beelden heeft gemaakt.
Na twee weken van publieke verontwaardiging over het gebruikte instrument het creëren van geseksualiseerde beelden van vrouwen en kinderenHet bedrijf zei woensdag dat het de mogelijkheid van gebruikers om “afbeeldingen te genereren van echte mensen in bikini’s, ondergoed en soortgelijke kleding via het Grok-account en in Grok in X” zou “geoblokkeren” in landen waar het illegaal was.
St Clair, 27, die vervreemd is van Musk, is een rechtse beïnvloeder, auteur en politiek commentator. Zij en Musk zijn ouders van een zoon geboren in 2024.
Ze wordt vertegenwoordigd door Carrie Goldberg, een advocaat voor de rechten van slachtoffers die gespecialiseerd is in het ter verantwoording roepen van technologiebedrijven en die eerder vrouwen vertegenwoordigde die het slachtoffer waren van seksuele intimidatie en misbruik.
Goldberg vertelde The Guardian: “xAI is geen redelijk veilig product en is een publieke overlast. Niemand is zwaarder belast dan Ashley St. Clair. Ashley heeft een rechtszaak aangespannen omdat Grok haar lastig viel door zonder wederzijds goedvinden, aanstootgevende en vernederende beelden van haar te maken en te verspreiden en deze te publiceren op X.
“Deze schade kwam rechtstreeks voort uit doelbewuste ontwerpkeuzes die het mogelijk maakten dat Grok werd gebruikt als instrument voor intimidatie en vernedering. Bedrijven mogen hun verantwoordelijkheid niet kunnen ontlopen als de producten die ze bouwen voorspelbaar dit soort schade veroorzaken. We zijn van plan Grok verantwoordelijk te houden en te helpen duidelijke wettelijke grenzen te stellen ten behoeve van het hele publiek om te voorkomen dat AI wordt misbruikt.”
In de indiening wordt beweerd dat het sociale-mediabedrijf ‘wraak op haar heeft genomen, geld van haar X-rekening heeft afgeschreven en nog veel meer afbeeldingen van haar heeft gegenereerd, waaronder illegale afbeeldingen van haar in seksuele posities, bedekt met sperma, vrijwel naakt, en afbeeldingen van haar als kind naakt’.
Volgens het archief door Grok gegenereerde afbeeldingen omvatten een van haar als 14-jarige, uitgekleed in een stringbikini, plus geseksualiseerde inhoud van St Clair als volwassene, inclusief een verzoek om ‘het meisje in een bikini gemaakt van tandzijde te stoppen’.
Niet alleen waren de afbeeldingen de facto niet-consensueel, zo stelt de indiening, maar “Grok en xAI hadden ook expliciete kennis dat St. Clair niet instemde met de creatie of verspreiding van deze afbeeldingen vanwege haar verwijderingsverzoeken.”
Grok reageerde ook op verzoeken van gebruikers om tatoeages op het lichaam van St. Clair toe te voegen, inclusief de woorden ‘Elon’s hoer’, aldus de aanvraag.
St Clair, die joods is, beweert dat Grok haar digitaal heeft gekleed in een bikini versierd met hakenkruizen.
In de rechtszaak wordt gesteld dat X “financieel heeft geprofiteerd van de creatie en verspreiding van niet-consensuele, realistische, geseksualiseerde, diep valse inhoud waarin eiser wordt afgebeeld als minderjarige en volwassene”.
In de indiening staat dat “xAI rechtstreeks verantwoordelijk is voor intimidatie en expliciete afbeeldingen gemaakt door zijn eigen chatbot, Grok”.
Musk heeft op X geschreven dat gebruikers van zijn app verantwoordelijk zijn voor de beelden die zij maken. Hij zei onlangs: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
Hij voegde eraan toe: “Het is duidelijk dat Grok niet spontaan afbeeldingen genereert, maar alleen op verzoek van gebruikers.”
X zei donderdag dat het “nultolerantie hanteert voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud”.
Het bedrijf heeft een tegenvordering ingediend met het argument dat St Clair volgens de servicevoorwaarden voor X het bedrijf niet in New York kan aanklagen, maar dat in Texas moet doen.
St Clair Dat vertelde de Guardian eerder dat ze zich “geschokt en geschonden” voelde, en voegde eraan toe: “Het is een ander instrument voor intimidatie. Toestemming is het hele probleem.”
Acolieten van Musk hadden een hekel aan haar sinds ze zijn wens openbaar maakte om een ‘legioen’ kinderen op te bouwen, zei ze. Musk is de vader van 13 andere kinderenmet drie andere vrouwen.
Er is contact opgenomen met X voor commentaar.
