Tieners klagen Musk’s xAI aan en beweren dat de beeldgenerator seksueel expliciete beelden van hen als minderjarigen heeft gemaakt

Drie tieners uit Tennessee hebben deze week de xAI van Elon Musk aangeklaagd, omdat ze beweerden dat de tools voor het genereren van afbeeldingen van het bedrijf werden gebruikt om echte beelden ervan omzetten in expliciet seksuele beelden.

De middelbare scholieren, die onder pseudoniemen verder willen gaan, hebben de aanklacht ingediend in Californië, waar xAI – het kunstmatige intelligentiebedrijf van Musk – zijn hoofdkantoor heeft. Ze streven naar een class action-status om te vertegenwoordigen wat volgens de rechtszaak duizenden slachtoffers zijn, zoals zijzelf, die minderjarig zijn of minderjarig waren toen er seksueel expliciete beelden van werden gemaakt.

Volgens de rechtszaak werd Jane Doe 1 in december anoniem gewaarschuwd dat iemand seksueel expliciete afbeeldingen van haar verspreidde op een socialemediawebsite.

“Tenminste vijf van deze bestanden, één video en vier afbeeldingen, beeldden haar werkelijke gezicht en lichaam af in omgevingen waarmee ze vertrouwd was, maar getransformeerd in seksueel expliciete poses”, aldus de rechtszaak. Er wordt beweerd dat de persoon die de afbeeldingen verspreidde Doe kende en de tools voor het genereren van afbeeldingen van xAI gebruikte om echte afbeeldingen van haar om te zetten in seksueel misbruik. Eén van de foto’s is afkomstig van een thuiskomstfoto. Een andere komt uit een jaarboek van de middelbare school.

De persoon die de beelden verspreidde maakte ook expliciete beelden van zeker achttien andere meisjes, van wie er twee medeverdachten zijn in de rechtszaak. Eind december arresteerde de lokale politie de dader en nam zijn telefoon in beslag. Ze ontdekten dat hij de afbeeldingen op verschillende platforms had geüpload, waar hij ze inruilde voor seksueel expliciete afbeeldingen van andere minderjarigen.

Andere AI-bedrijven hebben hun beeldgeneratoren verboden seksueel expliciete inhoud te produceren, zelfs van volwassenen. De heer Musk zag dit als een zakelijke kans en promootte het vermogen van xAI’s Grok-chatbot om ‘pikante’ inhoud te creëren, zo beweert de rechtszaak. Er is momenteel echter geen manier om het genereren van expliciete afbeeldingen van volwassenen te voorkomen en tegelijkertijd het genereren van afbeeldingen van kinderen volledig te blokkeren, beweert de rechtszaak. Het beweert ook dat xAI wist dat Grok seksueel expliciete afbeeldingen van kinderen zou kunnen maken, maar deze toch heeft vrijgegeven.

In de rechtszaak wordt beweerd dat de persoon die afbeeldingen van de eisers verspreidde een applicatie gebruikte die een licentie voor de xAI-technologie had verkregen of “op een andere manier toegang tot Grok had gekocht en als tussenpersoon of tussenpersoon werd gebruikt.” XAI reageerde niet op een e-mail van Bijbehorende pers op zoek naar commentaar. Maar in een bericht van 14 januari over de controverse op socialemediaplatform X stond: “We blijven ons inzetten om van X een veilig platform voor iedereen te maken en blijven een nultolerantie hanteren voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.

“We ondernemen stappen om aanstootgevende inhoud met hoge prioriteit te verwijderen, inclusief materiaal van seksueel misbruik van kinderen (CSAM) en naaktheid zonder wederzijds goedvinden, en nemen passende maatregelen tegen accounts die onze X-regels schenden. We rapporteren ook accounts die materiaal van seksuele uitbuiting van kinderen vragen aan wetshandhavingsautoriteiten, indien nodig.” Ondertussen zeiden de studenten in de rechtszaak dat ze bang waren dat de door hen gemaakte afbeeldingen voor altijd op internet zouden blijven staan. Ze vrezen vervolging omdat hun echte voornamen en de naam van hun school aan de dossiers zijn toegevoegd. Ze maken zich zorgen dat hun vrienden en klasgenoten de foto’s en video’s hebben gezien die echt lijken, en ze maken zich zorgen over wie ze in de toekomst zal zien.

Jane Doe 1 zei dat ze lijdt aan angst, depressie en stress. “Ze heeft moeite met eten en slapen en heeft last van terugkerende nachtmerries”, staat in de rechtszaak. Jane Doe 2 “begon zichzelf te isoleren en te vermijden om op haar schoolcampus te zijn en is zelfs bang om haar eigen examen bij te wonen.” Volgens de rechtszaak lijdt Jane Doe 3 aan constante angst dat iemand de door AI gegenereerde beelden zal zien en haar gezicht zal herkennen.