Terwijl de zorgen over Groks vermogen om te genereren toenemen seksueel expliciete inhoud zonder toestemming van de betrokkene blokkeert een aantal landen de toegang tot die van Elon Musk kunstmatige intelligentie chatbot. Centraal in de controverse staat een functie genaamd Grok Imagine, waarmee gebruikers door AI gegenereerde afbeeldingen en video’s kunnen maken. Deze tool heeft ook een “pittige modus” waarmee gebruikers inhoud voor volwassenen kunnen genereren.
Zowel Indonesië als Maleisië gaven opdracht om dit weekend beperkingen op te leggen. Maleisische functionarissen blokkeerden zondag de toegang tot Grok, onder verwijzing naar “herhaald misbruik… om zonder toestemming obscene, seksueel expliciete, onfatsoenlijke, grof aanstootgevende en gemanipuleerde beelden te genereren.” Ambtenaren noemden ook “herhaalde mislukkingen van X Corp.” om dergelijke inhoud te voorkomen.
Indonesië had de chatbot een dag eerder om soortgelijke redenen geblokkeerd. In een verklaring bij de schorsing van Grok zegt Meutya Hafid, de Indonesische minister van Communicatie en Digitalisering. “De regering beschouwt de praktijk van seksuele deepfakes zonder toestemming als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte.”
De antwoorden kunnen echter slechts het begin zijn van de problemen van Grok. Verschillende andere landen, waaronder Groot-Brittannië, India en Frankrijk, overwegen dit voorbeeld te volgen.
Groot-Brittannië is een onderzoek gestart naar de expliciete inhoud van de chatbot, wat ertoe kan leiden dat deze ook in dat land wordt geblokkeerd. “Berichten dat Grok wordt gebruikt voor het maken en delen van illegale, intieme beelden en materiaal over seksueel kindermisbruik op X zijn zeer zorgwekkend”, zegt Ofcom, de toezichthouder voor communicatiediensten van het land. in een verklaring.
Muskusin een post op sociale media na woorden over het Ofcom-onderzoek, schreef dat de Britse regering ‘slechts de vrijheid van meningsuiting wil onderdrukken’.
Snel bedrijf geprobeerd contact op te nemen met xAI voor commentaar op de acties in Indonesië en Maleisië, evenals soortgelijke mogelijke blokkades in andere landen. Een geautomatiseerd antwoord van het bedrijf luidde: “Legacy Media Lies.”
Naast Groot-Brittannië hebben functionarissen in de Europese Unie, Brazilië en India opgeroepen tot onderzoek naar de grootschalige namaak van Grok, wat uiteindelijk ook tot een verbod zou kunnen leiden. (De Amerikaanse regering, die contracten heeft met xAI, is dat ook geweest vrij rustig over de kwestie tot nu toe.)
Op een persconferentie vorige weekWoordvoerder van de Europese Commissie, Thomas Regnier, zei dat de commissie “deze zaak zeer serieus bekijkt”, en voegde eraan toe: “Dit is niet ‘pittig’. Dit is illegaal. Dit is verschrikkelijk. Dit is walgelijk. Dit is hoe wij het zien, en het hoort niet thuis in Europa.”
Musk en X voelen nog steeds de gevolgen ervan 130 miljoen dollar aan boetes De EU heeft het bedrijf vorige maand een klap gegeven wegens het overtreden van de Digital Services Act, met name vanwege misleidende betaalde verificatie en een gebrek aan transparantie in de advertentie-inventaris van het bedrijf.
Naast geseksualiseerde afbeeldingen van volwassenen ook een reportage van de non-profitorganisatie AI Forensics, die 20.000 door Grok gegenereerde afbeeldingen analyseerde die tussen 25 december en 1 januari waren gemaakt, ontdekte dat 2% iemand afbeeldde die 18 jaar of jonger leek. Het ging om dertig afbeeldingen van jonge of zeer jonge vrouwen of meisjes in bikini’s of doorzichtige kleding.
Bij de analyse werd ook nazi- en ISIS-propagandamateriaal aangetroffen dat door Grok was gegenereerd.
Hoewel het bedrijf de landen die de toegang tot zijn diensten blokkeren niet heeft aangesproken, heeft het wel commentaar geleverd op het gebruik van zijn tool om seksuele inhoud met minderjarigen te creëren.
“We ondernemen actie tegen illegale inhoud op X, inclusief materiaal van seksueel misbruik van kinderen (CSAM), door het te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale autoriteiten en wetshandhavers”, aldus X. schreef in een bericht. “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
Het bedrijf heeft ook aangekondigd dat dit zal gebeuren beperk het genereren van afbeeldingen en bewerkingsfuncties voor betalende abonnees. Dat zal echter waarschijnlijk niet genoeg zijn om ambtenaren tevreden te stellen die de toegang tot Grok willen blokkeren terwijl die beelden nog kunnen worden gegenereerd.
