Elon MBiss AIS waardoor de meeste gebruikers geen afbeeldingen konden genereren of bewerken na een wereldwijde reactie die uitbrak nadat deze begon te spuwen geseksualiseerde deepfakes van mensen.
De chatbotdat toegankelijk is via het sociale mediaplatform X van Musk, heeft de afgelopen weken een golf veroorzaakt van wat volgens onderzoekers kwaadaardige gebruikersverzoeken zijn om afbeeldingen te wijzigen, waaronder het plaatsen van vrouwen in bikini’s of in seksueel expliciete houding.
Onderzoekers hebben gewaarschuwd dat in enkele gevallen sommige afbeeldingen kinderen leken af te beelden. Regeringen over de hele wereld hebben het platform veroordeeld en onderzoeken naar het platform gestart.
Vrijdag reageerde Grok op verzoeken om beeldwijzigingen met het bericht: “Het genereren en bewerken van afbeeldingen is momenteel beperkt tot betalende abonnees. U kunt zich abonneren om deze functies te ontgrendelen.”
Hoewel de abonneenummers voor Grok niet publiekelijk beschikbaar zijn, was er een merkbare afname in het aantal expliciete deepfakes dat Grok nu genereert vergeleken met dagen daarvoor.
De Europese Unie heeft Grok bekritiseerd vanwege “illegaal” en “afschuwelijk” gedrag, terwijl functionarissen in Frankrijk, India, Maleisië en een Braziliaanse parlementslid hebben opgeroepen tot onderzoek.
Donderdag dreigde de Britse premier Keir Starmer met niet nader gespecificeerde actie tegen X.
“Dit is beschamend. Het is walgelijk. En het kan niet worden getolereerd”, zei Starmer op de Greatest Hits-radio. “X moet dit onder controle krijgen.”
Hij zei dat mediaregulator Ofcom “onze volledige steun heeft om op te treden” en dat “alle opties” op tafel liggen.
“Dit is walgelijk. X moet de boel op orde krijgen en dit materiaal naar beneden halen. We zullen dit aanpakken omdat het simpelweg niet acceptabel is.”
Ofcom en de Britse privacytoezichthouder zeiden deze week allebei dat ze contact hebben opgenomen met X en Musk kunstmatige intelligentie bedrijf xAI voor informatie over de maatregelen die zij hebben genomen om te voldoen aan de Britse regelgeving.
Grok is gratis te gebruiken voor X-gebruikers, die die vraag kunnen stellen op het sociale mediaplatform. Ze kunnen het taggen in berichten die ze rechtstreeks hebben gemaakt of in reacties op berichten van andere gebruikers.
Grok werd gelanceerd in 2023. Afgelopen zomer voegde het bedrijf een functie voor het genereren van afbeeldingen toe, Grok Imagine, die een zogenaamde “pittige modus” omvatte die inhoud voor volwassenen kan genereren.
Het probleem wordt nog verergerd omdat Musk zijn chatbot presenteert als een scherper alternatief voor rivalen met meer veiligheidsmaatregelen, en omdat de foto’s van Grok publiekelijk zichtbaar zijn en daarom gemakkelijk worden verspreid.
—Kelvin Chan, zakelijk schrijver van AP
