De Grok-chatbot van Elon Musk begon donderdag met het beperken van de mogelijkheid van niet-betalende gebruikers om diep neppe, geseksualiseerde afbeeldingen te maken, na wereldwijde tegenstand van gebruikers en overheden.
Eind vorige maand begonnen sommige gebruikers Grok op Musk’s sociale mediaplatform X te taggen met oproepen als “stop haar in een bikini” om afbeeldingen te genereren zonder de toestemming van echte mensen op X.
De vervormde afbeeldingen, waaronder afbeeldingen van beroemdheden, politici en enkele minderjarigen, zijn gemaakt door Grok en gepubliceerd op X.
Voordat de huidige beperkingen van kracht werden, sloot Musk zich aan bij de AI-uitkleedtrend door Grok de opdracht te geven afbeeldingen van zichzelf in bikini te maken.
Gebruikers en autoriteiten klaagden en dreigden X aan te klagen of te straffen. Grok bood aanvankelijk zijn excuses aan voor de ongepaste beelden van wat op kinderen leek.
Nu heeft X de controversiële morphing-vaardigheden van Grok achter een betaalmuur geplaatst.
Regeringen, waaronder het Verenigd Koninkrijk en de Europese Commissie, zeiden dat ze niet tevreden zijn met de veiligheidsmaatregelen van X, omdat de mogelijkheid om afbeeldingen te maken en te bewerken nog steeds beperkt is. toegankelijk aan betalende gebruikers.
“Hoewel het beperken van AI-beeldvorming tot betaalde gebruikers het volume marginaal kan verminderen en de traceerbaarheid kan verbeteren, is het misbruik niet gestopt. Het is simpelweg achter een betaalmuur geplaatst, waardoor X kan profiteren van de schade”, zegt Emma Pickering, hoofd van technologiegefaciliteerd misbruik en economische empowerment bij Refuge, in een verklaring.
Nu de publieke verontwaardiging over wat velen ‘AI-ondersteunde intimidatie’ noemen groeit, hebben toezichthouders dit opgemerkt, waarbij sommigen voorstellen om X in hun land te verbieden.
De Britse premier Keir Starmer zei dat X deze “walgelijke” trend “greep” heeft gekregen. “We zullen hier actie op ondernemen omdat het simpelweg niet acceptabel is”, zei Starmer.
In een verhulde terugslag leek Musk de Britse toezichthouders te bekritiseren schandaal door opnieuw een bewering te posten dat ChatGPT ook toestond dat een bikinifoto van een niet-echt persoon werd gemaakt door middel van creatieve, niet-expliciete aansporingen.
Na Grok te hebben veroordeeld voor het produceren van geseksualiseerde afbeeldingen, beval de Europese Commissie X om alle documenten met betrekking tot Grok te bewaren om ervoor te zorgen dat de regels werden nageleefd.
“We zouden er toegang toe moeten hebben als we er specifiek om vragen”, zei een woordvoerder van de Commissie in een persbericht persconferentie.
Ook Frankrijk, India, Maleisië en Brazilië onderzoeken het platform.
Hoewel publieke figuren al vroeg het doelwit waren van het uitkleden van AI, kwam het al snel terecht bij particulieren. Op 3 januari riep een gebruiker Grok 50 keer per dag op om geseksualiseerde afbeeldingen te genereren zonder de toestemming van vrouwen op werkplekken, volgens een analyse van AI-detectiebedrijf Copyleaks.
De genderrechtvaardigheidsgroep Ultraviolet heeft dat gedaan een campagne gemaakt om Apple en Google onder druk te zetten om X uit hun respectieve app-winkels te verwijderen op grond van het feit dat X hun richtlijnen voor seksueel misbruik van kinderen schendt.
Musk heeft zijn chatbot gepositioneerd als een scherper alternatief vergeleken met alternatieven als Gemini, ChatGPT en Claude, die meer beperkende richtlijnen rond expliciete inhoudsverzoeken.
