Indonesië blokkeert Grok vanwege non-conversationele, geseksualiseerde deepfakes

Indonesische functionarissen zeiden zaterdag dat ze tijdelijk de toegang tot xAI’s chatbot Grok blokkeren.

Dit is een van de meest agressieve stappen tot nu toe van overheidsfunctionarissen reagerend op een stroom van geseksualiseerde, door AI gegenereerde beelden – beelden vaak echte vrouwen en minderjarigen af, en soms toont mishandeling en mishandeling — geplaatst door Grok als reactie op verzoeken van gebruikers op het sociale netwerk X. (X en xAI maken deel uit van hetzelfde bedrijf.)

IN een verklaring gedeeld met The Guardian en andere publicaties zei Meutya Hafid, de Indonesische minister van Communicatie en Digitale Zaken: “De regering beschouwt de praktijk van seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte.”

Het ministerie heeft naar verluidt ook X-functionarissen opgeroepen om de kwestie te bespreken.

Onder meer de gevarieerde reacties van de overheid van de afgelopen week een bevel van het IT-ministerie van India voor xAI om actie te ondernemen om te voorkomen dat Grok obscene inhoud genereert, evenals een bevel van de Europese Commissie dat het bedrijf alle documenten met betrekking tot Grok moet bewaren, wat de weg zou kunnen vrijmaken voor een onderzoek.

In het Verenigd Koninkrijk heeft communicatieregulator Ofcom gezegd dat het “een snelle beoordeling zal uitvoeren om te bepalen of er potentiële nalevingsproblemen zijn die onderzoek rechtvaardigen.” Premier Keir Starmer zei in een interview dat Ofcom zijn “volledige steun heeft om actie te ondernemen”.

En hoewel de regering-Trump in de VS is, lijkt zij over de kwestie te zwijgen (xAI CEO Elon Musk is een belangrijke Trump-donor en leidde het controversiële Department of Government Efficiency van de regering vorig jaar), heeft Democratische senatoren genaamd Apple en Google om X uit hun appstores te verwijderen.

xAI reageerde oorspronkelijk door stuurt een schijnbare verontschuldiging in de eerste persoon naar het Grok-account, waarin wordt erkend dat een post “ethische normen en mogelijk Amerikaanse wetten schond” rond materiaal over seksueel misbruik van kinderen. Dat later beperkte de AI-beeldgeneratiefunctie aan het betalen van abonnees op X, hoewel die beperking geen invloed leek te hebben op de Grok-app zelf, waarmee iedereen nog steeds afbeeldingen kon genereren.

In reactie op een bericht waarin werd gevraagd waarom de Britse regering geen actie ondernam tegen andere tools voor het genereren van AI-beelden: schreef Musk“Ze willen elk excuus voor censuur.”