India heeft X van Elon Musk opgedragen onmiddellijk technische en procedurele wijzigingen aan te brengen in zijn AI-chatbot Grok nadat gebruikers en wetgevers het genereren van ‘obscene’ inhoud hadden opgemerkt, waaronder door AI gewijzigde afbeeldingen van vrouwen die met behulp van de tool waren gemaakt.
Vrijdag heeft het Indiase ministerie van IT het bevel uitgevaardigd om Musk’s X op te dragen corrigerende maatregelen te nemen tegen Grok, waaronder het beperken van het genereren van inhoud met “naaktheid, seksualisering, seksueel expliciet of anderszins illegaal” materiaal. Het ministerie gaf het sociale-mediaplatform ook 72 uur de tijd om een actierapport in te dienen waarin de stappen worden beschreven die het heeft genomen om het hosten of verspreiden van inhoud die als ‘obsceen, pornografisch, vulgair, obsceen, seksueel expliciet, pedofiel of anderszins bij wet verboden’ wordt beschouwd, te voorkomen.
Het bevel, beoordeeld door TechCrunch, waarschuwde dat het niet naleven ervan de ‘veilige haven’-bescherming van X in gevaar zou kunnen brengen – wettelijke immuniteit van aansprakelijkheid voor door gebruikers gegenereerde inhoud volgens de Indiase wet.
De maatregel van India volgt op zorgen die zijn geuit door gebruikers die voorbeelden deelden waarin Grok werd gevraagd om foto’s van individuen (voornamelijk vrouwen) te veranderen, zodat het leek alsof ze bikini’s droegen. formele klacht van de Indiase parlementariër Priyanka Chaturvedi. Afzonderlijk meldden recente rapporten gevallen waarin AI-chatbot gegenereerde geseksualiseerde beelden waarbij minderjarigen betrokken zijneen probleem X erkend eerder vrijdag werd veroorzaakt door het vervallen van veiligheidsmaatregelen. Deze foto’s zijn later verwijderd.
Maar afbeeldingen die met behulp van Grok waren gegenereerd en waardoor het leek alsof vrouwen bikini’s droegen door middel van AI-wijzigingen, bleven beschikbaar op X op het moment van publicatie, ontdekte TechCrunch.
Het laatste bevel komt dagen nadat het Indiase IT-ministerie maandag een bredere kennisgeving heeft gedaan, ook beoordeeld door TechCrunch, aan sociale-mediaplatforms om hen eraan te herinneren dat naleving van lokale wetten met betrekking tot obscene en seksueel expliciete inhoud een voorwaarde is voor het handhaven van wettelijke immuniteit tegen aansprakelijkheid voor door gebruikers gegenereerd materiaal. Het adviesbureau drong er bij bedrijven op aan om de interne veiligheidsmaatregelen te versterken en waarschuwde dat het nalaten hiervan juridische stappen zou kunnen uitlokken op grond van de Indiase IT- en strafrechtwetgeving.
“Er wordt herhaald dat het niet naleven van de bovenstaande vereisten serieus moet worden genomen en kan resulteren in ernstige juridische gevolgen voor uw platform, de verantwoordelijke werknemers en gebruikers op het platform die de wet overtreden, zonder verdere kennisgeving”, waarschuwde het bevel.
Techcrunch-evenement
San Francisco
|
13.-15. Oktober 2026
De Indiase regering zei dat niet-naleving zou kunnen leiden tot actie tegen X onder de Indiase IT- en strafrechtelijke wetten.
India, een van de grootste digitale markten ter wereld, is een kritische testcase gebleken voor hoe ver regeringen bereid zijn te gaan in het verantwoordelijk houden van platforms voor door AI gegenereerde inhoud. Elke aanscherping van de handhaving in het land zou rimpeleffecten kunnen hebben voor mondiale technologiebedrijven die in meerdere rechtsgebieden actief zijn.
Het bevel komt terwijl Musk’s X aspecten van India blijft uitdagen regels voor inhoudsregulering in de rechtbanken stelt dat de verwijderingsbevoegdheden van de federale overheid het risico lopen te ver te reiken, ook al heeft het platform voldaan aan de meeste blokkeringsrichtlijnen. Tegelijkertijd wordt Grok steeds vaker door X-gebruikers gebruikt factchecking in realtime en commentaar op nieuwsgebeurtenissen, waardoor de output ervan zichtbaarder – en politiek gevoeliger – wordt dan de op zichzelf staande AI-tools.
X en xAI reageerden niet onmiddellijk op verzoeken om commentaar op het bevel van de Indiase regering.
