Er wordt steeds meer aandacht besteed aan generatieve AI-tools die realistische beelden, geluid en tekst kunnen produceren, en er bestaat bezorgdheid dat bestaande waarborgen het misbruik ervan niet kunnen voorkomen. Bestand | Fotocredit: AP
De Maleisische autoriteiten zeiden dinsdag (13 januari 2026) dat ze juridische stappen zullen ondernemen tegen het sociale mediaplatform X van Elon Musk en zijn kunstmatige intelligentie-eenheid xAI, waarbij ze de bedrijven ervan beschuldigen de veiligheid van gebruikers van hun Grok-chatbot niet te kunnen garanderen.
De stap kwam slechts enkele dagen nadat Maleisië en Indonesië de eerste landen waren die de toegang tot Grok blokkeerden, omdat de bezorgdheid groeit dat het misbruikt wordt om zonder toestemming seksueel expliciete beelden te genereren.
De Maleisische Communicatie- en Multimediacommissie zei in een verklaring dat zij misbruik van Grok heeft vastgesteld om schadelijke inhoud te genereren en te verspreiden, waaronder seksueel expliciete, obscene, uiterst aanstootgevende en gemanipuleerde afbeeldingen zonder toestemming.
Het zegt dat het deze maand kennisgevingen naar X en xAI heeft gestuurd om de schadelijke inhoud te verwijderen, maar er is geen actie ondernomen.
“Inhoud waarbij naar verluidt vrouwen en kinderen betrokken zijn, is van groot belang. Dergelijk gedrag is in strijd met de Maleisische wet en ondermijnt de veiligheidsverplichtingen”, aldus de bedrijven. De commissie heeft een advocaat aangesteld en zei dat het proces binnenkort zou beginnen.
Er wordt steeds meer aandacht besteed aan generatieve AI-tools die realistische beelden, geluid en tekst kunnen produceren, en er bestaat bezorgdheid dat bestaande waarborgen het misbruik ervan niet kunnen voorkomen.
Grok werd gelanceerd in 2023 en is gratis te gebruiken op X. Vorig jaar werd een beeldgeneratorfunctie, Grok Imagine, toegevoegd en omvatte een zogenaamde “pittige modus” die inhoud voor volwassenen kan genereren.
Grok is bekritiseerd vanwege het genereren van gemanipuleerde afbeeldingen, waaronder afbeeldingen van vrouwen in bikini’s of seksueel expliciete poses, evenals afbeeldingen waarbij kinderen betrokken zijn.
Grok is onder druk komen te staan van de EU, India en Groot-Brittannië, die maandag (12 januari 2026) zeiden dat het stappen zou ondernemen om ‘nudificatie-apps’ strafbaar te stellen. De Britse mediaregulator startte ook een onderzoek naar de vraag of Grok de wet heeft overtreden door gebruikers toe te staan geseksualiseerde afbeeldingen van kinderen te delen.
Vorige week beperkte Grok het genereren en bewerken van afbeeldingen tot betalende gebruikers, na een wereldwijde reactie op geseksualiseerde deepfakes van mensen, maar critici zeggen dat dit het probleem niet volledig oplost.
De heer Musk en zijn bedrijven hebben niet publiekelijk gereageerd op de beperkingen in Zuidoost-Azië. xA1 heeft een geautomatiseerd antwoord gegeven op vragen van de media met de vermelding “Legacy Media Lies”.
Uitgegeven – 13 januari 2026 om 18.16 uur IST
