Dja daarna Maleisië haalde de mondiale krantenkoppen door aan te kondigen dat het Grok tijdelijk zou verbieden vanwege zijn vermogen om ‘zeer aanstootgevende en gemanipuleerde afbeeldingen te genereren zonder toestemming’. De generatieve AI-tool sprak snel met accounts die in het land waren geregistreerd.
“Nog steeds hier! Die DNS-blokkering in Maleisië is vrij eenvoudig – gemakkelijk te omzeilen met een VPN- of DNS-tweak”, zegt Grok op X zei in antwoord op een vraag van een gebruiker.
Het vermogen van Grok om gebruikers in staat te stellen seksueel expliciete afbeeldingen te maken, inclusief afbeeldingen van kinderen, heeft de afgelopen weken voor wereldwijde verontwaardiging gezorgd, waarbij toezichthouders en politici over de hele wereld onderzoeken zijn gestart. Indonesië en Maleisië werden de eerste twee landen die het blokkeren van de technologie aankondigden, waarbij de Maleisische toezichthouder afgelopen zondag zei dat het “een tijdelijke beperking” had opgelegd aan de toegang tot Grok, met ingang van 11 januari 2026. Ambtenaren op de Filippijnen hebben gezegd dat ze ook van plan zijn de technologie te verbieden.
Het blokkeren van de toegang tot Grok is echter niet eenvoudig. De technologie bestaat niet alleen op meerdere platforms, waaronder een zelfstandige app en website, maar is ook geïntegreerd in X, dat, samen met Grok, eigendom is van xAI van Elon Musk.
De afgelopen week hebben X-gebruikers, en zelfs Grok zelf, mensen geadviseerd hoe ze beperkingen kunnen omzeilen. Dit omvat het gebruik van een VPN – waarvan er vele gratis beschikbaar zijn – of het wijzigen van het Domain Name System (DNS), het protocol op internet dat adresnamen omzet in IP-adressen die websites laden.
Toen Guardian Grok i Indonesiëde website werkte zelfs zonder VPN, hoewel de Grok-app dat niet deed. Grok reageerde ook nog steeds op Indonesische accounts op X, waar het functioneert als een geïntegreerde chatbot. X is niet onderworpen aan een verbod.
Hoewel overheden Grok volledig zouden kunnen beperken, is dit geen echte oplossing, zegt Nana Nwachukwu, een AI-governance-expert en PhD-onderzoeker aan het Trinity College Dublin.
‘Het blokkeren van Grok is als het aanbrengen van een pleister op een huilende wond die je niet hebt schoongemaakt’, zei ze. “Je blokkeert Grok en roept dan rond dat je iets hebt gedaan. Ondertussen kunnen mensen VPN’s gebruiken om toegang te krijgen tot dezelfde platforms.” Of ze kunnen zich eenvoudigweg wenden tot een van de vele andere platforms die dezelfde functies bieden, waaronder “kleinere, algemene AI-systemen die grotendeels onbekend zijn”, voegde Nwachukwu eraan toe.
Regeringen zouden zich in plaats daarvan moeten concentreren op wetshandhaving en het onderzoeken van mensen die dergelijke instrumenten gebruiken om de wet te overtreden, voegde ze eraan toe. “Het platform is wettelijk verplicht om informatie te verstrekken aan wetshandhavers wanneer er een misdrijf is gepleegd”, aldus Nwachukwu. “Als we zien dat mensen worden gearresteerd, mensen worden vervolgd, mensen gevangen worden gezet voor deze misdrijven, is dat een teken dat dit een echte misdaad is.”
X zou verantwoordelijkheid in zijn platform moeten inbouwen – en zichzelf moeten opruimen, zei Nwachukwu: “Alle aanstootgevende afbeeldingen moeten van het platform worden verwijderd.”
Dat maakte X woensdag bekend aanvullende veiligheidsmaatregelen als reactie op de aanhoudende publieke verontwaardiging zei het dat het het @Grok-account op X ervan zou weerhouden “het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikini’s toe te staan”, inclusief betaalde abonnees. Echter, De Guardian heeft gevonden dat het mogelijk was om dergelijke beperkingen te omzeilen door de standalone versie van Grok, die gemakkelijk toegankelijk is via een webbrowser, te gebruiken om korte video’s te maken waarin kleding wordt verwijderd uit afbeeldingen van echte vrouwen.
Dit kan vervolgens naar het openbare platform van X worden gestuurd, waar het binnen enkele seconden door gebruikers over de hele wereld kan worden bekeken.
Het bedrijf van Musk zei ook dat in rechtsgebieden waar dergelijke inhoud illegaal is, het de mogelijkheid van alle gebruikers op die locaties om afbeeldingen te genereren van echte mensen in bikini’s of soortgelijke kleding in Grok op X zal geoblokkeren, eraan toevoegend dat “xAI vergelijkbare geoblocking-maatregelen implementeert voor de Grok-app.”
Deskundigen waarschuwen dat gebruikers dergelijke ‘geoblokkades’ nog steeds kunnen omzeilen via een VPN. Ook is het niet duidelijk in welke landen dergelijke beperkingen zullen worden ingevoerd.
In Maleisië zei minister van Communicatie Fahmi Fadzil dat de beperkingen op Grok pas zouden worden opgeheven zodra de mogelijkheid om schadelijke inhoud te produceren is uitgeschakeld, aldus lokale media.
Dr. Nuurrianti Jalli, een gastonderzoeker bij het Media, Technology and Society Program van het ISEAS – Yusof Ishak Institute in Singapore, zei dat de dreiging om Grok te blokkeren een nuttige manier zou kunnen zijn om druk uit te oefenen op bedrijven om snel te reageren, en voegde eraan toe dat het “het debat verschuift van ‘individuele slechte actoren’ naar kwesties van platformverantwoordelijkheid, beveiliging door ontwerp en verantwoording wanneer beveiligingsmaatregelen falen”. Het zou ook “de verspreiding van misbruik kunnen vertragen, incidenteel misbruik kunnen verminderen en een duidelijke grens kunnen scheppen rond wat de autoriteiten onaanvaardbaar achten”, zei ze.
In Indonesië wordt Grok gebruikt om seksuele beelden te maken zonder de toestemming van zangers en beroemdheden, waaronder een van de populairste meidengroepen van het land, JKT48, terwijl vrouwen in Maleisië soortgelijke misstanden melden, waaronder gevallen waarin de tool is gebruikt om hun hijab af te doen, aldus Maleisische media.
Sommige vrouwen namen hun toevlucht tot het publiekelijk tegen Grok op X zeggen dat ze geen toestemming gaven om hun foto’s te “crawlen, maken, verwerken of bewerken”.
Jalli zei dat regeringen moeten aandringen op meer transparantie “over hoe waarborgen worden geïmplementeerd, hoe misbruikmeldingen worden afgehandeld en welke handhavingsmaatregelen worden genomen wanneer schadelijke inhoud wordt gegenereerd of verspreid”.
De Maleisische Communicatie- en Multimediacommissie en het Ministerie van Communicatie hebben niet gereageerd op een verzoek om commentaar. Ook het Indonesische ministerie van Communicatie en Digitale Zaken reageerde niet.
Nwachukwu zei dat er beveiligingen in het AI-systeem moeten worden ingebouwd in plaats van dat er ‘poorten’ omheen worden gebouwd. “Zowel de (geografische) beperking van X, (en) de beperking van de overheid zijn afgesloten toegang en poorten kunnen worden afgebroken”, zei ze.
Aanvullende berichtgeving door Hidayatullah
