Nikolas Kokovlis | Nurfoto | Getty-afbeeldingen
Maleisië en Indonesië blokkeerden afgelopen weekend de toegang tot de kunstmatige intelligentie-chatbot Grok van Elon Musk vanwege de bezorgdheid dat de tool werd gebruikt om zonder toestemming seksueel expliciete en obscene inhoud te genereren.
Maleisische toezichthouders besteld tijdelijke beperkingen op de xAI-chatbot op zondag na “herhaalde fouten door X Corp” om inhoudsrisico’s in verband met de AI-tool aan te pakken.
De stap kwam slechts een dag nadat Indonesië tussenbeide kwam om tijdelijk de toegang tot Grok te weigeren vanwege soortgelijke zorgen en X-functionarissen vroeg om de zaak op te helderen. volgens CNBC’s vertaling van de verklaring.
De acties van de Zuidoost-Aziatische landen komen nadat werd ontdekt dat sommige gebruikers van de AI-tool gegenereerd expliciete afbeeldingen en deepfakes zonder toestemming, inclusief afbeeldingen van schaars geklede minderjarigen.
Het bedrijf van Musk had onlangs zijn Grok Imagine-functies bijgewerkt, waardoor het gemakkelijker werd om afbeeldingen te genereren via tekstgebaseerde aanwijzingen op het platform, dat is geïntegreerd met Musk’s sociale mediaplatform X, waardoor het een groot bereik heeft.
Te midden van escalerende zorgen over Groks contentmoderatiebeleid, heeft xAI aangekondigd het zou het genereren en bewerken van afbeeldingen beperken tot betalende abonnees in een poging mazen in de wet te dichten die geseksualiseerde output mogelijk maakten.
muskus, reageert op X, heeft ook betoogd dat gebruikers die illegale inhoud creëren via Grok, soortgelijke gevolgen zouden ondervinden als zij dergelijk materiaal rechtstreeks naar het sociale-mediaplatform zouden uploaden.
CNBC probeerde xAI dit weekend te bereiken voor commentaar over de ontwikkelingen. Een pers-e-mail aan het bedrijf retourneerde een automatisch bericht met de tekst ‘Legacy Media Lies’.
“Ontoereikende” reacties
Maar de publieke en private reacties van X te midden van de controverse zijn er niet in geslaagd tegemoet te komen aan de zorgen van toezichthouders in Indonesië en Maleisië, evenals van anderen die onderzoeken zijn gestart.
De Maleisische Communicatie- en Multimediacommissie zei dat de “ontoereikende” reactie van X “voornamelijk berustte op door de gebruiker geïnitieerde rapportagemechanismen en er niet in slaagde de inherente risico’s aan te pakken die gepaard gaan met het ontwerp en de werking van de AI-tool.”
“Dienovereenkomstig wordt de beperking opgelegd als een preventieve en proportionele maatregel terwijl de juridische en regelgevende processen aan de gang zijn”, aldus de waakhond. “De toegang tot Grok zal beperkt blijven totdat effectieve veiligheidsmaatregelen zijn geïmplementeerd, vooral om inhoud waarbij vrouwen en kinderen betrokken zijn te voorkomen.”
Zowel Indonesië als Maleisië hanteren strikte antipornografiewetten, die het op grotere schaal delen van obscene en seksuele inhoud online verbieden.
Ondertussen zei het Indonesische ministerie van Communicatie en Digitale Zaken, Meutya Hafid: “De regering beschouwt seksuele deepfakes zonder toestemming als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte.”
Hafid categoriseerde ook het misbruik van kunstmatige intelligentie om neppornografie te creëren als een vorm van “digitaal geweld”, aldus verklaringen gedeeld door staatsbedrijf Antara News.
Autoriteiten in andere rechtsgebieden, waaronder de Europese Unie, het Verenigd Koninkrijk, Brazilië en India, hebben dat ook gedaan gezochte sondes naar de rol van Grok bij het faciliteren van obsceen en niet-consensueel gedrag.
Ondertussen hebben sommige Democratische wetgevers in Washington dat wel gedaan wordt aanbevolen dat appstores de AI-tool opschorten, in ieder geval totdat Musk grote veranderingen doorvoert.
In één e-mail naar CNBC vorige week, Het ministerie van Justitie zei in een verklaring dat “het door AI gegenereerd materiaal over seksueel misbruik van kinderen uiterst serieus neemt en elke producent of bezitter van materiaal over seksueel misbruik van kinderen agressief zal vervolgen.”
“We blijven zoeken naar manieren om de handhaving op dit gebied te optimaliseren om kinderen te beschermen en degenen die technologie gebruiken om onze meest kwetsbaren schade te berokkenen, ter verantwoording te roepen”, voegde het eraan toe.
— Lora Kolodny van CNBC heeft bijgedragen aan dit rapport.
