Indonesië en Maleisië zijn de eerste twee landen die Elon Musk’s verbieden kunstmatige intelligentie tool Grok, nadat de generatieve AI het sociale-mediaplatform X feitelijk overspoelde met seksueel expliciete, onzedelijke beelden van jonge meisjes en vrouwen, gemaakt zonder hun toestemming.
Muskus vouwde de generatieve AI-tool in X toen hij Twitter overnam en ‘vrijheid van meningsuiting’ beloofde. Maar critici zeggen dat het in plaats daarvan een voorbeeld is van hoe generatieve AI, zonder duidelijke waarborgen en regulering, tot schade kan leiden.
Dit is wat je moet weten.
Wat gebeurt er met Grok?
Simpel gezegd: gebruikers typen eenvoudige berichten in de AI-tool op X om zich ‘digitaal uit te kleden’ meisjes en vrouwen, van wie sommigen minderjarig lijken, activeren de chatbot om kleding uit de echte beelden te verwijderen en de onderwerpen zelfs in seksuele poses te plaatsen.
Deze deepfake-beelden zouden wetten in binnen- en buitenland kunnen overtreden en tot wereldwijde publieke verontwaardiging hebben geleid, aldus de krant CNN.
Hoe hebben andere landen dan Indonesië en Maleisië gereageerd?
Maandag heeft de Britse onafhankelijke online veiligheidswaakhond Ofcom een formeel onderzoek gestart of de expliciete afbeeldingen van de chatbot in strijd waren met de regels om de burgers van het land te beschermen tegen illegale inhoud.
“Berichten dat Grok wordt gebruikt om zonder toestemming illegale intieme afbeeldingen te maken en te delen, en materiaal over seksueel kindermisbruik op X zijn zeer zorgwekkend”, aldus een woordvoerder van Ofcom. zei in een verklaring. “Platforms moeten mensen in Groot-Brittannië beschermen tegen inhoud die illegaal is in Groot-Brittannië en we zullen niet aarzelen om te onderzoeken waar we vermoeden dat bedrijven hun plichten niet nakomen, vooral als er een risico bestaat op schade aan kinderen.”
“We zullen dit onderzoek als een zaak van de hoogste prioriteit voortzetten en er tegelijkertijd voor zorgen dat we een eerlijk proces volgen”, voegde het eraan toe.
Wat heeft Elon Musk gezegd?
Ondanks oproepen van het grote publiek – waaronder van een recent doelwit van Groks misbruik, conservatieve beïnvloeder Ashley St. Clairdie naar verluidt de vader is van een van Musk’s kinderen – X heeft Grok niet uitgeschakeld of verhinderd dat deze onzedelijke beelden genereert.
Op 3 januari werd Musk antwoordde de X“Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt” – waardoor de schuld feitelijk op de eigen gebruikers wordt gelegd. Dit leidde tot een aantal reacties op de post, die door zo’n 3,8 miljoen gebruikers is gezien, waaronder: “begin met het aanpakken van de ongepaste afbeeldingen van minderjarigen als het je echt kan schelen“verscheidenen dringen er bij Musk op aan”maak uw site schoon”, evenals door AI gegenereerde afbeeldingen van Muskus in bikini’s.
Vorige week zei X dat de tool voor het genereren van afbeeldingen van Grok alleen beschikbaar zou zijn voor betalende gebruikers. volgens de New York Times.
