Ontgrendel Editor’s Digest gratis
Roula Khalaf, redacteur van de FT, kiest haar favoriete verhalen in deze wekelijkse nieuwsbrief.
Elon Musk’s AI-bedrijf xAI heeft het gebruik van zijn controversiële AI-beeldgenerator Grok beperkt tot betalende abonnees, na een groeiende verontwaardiging over het gebruik ervan om geseksualiseerde deepfakes van vrouwen en kinderen te verspreiden.
De start-up maakte de stap vrijdagochtend bekend, dagen nadat bleek dat de chatbot was gebruikt om te creëren expliciete beelden door mensen zonder toestemming.
Deze onthullingen hebben wetgevers in de EU, Frankrijk en Groot-Brittannië ertoe aangezet het platform te bedreigen met boetes en verboden, tenzij het actie onderneemt.
“Het genereren en bewerken van afbeeldingen is momenteel beperkt tot betalende abonnees”, schreef Grok op X. xAI heeft niet onmiddellijk gereageerd op een verzoek om verder commentaar.
Grok is opzettelijk ontworpen om minder inhoudswaarborgen te bieden dan de concurrentie, waarbij Musk het model “maximaal zoeken naar de waarheid” noemt. De chatbot van het bedrijf bevat ook een functie waarmee gebruikers seksueel georiënteerde afbeeldingen kunnen genereren.
De Britse premier Sir Keir Starmer beloofde actie te ondernemen tegen X op donderdag, en riep het sociale mediaplatform op om “de zaken op orde te krijgen” en te voorkomen dat zijn AI-chatbottool Grok geseksualiseerde beelden van kinderen produceert.
Nadat xAI vrijdag de toegang tot Grok had beperkt, zei de Britse technologiesecretaris Liz Kendall dat ze verwacht dat communicatieregulator Ofcom zijn bevoegdheden zal gebruiken om in te grijpen, inclusief het mogelijk blokkeren van de dienst in het land. “Het is een belediging en volkomen onaanvaardbaar dat Grok dit nog steeds toestaat als je bereid bent ervoor te betalen”, zei ze.
Drie Amerikaanse senatoren riepen Apple en Google ook op om de X- en Grok-apps uit hun appstores te verwijderen totdat Musk “deze verontrustende en waarschijnlijk illegale activiteiten” aanpakte.
De Europese Commissie heeft X opgedragen interne documenten met betrekking tot Grok tot het einde van het jaar te bewaren. Franse ministers hebben de door Grok gegenereerde seksuele beelden ook gemeld aan openbare aanklagers en mediatoezichthouders.
Op 3 januari werd Musk gepubliceerd op X dat “iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt”.
De opkomst van generatieve AI heeft geleid tot een explosie van niet-consensuele deepfake-beelden, dankzij hoe gemakkelijk het is om de technologie te gebruiken om dergelijke beelden te creëren.
De Stichting Internetwatcheen Britse non-profitorganisatie zei dat door AI gegenereerde beelden van seksueel misbruik van kinderen het afgelopen jaar zijn verdubbeld, waarbij het materiaal extremer is geworden.
Hoewel xAI zei dat het illegale, door AI gegenereerde afbeeldingen van kinderen heeft verwijderd, zal het laatste incident verdere zorgen oproepen over hoe gemakkelijk het is om veiligheidsbarrières in AI-modellen te omzeilen. De technische industrie en toezichthouders hebben geworsteld met de verreikende sociale impact van generatieve AI.
In 2023 ontdekten onderzoekers van Stanford University dat een populaire database die werd gebruikt om AI-beeldgeneratoren te maken, vol zat met materiaal over seksueel misbruik van kinderen.
De wetten over schadelijke, door AI gegenereerde inhoud zijn fragmentarisch. In mei 2025 ondertekenden de VS de Take It Down Act, die door AI gegenereerde ‘wraakporno’ en deepfakes aanpakt.
Groot-Brittannië werkt ook aan een wetsvoorstel om het bezitten, creëren of distribueren van AI-instrumenten die seksueel misbruikmateriaal van kinderen kunnen genereren illegaal te maken, en om te eisen dat AI-systemen grondig worden getest om te controleren of ze geen illegale inhoud kunnen genereren.
Aanvullende rapportage door David Sheppard
