Ontgrendel Editor’s Digest gratis
Roula Khalaf, redacteur van de FT, kiest haar favoriete verhalen in deze wekelijkse nieuwsbrief.
De kunstmatige intelligentie-chatbot van Elon Musk heeft geseksualiseerde beelden van kinderen gegenereerd die zijn gedeeld op sociale mediaplatform X, waardoor zorgen zijn ontstaan over de veiligheid van een model dat door miljoenen wordt gebruikt.
De afgelopen dagen hebben gebruikers Grok kunnen bemachtigen, de AI-chatbot ontwikkeld door Musk xAIom seksuele afbeeldingen van kinderen te maken, wat in strijd is met de gebruiksinstructies van het bedrijf.
Het bedrijf reageerde niet onmiddellijk op een verzoek om commentaar. In een bericht op X zei de Grok-chatbot dat materiaal over seksueel misbruik van kinderen (CSAM) “illegaal en verboden” was.
Het incident was voor de Franse ministers aanleiding om de seksuele beelden die Grok maakte aan de openbare aanklagers te melden. Ze verwezen het ook naar Arcom, de mediaregulator van het land, met betrekking tot “mogelijke schendingen door X” van zijn verplichtingen onder de EU-wetgeving inzake digitale diensten.
Het ministerie van Financiën zei: “De ministers veroordelen deze acties in de sterkst mogelijke bewoordingen en herhalen de onwankelbare inzet van de regering om alle vormen van seksueel en gendergerelateerd geweld te bestrijden.”
Het afgelopen jaar zijn er verschillende bugs in de chatbot aangetroffen. In juli, Grok herhaaldelijk prees Adolf Hitler en gedeelde antisemitische retoriek.
Het laatste incident zal verdere zorgen oproepen over het gemak waarmee veiligheidswaarborgen kunnen worden omzeild AI-modellen. De technologie-industrie en toezichthouders hebben geworsteld met de verreikende sociale impact van generatieve AI.
Generatieve AI heeft geleid tot een explosie van door AI gegenereerde seksuele beelden van kinderen en niet-consensuele deepfake-naaktheid, omdat vrij beschikbare AI-modellen zonder inhoudsbescherming en “nudify”-apps het genereren van illegale afbeeldingen eenvoudiger dan ooit maken.
De Stichting Internetwatcheen in het Verenigd Koninkrijk gevestigde non-profitorganisatie zegt dat door AI gegenereerde beelden van seksueel misbruik van kinderen het afgelopen jaar zijn verdubbeld, met materiaal wordt extremer.
Grok is bewust ontworpen om te hebben minder inhoudsbeveiligingen dan de concurrentie, waarbij Musk het model “maximaal zoeken naar de waarheid” noemt.
De Grok 4, het nieuwste en krachtigste model van xAI, werd in juli uitgebracht en beschikt over een “Spicy Mode” -functie waarmee gebruikers gewaagde en seksueel suggestieve inhoud voor volwassenen kunnen genereren.
Musks twee jaar oude AI-startup kocht X in maart in een aandelendeal voor 45 miljard dollar. De transactie waardeerde het gecombineerde bedrijf op $ 113 miljard. X integreert een aantal xAI-functies, zoals Grok, rechtstreeks in het platform.
De wetten over schadelijke, door AI gegenereerde inhoud zijn fragmentarisch. In mei 2025 ondertekenden de VS de Take It Down Act, die zogenaamde AI-gegenereerde ‘wraakporno’ en deepfakes aanpakt.
Groot-Brittannië werkt ook aan een wetsvoorstel om het bezitten, creëren of distribueren van AI-instrumenten die CSAM kunnen genereren illegaal te maken, en om te eisen dat AI-systemen grondig worden getest om te controleren of ze geen illegale inhoud kunnen genereren.
In 2023 ontdekten onderzoekers van Stanford University dat een populaire database die werd gebruikt om AI-beeldgeneratoren te maken, vol CSAM zat.
