De Europese Unie is een formeel onderzoek gestart naar Elon Musk’s sociale mediaplatform X de volgende maandag zijn kunstmatige intelligentie-chatbot Grok geseksualiseerde deepfake-afbeeldingen zonder toestemming op het platform geplaatst.
Europese toezichthouders hebben ook een afzonderlijk, lopend onderzoek naar de aanbevelingssystemen van X uitgebreid nadat het platform had gezegd dat het zou overstappen naar het AI-systeem van Grok om te kiezen welke berichten gebruikers zien.
Het onderzoek uit Brussel komt nadat Grok een wereldwijde reactie teweegbracht door gebruikers via zijn netwerk toe te staan Functies voor het genereren en bewerken van AI-afbeeldingen om mensen uit te kleden, vrouwen in doorzichtige bikini’s te zetten of kleding te onthullen.
Onderzoekers zeiden dat sommige afbeeldingen kinderen leken te bevatten. Sommige regeringen hebben de dienst verboden of waarschuwingen afgegeven.
Het hoofd van de EU, dat uit 27 landen bestaat, zei dat het onderzoekt of X genoeg heeft gedaan zoals vereist door de digitale regels van het blok om het risico op het verspreiden van illegale inhoud, zoals ‘gemanipuleerde seksueel expliciete beelden’, te beperken.
Dat geldt ook voor inhoud die “materiaal van seksueel misbruik van kinderen kan vormen”, aldus de Europese Commissie. Deze risico’s zijn nu ‘gematerialiseerd’, zei de commissie, waardoor de burgers van het blok aan ‘ernstige schade’ zijn blootgesteld.
Toezichthouders gaan onderzoeken of Grok aan haar verplichtingen voldoet Wet digitale dienstenblock’s uitgebreide rulebook om internetgebruikers te beschermen tegen schadelijke inhoud en producten.
Ontvang het laatste nationale nieuws
Voor nieuws over Canada en de rest van de wereld kunt u zich aanmelden voor de laatste nieuwswaarschuwingen die u rechtstreeks worden bezorgd zodra ze zich voordoen.
In reactie op een verzoek om commentaar verwees een woordvoerster van X Associated Press naar een eerdere verklaring dat het bedrijf “zich blijft inzetten om van X een veilig platform voor iedereen te maken” en dat het “nultolerantie” hanteert ten aanzien van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.
In de verklaring van 14 januari X stond ook dat gebruikers niet langer zouden worden toegestaan mensen in ‘bikini’s, ondergoed of andere onthullende kleding’ af te beelden, maar alleen op plaatsen waar dit als illegaal wordt beschouwd.
“Seksuele vervalsing zonder de toestemming van vrouwen en kinderen is een gewelddadige, onaanvaardbare vorm van degradatie”, zegt Henna Virkkunen, uitvoerend vicevoorzitter van de commissie, in een verklaring.
“Met dit onderzoek zullen we bepalen of X aan zijn wettelijke verplichtingen onder de DSA heeft voldaan of dat het de rechten van Europese burgers – inclusief die van vrouwen en kinderen – heeft behandeld als bijkomende schade aan zijn dienstverlening”, zegt Virkkunen, die toezicht houdt op technologische soevereiniteit, veiligheid en democratie.
Musk’s kunstmatige intelligentiebedrijf xAI lanceerde afgelopen zomer de beeldvormingstool van Grok. Maar het probleem begon pas eind vorige maand te sneeuwballen, toen Grok blijkbaar tegemoetkwam aan een groot aantal gebruikersverzoeken om afbeeldingen te wijzigen die door anderen waren ingediend.
Het probleem werd nog verergerd omdat Musk zijn chatbot presenteert als een hoekiger alternatief met minder waarborgen dan de concurrentie, en omdat de reacties van Grok op X publiekelijk zichtbaar zijn en daarom gemakkelijk verspreid worden.
Het EU-onderzoek heeft alleen betrekking op de service van Grok op X, en niet op de website en zelfstandige app van Grok. Dit komt omdat de DSA alleen geldt voor de grootste online platforms.
Er is geen deadline voor de blokkade om de kwestie op te lossen, wat ertoe kan leiden dat X belooft zijn gedrag te veranderen of een hoge boete krijgt.
In december heeft Brussel X een boete van 120 miljoen euro (toen 140 miljoen dollar) opgelegd als onderdeel van het eerder lopende DSA-onderzoek naar gebreken, waaronder blauwe vinkjes die de regels overtreden over ‘misleidende ontwerppraktijken’ die het risico liepen gebruikers bloot te stellen aan fraude en manipulatie.
Het blok heeft X ook onder de loep genomen vanwege beweringen dat Grok antisemitisch materiaal heeft gegenereerd en heeft de site om meer informatie gevraagd.
Maleisië en Indonesië blokkeerden eerder deze maand de toegang tot Grok als reactie op de controverse en waren daarmee de eerste landen die dit deden.
Vrijdag zeiden de Maleisische autoriteiten dat ze de tijdelijke beperking hadden opgeheven nadat het bedrijf aanvullende beveiligings- en preventiemaatregelen had getroffen, zonder verdere details te geven. De Maleisische toezichthouders zeiden dat ze vorige week een ontmoeting hadden gehad met de vertegenwoordigers van X en de situatie in de gaten zouden blijven houden.
© 2026 De Canadese pers
