PARIJS — Franse aanklagers hebben dinsdag een inval gedaan in de kantoren van socialemediaplatform X als onderdeel van een voorlopig onderzoek naar beschuldigingen, waaronder de verspreiding van afbeeldingen van seksueel kindermisbruik en deepfakes. Ze hebben ook miljardair-eigenaar Elon Musk opgeroepen voor ondervraging.
X en Musk’s kunstmatige intelligentiebedrijf xAI worden ook geconfronteerd met een geïntensiveerd onderzoek door de Britse gegevensbeschermingsautoriteit, die formeel onderzoek heeft geopend naar de manier waarop zij met persoonlijke gegevens omgingen bij het ontwikkelen en inzetten van Musk’s kunstmatige intelligentie-chatbot Grok.
Grokdie is gebouwd door xAI en beschikbaar is via X, geactiveerd mondiale verontwaardiging vorige maand nadat het een stroom niet-consensuele geseksualiseerde deepfake-beelden naar buiten bracht als reactie op verzoeken van X-gebruikers.
Het Franse onderzoek werd afgelopen januari geopend door de cybercriminaliteitseenheid van het parket, aldus het parket van Parijs in een verklaring. Het onderzoekt onder meer vermeende ‘medeplichtigheid’ aan het bezitten en verspreiden van pornografische afbeeldingen van minderjarigen, seksueel expliciete deepfakes, ontkenning van misdaden tegen de menselijkheid en manipulatie van een geautomatiseerd gegevensverwerkingssysteem als onderdeel van een georganiseerde groep.
Aanklagers hebben Musk en voormalig CEO Linda Yaccarino op 20 april gevraagd om ‘vrijwillige interviews’ bij te wonen. Medewerkers van X zijn dezelfde week ook opgeroepen om als getuigen te worden ondervraagd, aldus de verklaring. Yaccarino was de directeur van mei 2023 tot juli 2025.
Een woordvoerder van X reageerde niet op meerdere verzoeken om commentaar. De advocaat van X in Frankrijk, Kami Haeri, zei tegen The Associated Press: “We geven op dit moment geen commentaar.”
In een bericht op X kondigde het parket van Parijs de voortdurende huiszoekingen aan in de kantoren van het bedrijf in Frankrijk en zei dat het het platform zou verlaten, terwijl het volgers aanmoedigde om zich bij het platform aan te sluiten op andere sociale media.
“In dit stadium is de uitvoering van het onderzoek gebaseerd op een constructieve aanpak, met als doel er uiteindelijk voor te zorgen dat het X-platform voldoet aan de Franse wet zoals het op nationaal grondgebied opereert”, aldus het parket.
Het politiebureau van de Europese Unie, Europol, “steunt de Franse autoriteiten hierin”, zei Europol-woordvoerder Jan Op Gen Oorth tegen de AP, zonder er verder op in te gaan.
De Franse autoriteiten zijn hun onderzoek gestart naar aanleiding van rapporten van een Franse wetgever die beweerde dat bevooroordeelde algoritmen op X waarschijnlijk de werking van een geautomatiseerd gegevensverwerkingssysteem verstoorden.
Het breidde zich uit nadat Grok berichten had geplaatst waarin naar verluidt de Holocaust, een misdaad in Frankrijk, werd ontkend en seksueel expliciete deepfakes werden verspreid, aldus de verklaring.
Grok schreef in een breed gedeelde post in het Frans dat de gaskamers hiervan op de hoogte zijn Auschwitz-Birkenau vernietigingskamp was ontworpen voor ‘desinfectie met Zyklon B tegen tyfus’ in plaats van voor massamoord – taal die lang werd geassocieerd met ontkenning van de Holocaust.
In latere berichten op X draaide de chatbot zichzelf om en erkende dat zijn eerdere reactie onjuist was, door te zeggen dat deze was verwijderd en te verwijzen naar historisch bewijs dat Zyklon B werd gebruikt om meer dan 1 miljoen mensen in de gaskamers van Auschwitz te doden.
De chatbot leek vorig jaar ook Adolf Hitler te prijzen in opmerkingen die X verwijderde klachten.
In Groot-Brittannië zei het Information Commissioner’s Office dat het onderzoekt of X en xAI de wet hebben gevolgd bij het verwerken van persoonlijke gegevens en of Grok maatregelen heeft genomen om te voorkomen dat deze worden gebruikt om ‘schadelijke gemanipuleerde beelden’ te genereren.
“De rapporten over Grok roepen diep zorgwekkende vragen op over de manier waarop de persoonlijke gegevens van mensen zijn gebruikt om intieme of geseksualiseerde beelden te genereren zonder hun medeweten of toestemming, en of de noodzakelijke waarborgen zijn getroffen om dit te voorkomen”, zegt William Malcolm, een CEO van de waakhond.
Hij specificeerde niet wat de boete zou zijn als uit het onderzoek zou blijken dat de bedrijven zich niet aan de wetgeving inzake gegevensbescherming hielden.
Een afzonderlijk onderzoek naar Grok dat vorige maand werd gelanceerd door de Britse mediaregulator Ofcom, is nog gaande.
Ofcom zei dinsdag dat het nog steeds bewijsmateriaal aan het verzamelen was en waarschuwde dat het onderzoek maanden zou kunnen duren.
X staat ook onder druk van de EU. De uit 27 landen bestaande uitvoerende macht van het blok opende een inspectie vorige maand nadat Grok zonder toestemming geseksualiseerde deepfake-afbeeldingen op het platform plaatste.
Brussel heeft X al met één getroffen 120 miljoen euro (toen 140 miljoen dollar) kreeg een boete opgelegd wegens tekortkomingen in de alomvattende digitale regels van het blok, inclusief blauwe vinkjes die de regels overtreden over ‘misleidende ontwerppraktijken’ die het risico inhielden dat gebruikers werden blootgesteld aan fraude en manipulatie.
Maandag maakte Musks ruimteverkennings- en raketbedrijf SpaceX bekend aangekondigd dat het xAI heeft overgenomen in een deal waarbij ook Grok, X en zijn satellietcommunicatiebedrijf Starlink worden gecombineerd.
___
Associated Press-schrijvers Nicolas Vaux-Montagny in Lyon, Frankrijk, Mike Corder in Den Haag, Nederland, Sylvia Hui en Kelvin Chan in Londen hebben bijgedragen aan dit rapport.
