De Europese Commissie heeft een onderzoek gestart naar de X van Elon Musk vanwege de productie van seksueel expliciete afbeeldingen en de verspreiding van mogelijk materiaal over seksueel misbruik van kinderen door de AI-chatbot van het platform, Grok.
Het formele onderzoek, dat maandag is gestart, breidt ook een onderzoek uit naar de aanbevelingssystemen van X, algoritmen die gebruikers helpen nieuwe inhoud te ontdekken.
Grok heeft internationale verontwaardiging gewekt door gebruikers toe te staan vrouwen en kinderen digitaal uit te kleden en ze in provocerende poses te poseren. Grok AI genereerde ca 3 miljoen geseksualiseerde afbeeldingen in minder dan twee wekenwaaronder 23.000 die kinderen leken af te beelden, volgens onderzoekers van het Center for Countering Digital Hate.
De commissie zei dat haar onderzoek zou “beoordelen of het bedrijf de risico’s die voortvloeien uit de functies van Grok in de EU op de juiste manier heeft ingeschat en beperkt, inclusief de risico’s van het delen van illegale inhoud zoals gemanipuleerde seksueel expliciete afbeeldingen en “inhoud die gelijkwaardig kan zijn aan” materiaal over seksueel misbruik van kinderen.
Het onderzoek werd gelanceerd op grond van de Digital Services Act (DSA) van de EU, een relatief nieuw stuk wetgeving dat bedoeld is om internetgebruikers te beschermen tegen een breed scala aan schade.
In een gesprek met verslaggevers zei een functionaris dat de commissie niet overtuigd was door de verzachtende maatregelen die X had getroffen om het probleem aan te pakken.
Na de aanvankelijke verontwaardiging over de vervalste beelden beperkte het bedrijf de toegang tot de tool tot betalende abonnees, maar veranderde van koers onder druk van de Europese toezichthouders. Eerder deze maand maakte het bekend maatregelen te hebben genomen om te voorkomen dat Grok het bewerken van afbeeldingen van echte mensen in onthullende kleding toestaat.
Een ambtenaar van de Commissie zei dat de maatregelen de bredere zorgen over Grok niet wegnamen. In het onderzoek wordt gekeken naar de systemische risico’s van het genereren van illegale inhoud, waaronder inhoud waarin geweld tegen vrouwen wordt weergegeven en materiaal met seksueel misbruik van kinderen. X beschikte niet over “effectieve beperkende maatregelen … om de risico’s op hun platform te verminderen”, zeiden ze.
Henna Virkkunen, de topfunctionaris van de commissie voor technische soevereiniteit, veiligheid en democratie, zei in haar aankondiging van het onderzoek: “Seksuele vervalsing zonder toestemming van vrouwen en kinderen is een gewelddadige, onaanvaardbare vorm van degradatie. Met dit onderzoek zullen we bepalen of X aan zijn wettelijke verplichtingen onder de DSA heeft voldaan of dat het de rechten van Europese burgers – inclusief de rechten van vrouwen – inclusief de rechten van vrouwen – inclusief de rechten van vrouwen en kinderen. heeft behandeld.”
Naast het onderzoek naar expliciete afbeeldingen breidt de commissie een onderzoek uit dat in december 2023 is gestart naar de zogenaamde aanbevelingssystemen van X in het licht van de aankondiging van het bedrijf om over te stappen op een op Grok gebaseerd model voor het filteren van informatie en inhoud voor gebruikers.
De stap komt na de Britse mediawaakhond Ofcom kondigde een eigen onderzoek aan eerder deze maand in “griezelige” en illegale inhoud op X.
De Commissie heeft veel kritiek gekregen omdat ze te traag is met het handhaven van de DSA, vooral met betrekking tot X.
“Het onderzoek komt laat, maar kan nog steeds een duidelijk signaal afgeven dat platforms aan de Europese wetgeving moeten voldoen”, aldus het Duitse Groene Europarlementariër Alexandra Ganzen. “Deze zaak is duidelijk. De schade voor miljoenen vrouwen en veel kinderen is onherstelbaar. We hopen dat de commissie deze kennis zal gebruiken om in de toekomst sneller te kunnen handelen.”
EU-functionarissen hebben dergelijke kritiek verworpen en wezen op vijftien lopende onderzoeken in het kader van de DSA, die sinds februari 2024 op bedrijven zijn toegepast.
Regina Doherty, een centrumrechtse Ierse vice-president van het Europees Parlement, zei dat ze het formele onderzoek verwelkomde. “Als er geloofwaardige rapporten verschijnen over AI-systemen die worden gebruikt op een manier die vrouwen en kinderen schaadt, is het belangrijk dat de EU-wetgeving onverwijld wordt onderzocht en gehandhaafd”, aldus Doherty.
In reactie op het onderzoek heeft X een link verstrekt naar een verklaring die het op 14 januari heeft uitgebracht: “We blijven ons inzetten om van X een veilig platform voor iedereen te maken en blijven een nultolerantie hanteren voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.”
De commissie boete X € 120 miljoen vorige maand wegens het overtreden van de EU-wetgeving. Het platform had gebruikers misleid, onafhankelijke onderzoekers gehinderd en verantwoordelijkheid ontweken”, aldus het rapport.
De EU-toezichthouder zei dat X “misleidende” blauwe vinkjes aan accounts gaf zonder verificatie, waardoor gebruikers mogelijk werden blootgesteld aan fraude en misleiding door kwaadwillende actoren. X heeft ook de EU-wetgeving inzake transparantie op het gebied van reclame overtreden door te voorkomen dat onderzoekers nepadvertenties en hybride dreigingscampagnes onderzoeken.
Musk reageerde ‘onzin’ op een bericht van de Commissie waarin de boete werd aangekondigd en riep later op tot afschaffing van de EU.
Het bedrijf kreeg drie maanden de tijd om de boete te betalen. Een EU-functionaris zei dat ze er vertrouwen in hadden dat de boete zou worden betaald.
