De Europese Unie opende een formeel onderzoek naar Elon Het socialemediaplatform van Musk X Maandag na de zijne kunstmatige intelligentie spuug zonder toestemming uitgespuwd geseksualiseerde deepfake-afbeeldingen op het perron.
Europese toezichthoudende autoriteiten breidde ook een afzonderlijk, lopend onderzoek uit naar de aanbevelingssystemen van X nadat het platform zei dat het zou overschakelen naar het AI-systeem van Grok om te kiezen welke berichten gebruikers zien.
Het onderzoek uit Brussel komt nadat Grok een wereldwijde terugslag veroorzaakte door gebruikers via de AI-beeldgeneratie- en bewerkingsmogelijkheden toe te staan mensen uit te kleden, vrouwen in doorzichtige bikini’s te zetten of kleding te onthullen. Onderzoekers zeiden dat sommige afbeeldingen kinderen leken te bevatten. Sommige regeringen hebben de dienst verboden of waarschuwingen afgegeven.
Het hoofd van de EU, dat uit 27 landen bestaat, zei dat het onderzoekt of X genoeg heeft gedaan zoals vereist door de digitale regels van het blok om het risico op het verspreiden van illegale inhoud, zoals ‘gemanipuleerde seksueel expliciete beelden’, te beperken.
Dat geldt ook voor inhoud die “materiaal van seksueel misbruik van kinderen kan vormen”, aldus de Europese Commissie. Deze risico’s zijn nu ‘gematerialiseerd’, zei de commissie, waardoor de burgers van het blok aan ‘ernstige schade’ zijn blootgesteld.
Toezichthouders zullen onderzoeken of Grok voldoet aan zijn verplichtingen onder de Digital Services Act, het alomvattende rulebook van het blok om internetgebruikers te beschermen tegen schadelijke inhoud en producten.
In antwoord op een verzoek om commentaar verwees een woordvoerster van X Associated Press naar een eerdere verklaring dat het bedrijf “zich blijft inzetten om van X een veilig platform voor iedereen te maken” en dat het “nultolerantie” hanteert ten aanzien van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.
In de verklaring van 14 januari X stond ook dat gebruikers niet langer zouden worden toegestaan mensen in ‘bikini’s, ondergoed of andere onthullende kleding’ af te beelden, maar alleen op plaatsen waar dit als illegaal wordt beschouwd.
“Seksuele vervalsing zonder de toestemming van vrouwen en kinderen is een gewelddadige, onaanvaardbare vorm van degradatie”, zegt Henna Virkkunen, uitvoerend vicevoorzitter van de commissie, in een verklaring.
“Met dit onderzoek zullen we bepalen of X aan zijn wettelijke verplichtingen onder de DSA heeft voldaan of dat het de rechten van Europese burgers – inclusief die van vrouwen en kinderen – heeft behandeld als bijkomende schade aan zijn dienstverlening”, zegt Virkkunen, die toezicht houdt op technologische soevereiniteit, veiligheid en democratie.
Musk’s kunstmatige intelligentiebedrijf xAI lanceerde afgelopen zomer de beeldvormingstool van Grok. Maar het probleem begon pas eind vorige maand te sneeuwballen, toen Grok blijkbaar tegemoetkwam aan een groot aantal gebruikersverzoeken om afbeeldingen te wijzigen die door anderen waren ingediend. Het probleem werd nog verergerd omdat Musk zijn chatbot presenteert als een hoekiger alternatief met minder waarborgen dan de concurrentie, en omdat de reacties van Grok op X publiekelijk zichtbaar zijn en daarom gemakkelijk verspreid worden.
Het EU-onderzoek heeft alleen betrekking op de service van Grok op X, en niet op de website en zelfstandige app van Grok. Dit komt omdat de DSA alleen geldt voor de grootste online platforms.
Er is geen deadline voor de blokkade om de kwestie op te lossen, wat ertoe kan leiden dat X belooft zijn gedrag te veranderen of een hoge boete krijgt.
In december heeft Brussel X een boete van 120 miljoen euro (toen 140 miljoen dollar) opgelegd als onderdeel van het eerder lopende DSA-onderzoek naar gebreken, waaronder blauwe vinkjes die de regels overtreden over ‘misleidende ontwerppraktijken’ die het risico liepen gebruikers bloot te stellen aan fraude en manipulatie.
Het blok heeft X ook onder de loep genomen vanwege beweringen dat Grok antisemitisch materiaal heeft gegenereerd en heeft de site om meer informatie gevraagd.
Maleisië en Indonesië blokkeerden eerder deze maand de toegang tot Grok als reactie op de controverse en waren daarmee de eerste landen die dit deden.
Vrijdag zeiden de Maleisische autoriteiten dat ze de tijdelijke beperking hadden opgeheven nadat het bedrijf aanvullende beveiligings- en preventiemaatregelen had getroffen, zonder verdere details te geven. De Maleisische toezichthouders zeiden dat ze vorige week een ontmoeting hadden gehad met de vertegenwoordigers van X en de situatie in de gaten zouden blijven houden.
__
AP-schrijver Eileen Ng uit Kuala Lumpur heeft bijgedragen aan dit rapport
—Kelvin Chan, zakelijk schrijver van AP
