Ontgrendel Editor’s Digest gratis
Roula Khalaf, redacteur van de FT, kiest haar favoriete verhalen in deze wekelijkse nieuwsbrief.
De Europese Unie is een formeel onderzoek gestart naar xAI van Elon Musk na publieke verontwaardiging over de manier waarop zijn chatbot Grok geseksualiseerde beelden van vrouwen en kinderen verspreidde.
De miljardair-ondernemer is deze maand door toezichthouders over de hele wereld onderzocht nadat mensen Grok begonnen te gebruiken om zonder toestemming deepfakes van mensen te genereren. De afbeeldingen zijn geplaatst op het sociale netwerk X en op de afzonderlijke Grok-app, die beide worden beheerd xAI.
Het onderzoek, dat maandag werd aangekondigd in het kader van de Digital Services Act van de EU, zal beoordelen of xAI heeft geprobeerd het risico van het inzetten van de tools van Grok op X en de verspreiding van inhoud die “materiaal van seksueel misbruik van kinderen kan vormen” te beperken.
“Seksuele vervalsingen zonder de toestemming van vrouwen en kinderen zijn een gewelddadige, onaanvaardbare vorm van degradatie”, zegt EU-techchef Henna Virkkunen.
“Met dit onderzoek zullen we vaststellen of X zijn wettelijke verplichtingen onder de DSA heeft vervuld of dat het de rechten van Europese burgers – inclusief die van vrouwen en kinderen – heeft behandeld als compensatie voor zijn diensten.”
Als blijkt dat het bedrijf de regels overtreedt, kan het blok boetes opleggen die kunnen oplopen tot 6 procent van de wereldwijde jaaromzet. Een EU-functionaris zei dat er tijdens het onderzoek geen voorlopige maatregelen zullen worden genomen.
Het Europese onderzoek komt nadat de Britse mediaregulator Ofcom een formeel onderzoek naar Grok heeft geopend, terwijl Maleisië en Indonesië de chatbot volledig hebben verboden.
Na de reactie, xAI beperkte het gebruik van Grok tot betalende abonnees en zei dat het “technologische maatregelen heeft geïmplementeerd” om te voorkomen dat Grok bepaalde geseksualiseerde beelden genereert.
Muskus heeft ook gezegd dat “iedereen die Grok gebruikt om illegale inhoud te maken, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud zou uploaden”.
Een EU-functionaris zei dat “we, gezien de schade die wordt toegebracht aan mensen die het onderwerp zijn van deze beelden, tot nu toe niet overtuigd zijn van de verzachtende maatregelen die het platform heeft getroffen om het onder controle te houden”.
Het bedrijf, dat vorig jaar de sociale-mediasite X van Musk kocht, heeft zijn AI-producten zo ontworpen dat ze minder ‘inhoudsbewakers’ hebben dan rivalen zoals OpenAI en Google. Musk noemde zijn Grok-model ‘maximaal zoeken naar de waarheid’.
De commissie boete X € 120 miljoen afgelopen december wegens het overtreden van de transparantieregels, het bieden van onvoldoende toegang tot gegevens en het misleidende ontwerp van het blauwe vinkje voor geverifieerde rekeningen.
De boete werd bekritiseerd door Musk en de Amerikaanse regering, waarbij de regering-Trump beweerde dat de EU zich op oneerlijke wijze op Amerikaanse groepen richtte en de beginselen van de vrijheid van meningsuiting schond die door de Maga-beweging werden verdedigd.
X heeft niet onmiddellijk gereageerd op een verzoek om commentaar.
