Ontgrendel Editor’s Digest gratis
Roula Khalaf, redacteur van de FT, kiest haar favoriete verhalen in deze wekelijkse nieuwsbrief.
De Europese privacywaakhond heeft een “grootschalig” onderzoek geopend naar Elon Musk’s X over door AI gegenereerde seksuele beelden zonder toestemming, in het nieuwste teken van hoe toezichthouders de Grok-chatbot van de sociale-mediasite onder de loep nemen.
De Ierse Commissie voor Gegevensbescherming, die verantwoordelijk is voor de handhaving van de Algemene Verordening Gegevensbescherming van de EU, zei maandag laat dat zij een onderzoek had geopend naar de creatie en publicatie van “potentieel schadelijke” geseksualiseerde afbeeldingen door Grok die de verwerking van EU-gebruikersgegevens bevatten of daarbij betrokken waren.
De Grok-chatbot is geïntegreerd in de socialemediafeeds van X en ontwikkeld door Musks AI-start-up xAI, die vorig jaar X overnam. Eerder deze maand kocht xAI samengevoegd met Musk’s raketmaker SpaceX om een kolos van $ 1,5 biljoen te creëren.
Het onderzoek markeert het laatste in een reeks onderzoeken van mondiale autoriteiten tegen X na duizenden geseksualiseerde deepfakes van vrouwen is gegenereerd met behulp van Grok begin januari, wat leidde tot een wijdverbreide reactie van gebruikers, beveiligingsexperts en politici.
“De DPC is in gesprek met (X) sinds er een aantal weken geleden voor het eerst berichten in de media verschenen over het vermeende vermogen van X-gebruikers om het @Grok-account op X geseksualiseerde beelden te laten genereren van echte mensen, inclusief kinderen”, zei Graham Doyle, adjunct-commissaris van de DPC, maandag in een verklaring.
Hij voegde eraan toe dat de commissie “een grootschalig onderzoek is begonnen dat de naleving van enkele van haar fundamentele verplichtingen onder de AVG met betrekking tot de onderhavige gevallen zal onderzoeken”.
X heeft niet onmiddellijk gereageerd op een verzoek om commentaar.
Muskus heeft een hands-off benadering gevolgd bij het modereren van de Grok-chatbot, daarbij verwijzend naar de vrijheid van meningsuiting. Afgelopen zomer bracht xAI wijzigingen aan in de chatbot nadat deze Hitler had geprezen en antisemitische berichten op X had geplaatst.
Zijn X-kantoren in Parijs werden overvallen door Franse en Europese onderzoekers begin februari als onderdeel van een uitgebreid onderzoek naar de algoritmen van X en naar de verspreiding van door AI gegenereerd materiaal over seksueel misbruik. Franse aanklagers hebben Musk en Linda Yaccarino, de voormalige CEO van X, opgeroepen voor ‘vrijwillige interviews’ in Parijs in april.
Het Britse Information Commissioner’s Office kondigde vorige week ook aan dat het een nieuw onderzoek zou starten naar X en xAI, en zei dat het “ernstige zorgen” had over het gebruik van persoonlijke gegevens door Grok en “het potentieel ervan om schadelijke geseksualiseerde beeld- en video-inhoud te produceren”.
De EU heeft al een formeel onderzoek geopend naar xAI voor de verspreiding van geseksualiseerde beelden van vrouwen en kinderen door Grok op grond van de Digital Services Act van het blok, die van grote technologieplatforms vereist dat ze de verspreiding van illegale en schadelijke inhoud tegengaan.
Het maandag aangekondigde Europese onderzoek zal echter beoordelen of X de belangrijkste AVG-regels van de EU heeft overtreden, die vereisen dat bedrijven ervoor zorgen dat persoonlijke gebruikersgegevens alleen voor specifieke wettige doeleinden worden verwerkt, dat er rekening wordt gehouden met de privacy tijdens de productontwikkeling en dat zij risicobeoordelingen voorbereiden voordat ze bijvoorbeeld risicovolle functies lanceren.
Na druk van regeringen over de hele wereld, waaronder dreigementen met boetes en verboden in de EU, het Verenigd Koninkrijk en Frankrijk, heeft X vorige maand ‘technologische maatregelen’ geïmplementeerd om Grok ervan te weerhouden bepaalde expliciete beelden te genereren. Het bedrijf heeft er echter op aangedrongen dat het materiaal over seksueel misbruik van kinderen en materiaal over naaktheid zonder toestemming verwijdert.
In reactie op de Franse invallen zei X in een bericht dat de beschuldigingen “ongegrond” waren en dat het bedrijf “categorisch elk vergrijp ontkent”. Het noemde de inval een “misbruik van wetshandhavingstheater, ontworpen om onwettige politieke doelen te bereiken”, eraan toevoegend dat het onderzoek “de Franse wet verstoort, een eerlijk proces omzeilt en de vrijheid van meningsuiting in gevaar brengt”.
Het laatste onderzoek komt tijdens een turbulente periode voor X, waarbij tientallen medewerkers vorige week het bedrijf verlieten, waaronder twee medeoprichters. Musk zei woensdag tijdens een all-hands meeting dat hij de groep aan het herstructureren was na de fusie met SpaceX.
