De X- en xAI-bedrijven van Elon Musk worden formeel onderzocht door de Britse gegevensbeschermingswaakhond nadat de Grok AI-tool obscene deepfakes produceerde zonder toestemming van mensen.
Het Information Commissioner’s Office onderzoekt of het sociale-mediaplatform en zijn moedermaatschappij de AVG, de wet op gegevensbescherming, hebben geschonden.
Het zei dat de creatie en verspreiding van de beelden op sociale media ernstige zorgen opriepen onder het Britse dataregime, zoals de vraag of er “passende waarborgen waren ingebouwd in het ontwerp en de implementatie van Grok”.
De stap kwam na Franse aanklagers viel het hoofdkwartier van Parijs aan door X als onderdeel van een onderzoek naar vermeende misdrijven, waaronder de verspreiding van afbeeldingen van kindermisbruik en seksueel expliciete deepfakes.
X kreeg in december en januari zware publieke kritiek toen het account van het platform voor de Grok AI-tool werd gebruikt massaproductie van gedeeltelijk naaktfoto’s van meisjes en vrouwen. De zelfstandige Grok-app werd ook gebruikt om geseksualiseerde deepfakes te genereren.
X en xAI aangekondigde maatregelen om de misbruiken aan te pakken, maar er zijn verschillende regelgevende en juridische onderzoeken gevolgd. Er is contact opgenomen met de twee bedrijven voor commentaar.
De uitvoerend directeur van Regulatory Risk and Innovation bij de ICO, William Malcolm, zei: “De rapporten over Grok roepen diep zorgwekkende vragen op over de manier waarop de persoonlijke gegevens van mensen zijn gebruikt om intieme of geseksualiseerde beelden te genereren zonder hun medeweten of toestemming, en of de noodzakelijke waarborgen zijn getroffen om dit te voorkomen.
“Het op deze manier verliezen van de controle over persoonlijke gegevens kan onmiddellijke en aanzienlijke schade veroorzaken. Dit is vooral het geval als er kinderen bij betrokken zijn.”
De AVG vereist dat de gegevens van mensen, inclusief hun imago, eerlijk, legaal en transparant worden beheerd – en dat ze worden geïnformeerd over de manier waarop hun gegevens worden gebruikt.
Overtredingen van de AVG kunnen resulteren in een boete van maximaal £ 17,5 miljoen. of 4% van de wereldwijde omzet. De inkomsten van X zijn niet openbaar, maar volgens schattingen van marktonderzoeksbureau eMarketer werd verwacht dat deze 2,3 miljard dollar zou opleveren. (£ 1,7 miljard) aan advertentie-inkomsten vorig jaarwat neerkomt op een boete van ongeveer $ 90 miljoen.
Iain Wilson, de managing partner bij advocatenkantoor Brett Wilson, zei: “Het onderzoek van de ICO roept serieuze vragen op over de aard van door AI gegenereerde beelden en hoe deze vandaan komen. Als foto’s van levende individuen inderdaad zijn gebruikt om zonder toestemming seksuele beelden te genereren, dan is het moeilijk om je een ernstiger schending van de wetgeving inzake gegevensbescherming voor te stellen.
“Dit is vooral het geval als de proefpersonen identificeerbaar zijn of kinderen.”
Volgens onderzoekers genereerde Grok AI in minder dan twee weken ongeveer 3 miljoen geseksualiseerde afbeeldingen, waaronder 23.000 die kinderen lijken af te beelden.
X is eigendom van xAI, de ontwikkelaar van Grok, hoewel beide dat ook zijn geweest opgenomen in Musk’s SpaceX-raketactiviteiten onder een fusie die maandag werd aangekondigd.
In een aparte verklaring zei de Britse communicatieregulator Ofcom dat het geen onderzoek doet naar xAI, dat de zelfstandige Grok-app levert.
Ofcom zei ook dat het onderzoek heeft gedaan naar X er werd nog steeds bewijsmateriaal verzameld en dat het onderzoek maanden kon duren.
Het bedrijf heeft stappen ondernomen om de kwestie aan te pakken en moet “volledige gelegenheid krijgen om commentaar te geven”, aldus het bedrijf.
Wat betreft de reden waarom xAI niet werd onderzocht, zei de verklaring dat niet alle chatbot-activiteiten onder de Online Safety Act vielen, de wetgeving die sites als X omvat. Als een chatbot bijvoorbeeld interactie heeft met één persoon en niet met andere gebruikers, valt dit niet binnen de reikwijdte van de wet.
Aanbieders van pornografie vallen echter onder de wet, waardoor Ofcom een potentiële mogelijkheid heeft om zijn onderzoek uit te breiden. Het zei dat het een onderzoek overweegt naar de vraag of xAI voldoet aan de regels die leeftijdsbeperkingen op pornografische inhoud vereisen.
Ondertussen heeft een groep parlementsleden onder leiding van Labour Anneliese Dodds een brief geschreven aan de technologiesecretaris Liz Kendall, waarin ze er bij de regering op aandringt om AI-wetgeving in te voeren om een herhaling van het Grok-schandaal te voorkomen. De wetgeving vereist dat AI-ontwikkelaars de risico’s die hun producten met zich meebrengen grondig beoordelen voordat ze deze op de markt brengen.
“Het schandaal zou in de eerste plaats niet hebben plaatsgevonden als er goede tests en risicobeoordelingen waren uitgevoerd. Deze episode laat zien dat de bestaande waarborgen niet voldoende zijn”, zei Dodds.
Een woordvoerder van het ministerie van Wetenschap, Innovatie en Technologie zei: “We hebben de Online Safety Act versterkt, zodat diensten proactieve maatregelen moeten nemen om deze inhoud aan te pakken. En we zullen het aanbieden van tools verbieden die zijn ontworpen om zonder toestemming intieme afbeeldingen te maken, waarbij we het probleem bij de bron aanpakken.”
