De Europese Commissie heeft dat gedaan een onderzoek gestart in Elon Musk’s X vanwege zorgen dat zijn AI-tool Grok werd gebruikt om geseksualiseerde beelden van echte mensen te maken.
Het volgt een soortgelijke aankondiging in januari van de Britse waakhond Ofcom.
Als blijkt dat de site de EU-regels op grond van de Digital Services Act heeft overtreden, kan de Commissie het bedrijf een boete opleggen van maximaal 6% van zijn wereldwijde jaaromzet.
EEN vorige verklaring uit X’s Safety-account zei dat het sociale-mediaplatform Grok had verhinderd om afbeeldingen van mensen digitaal te wijzigen om hun kleding te verwijderen in “rechtsgebieden waar dergelijke inhoud illegaal is”.
Regina Doherty, een lid van het Europees Parlement dat Ierland vertegenwoordigt, zei dat de Commissie zou beoordelen of er “gemanipuleerde seksueel expliciete beelden” aan gebruikers in de EU zijn getoond.
Actievoerders en slachtoffers zeiden dat de tool seksueel expliciete afbeeldingen kan genereren had ‘nooit mogen gebeuren’en Ofcom zei dat het onderzoek aan de gang zou blijven.
De EU-toezichthouder zei dat het “voorlopige maatregelen kan opleggen” als X weigert zinvolle aanpassingen door te voeren.
Het zei dat het ook zijn lopende onderzoek dat in december 2023 werd gestart, had uitgebreid naar de risico’s die verband houden met de aanbevelingssystemen van X – het algoritme dat specifieke berichten aanbeveelt aan gebruikers.
Vóór de aankondiging van de commissie, Elon Musk plaatste een foto op X Maandag lijkt de aandacht te vestigen op de nieuwe beperkingen rond Grok.
De X-eigenaar heeft eerder kritiek geuit op degenen die de fotobewerkingsfunctie van de app onder de loep namen – met name de Britse regering – en noemde het “elk excuus voor censuur”.
Op zondag, het Grok-account dat X claimde in slechts 30 dagen werden door de tool meer dan 5,5 miljard afbeeldingen gegenereerd.
Andere onderzoeken naar de chatbot van het platform zijn gaande in Australië, Frankrijk en Duitsland.
In Indonesië en Maleisië werd Grok tijdelijk verboden, al heeft laatstgenoemde het verbod inmiddels opgeheven.
Henna Virkkunen, uitvoerend vicevoorzitter voor technische soevereiniteit, veiligheid en democratie bij de Commissie, noemde de seksuele deepfakes een “gewelddadige, onaanvaardbare vorm van degradatie”.
“Met dit onderzoek zullen we bepalen of X zijn wettelijke verplichtingen onder de DSA heeft vervuld of dat het de rechten van Europese burgers – inclusief die van vrouwen en kinderen – heeft behandeld als compensatie voor zijn diensten”, zei ze.
In een verklaring aan Reuters zei Doherty dat er “serieuze vragen” waren over de vraag of platforms zoals X voldeden aan de wettelijke verplichtingen “om de risico’s goed in te schatten en te voorkomen dat illegale en schadelijke inhoud zich verspreidt”.
“De Europese Unie heeft duidelijke regels om mensen online te beschermen”, zei ze.
‘Die regels moeten in de praktijk iets betekenen, zeker als krachtige technologieën op grote schaal worden geïmplementeerd.
“Geen enkel bedrijf dat actief is in de EU staat boven de wet.”
De stap komt een maand na de EU boete X € 120 miljoen (£ 105 miljoen) voor zijn blauwe vinkjesen zegt dat ze “gebruikers misleiden” omdat het bedrijf niet “zinvol verifieert” wie er achter het account zit.
In reactie hierop beschuldigden de Amerikaanse minister van Buitenlandse Zaken Marco Rubio en de Federal Communications Commission (FCC) de EU-toezichthouder ervan Amerikaanse bedrijven te targeten en te censureren.
“De boete van de Europese Commissie is niet alleen een aanval op X, het is een aanval op alle Amerikaanse technologieplatforms en het Amerikaanse volk door buitenlandse regeringen”, zei hij.
Zijn opmerkingen werden geretweet door Musk, die er “absoluut” aan toevoegde.
