Onlinecriminelen beweren de Grok AI-tool van Elon Musk te hebben gebruikt om seksuele beelden van kinderen te maken, terwijl een waakhond voor de veiligheid van kinderen waarschuwde dat de technologie het risico in zich droeg dergelijk materiaal mainstream te maken.
Verenigd Koninkrijk gevestigd Het internet De Watch Foundation (IWF) zei dat gebruikers van een dark web-forum opschepten over het gebruik van Grok Imagine om geseksualiseerde en topless afbeeldingen te maken van meisjes tussen 11 en 13 jaar oud. IWF-analisten zeiden dat de afbeeldingen volgens de Britse wet zouden worden beschouwd als materiaal voor seksueel misbruik van kinderen (CSAM).
Verenigd Koninkrijk gevestigd Het internet De Watch Foundation (IWF) zei dat gebruikers van een dark web-forum opschepten over het gebruik van Grok Imagine om geseksualiseerde en topless afbeeldingen te maken van meisjes tussen 11 en 13 jaar oud. IWF-analisten zeiden dat de afbeeldingen volgens de Britse wet zouden worden beschouwd als materiaal voor seksueel misbruik van kinderen (CSAM).
“We kunnen bevestigen dat onze analisten belastende beelden hebben ontdekt van kinderen tussen de 11 en 13 jaar oud, die met behulp van de tool lijken te zijn gemaakt”, zegt Ngaire Alexander, hoofd van de IWF-hotline, die meldingen van CSAM van leden van het publiek onderzoekt.
X, het socialemediaplatform van Elon Musk, is dat wel geweest overspoeld met afbeeldingen van vrouwen en kinderen wier kleding digitaal is verwijderd van de Grok-tool, leidde tot publieke verontwaardiging en veroordeling van politici.
Ondertussen zei de commissie Vrouwen en Gelijkheid van het Lagerhuis woensdag dat zij deze niet langer zou gebruiken X voor haar mededelingen en stelde dat het niet langer gepast was om dit te doen, aangezien het voorkomen van geweld tegen vrouwen en meisjes een van de belangrijkste beleidsterreinen was.
Het besluit markeert de eerste belangrijke stap van een Westminster-organisatie om X te verlaten als reactie op het misbruik van Grok. Hoewel het besluit alleen van invloed was op het verslag van de commissie, zijn sommige individuele leden, waaronder Labour-voorzitter Sarah Owen, al gestopt met het gebruik van X. Een ander, liberaal-democratisch parlementslid Christine Jardine, zei dat ze het platform verliet en noemde de door Grok gegenereerde beelden “de laatste druppel”.
Alexander zei dat de beelden die de IWF heeft gezien, zijn gebruikt om nog extremer materiaal te creëren – bekend als categorie A, dat penetrerende seksuele activiteit omvat – met behulp van een andere AI-tool.
“We zijn uiterst bezorgd over het gemak en de snelheid waarmee mensen blijkbaar fotorealistisch materiaal over seksueel kindermisbruik kunnen genereren. Tools zoals Grok lopen nu het risico om seksuele AI-beelden van kinderen mainstream te maken. Dit is onaanvaardbaar”, voegde Alexander eraan toe.
Musk’s xAI, eigenaar van Grok en X, is gecontacteerd voor commentaar.
Downing Street zei dat “alle opties op tafel lagen”, inclusief een boycot van X, omdat de ministers de Britse toezichthouder Ofcom steunden om in actie te komen.
Woensdag zei de officiële woordvoerder van de premier: “X moet dit dringend aanpakken en Ofcom heeft onze volledige steun bij het ondernemen van handhavingsmaatregelen overal waar bedrijven er niet in slagen Britse gebruikers te beschermen.
“Het heeft al de macht om boetes uit te vaardigen die kunnen oplopen tot miljarden ponden en zelfs de toegang tot een website die de wet overtreedt, stop te zetten.”
Verzoeken aan Grok om afbeeldingen van vrouwen te manipuleren om haar “in een bikini te stoppen” bleven op X woensdag binnenstromen. Ondanks waarschuwingen over regelgevende maatregelen uit de EU en Groot-Brittannië was er geen bewijs dat het platform strengere veiligheidsmaatregelen had getroffen, en afbeeldingen van tienermeisjes worden nog steeds digitaal uitgekleed op verzoek van X-gebruikers, om ze te laten zien in klein, onthullend ondergoed of in seksueel expliciete poses.
Sommige gebruikers hebben om extremere inhoud gevraagd, waarbij ze de chatbot hebben gevraagd om bikini’s te versieren met hakenkruizen of om wijzigingen aan foto’s van vrouwen te vragen om de indruk te wekken dat ze het slachtoffer zijn van misbruik. De chatbot deed dat door brandplekken van sigaretten, kneuzingen in het gezicht en bloed toe te voegen aan sommige afbeeldingen van vrouwen.
De Britse datawaakhond, de Information Commissioner’s Office (ICO), zei dat het contact had opgenomen met X en xAI “om duidelijkheid te zoeken over de maatregelen die zij hebben genomen om te voldoen aan de Britse wetgeving inzake gegevensbescherming en om de rechten van individuen te beschermen”, eraan toevoegend dat mensen “het recht hebben om sociale media te gebruiken, wetende dat hun persoonlijke gegevens wettig en met respect worden behandeld”.
X heeft gezegd dat het actie onderneemt tegen illegale inhoud, waaronder materiaal met seksueel misbruik van kinderen, “door het te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale autoriteiten en wetshandhavers”.
