Thij laat het los op X (voorheen Twitter) met één stroom van AI-gegenereerde beelden van vrouwen en kinderen die bikini’s dragenSommigen in geseksualiseerde poses of met verwondingen hebben terecht geleid tot een krachtige reactie van Britse politici en toezichthouders. De aankondiging van maandag dat X wordt onderzocht, was de meest strijdlustige zet van Ofcom sinds de belangrijkste regelgeving Wet op onlinebeveiliging in werking getreden. Geen van de andere bedrijven die het heeft uitgedaagd of beboet, heeft ook maar enigszins het mondiale bereik of de politieke invloed van de socialemediagigant van Elon Musk. Wat er ook gebeurt, dit is een beslissend moment. Wat wordt gedefinieerd is de mate waarin enkele van de rijkste bedrijven ter wereld onder democratische controle staan.
Maar de aankondiging is slechts een eerste stap. Ofcom heeft geen indicatie gegeven voor hoe lang zijn onderzoek Vrijdag beschreef Downing Street het besluit om het gebruik van de beeldcreërende Grok AI-chatbot te beperken tot de betalende abonnees van X. De regering zei dat dit erop neerkwam dat het creëren van beledigende deepfakes een “premiumdienst” werd.
Dergelijke robuuste taal was welkom. Dat gold ook voor de aankondiging van technologiesecretaris Liz Kendall dat deze week een beloofd verbod op het maken van intieme afbeeldingen zonder toestemming van kracht zal worden, en dat nudificatie-apps binnenkort verboden zullen worden. In het weekend David Lammy beweerde dat JD Vance het bezwaar van de Britse regering deelt tegen hulpmiddelen waarmee gebruikers kinderen op foto’s kunnen uitkleden. Het is duidelijk dat de ministers geen gevecht met Donald Trump willen en er de voorkeur aan geven dat Amerikaanse politici zich aansluiten bij de uitdaging van grote technologie in plaats van op imago gebaseerd misbruik. Maar het agressieve verzet van Musk tegen regelgeving kan een publieke strijd onvermijdelijk maken. Hij wil dat Grok concurrerend is met OpenAI’s ChatGPT. En seks verkoopt.
Groot-Brittannië is niet de enige die een standpunt inneemt. Indonesië En Maleisië beide hebben beperkte toegang tot Grok als reactie op de verspreiding van intieme deepfakes. De Duitse minister van Media, Wolfram Weimer, heeft de Europese Commissie opgeroepen om op te treden tegen de “industrialisering van seksuele intimidatie”. Maar nu OpenAI naar verwachting binnenkort de creatie van erotisch materiaal met behulp van ChatGPT mogelijk zal maken, bestaat de angst dat de sluizen naar deepfake-pornografie op het punt staan open te gaan. Ernstige zorgen hierover beperken zich niet tot de noodzaak van leeftijdsverificatie om kinderen te beschermen. De meeste Britse 18-jarigen zitten nog op school. Zij en oudere volwassenen hebben ook recht op bescherming tegen schade veroorzaakt door intieme deepfakes. Het risico van gewelddadige onlinepornografie kan ook worden vergroot door kunstmatige intelligentie als dit materiaal gemakkelijker beschikbaar maakt.
Technologiebedrijven hadden nooit het tempo van de veranderingen mogen dicteren in de mate waarin zij dat hebben gedaan, door nieuwe instrumenten vrij te geven voordat de impact ervan is besproken of onafhankelijk is beoordeeld. De Britse onlineveiligheidswetten behoren tot de meest geavanceerde ter wereld. Maar die rage voor bikinifoto’s heeft een maas in een wet blootgelegd die restrictiever is voor afbeeldingen van mensen in ondergoed dan in badkleding – zelfs als het dekkingsniveau hetzelfde is.
Hoewel de toegang van kinderen tot sociale media-apps losstaat van het ontwerp van AI-tools, is het geen verrassing dat de vraag de leeftijdsgrenzen zijn verhoogd door hoge politici van rechts en links in de afgelopen dagen. Ministers moeten opstaan en beslissen wat zij vinden van kinderen die kunstmatige intelligentie gebruiken. Maar de onmiddellijke prioriteit is Grok. Ofcom heeft geblaft, en moet laten zien dat hij ook kan bijten.
