Deepfake-naaktheid en ‘wraakporno’ moeten binnen 48 uur van het internet worden verwijderd, anders lopen technologiebedrijven het risico geblokkeerd te worden in Groot-Brittannië. Keir Starmer heeft gezegd en noemde het een “nationale noodsituatie” waar de regering het hoofd aan moet bieden.
Bedrijven kunnen te maken krijgen met miljoenenboetes of zelfs helemaal verboden worden als ze toestaan dat de afbeeldingen zich verspreiden of opnieuw posten nadat de slachtoffers hen hiervan op de hoogte hebben gesteld.
Er zullen wijzigingen worden aangebracht in de Crime and Policing Bill om ook AI-chatbots zoals X’s Grok te reguleren, die niet-consensuele beelden genereerden van vrouwen in bikini’s of in compromitterende posities totdat De regering dreigde met actie tegen het bedrijf van Elon Musk.
Starmer schreef in The Guardian: “De last van het aanpakken van misbruik mag niet langer op de schouders van de slachtoffers liggen. Het moet op de daders en de bedrijven die schade mogelijk maken.”
De premier zei dat institutionele vrouwenhaat “verweven was in de structuur van onze instellingen”, wat betekent dat de kwestie niet serieus genoeg werd genomen. “Te vaak wordt vrouwenhaat verontschuldigd, geminimaliseerd of genegeerd. De argumenten van vrouwen worden afgedaan als overdreven of ‘eenmalig’. Die cultuur leidt tot toestemming”, schreef Starmer.
Overheidsbronnen zeiden dat ze verwachtten Ofcom tegen de zomer de nieuwe handhavingsbevoegdheden te geven, en bedrijven zullen wettelijk verplicht zijn om deze inhoud niet meer dan 48 uur nadat deze aan hen is gemeld te verwijderen.
Platforms, waaronder sociale-mediabedrijven en pornosites, die nalaten in actie te komen, kunnen boetes krijgen van maximaal 10% van hun kwalificerende wereldwijde omzet of hun diensten kunnen in Groot-Brittannië worden geblokkeerd.
Slachtoffers zouden de beelden rechtstreeks bij technologiebedrijven of bij Ofcom kunnen melden – wat volgens het ministerie van Wetenschap, Innovatie en Technologie een platformonafhankelijke waarschuwing zou veroorzaken.
Ofcom zou verantwoordelijk zijn voor de handhaving van het verbod op de afbeeldingen, met als doel de last voor slachtoffers weg te nemen doordat ze dezelfde afbeelding mogelijk duizenden keren moeten melden omdat deze voortdurend opnieuw wordt gepost.
De mediaregulator zal worden gevraagd manieren te onderzoeken waarop “wraakporno”-afbeeldingen digitaal van een watermerk kunnen worden voorzien, zodat ze automatisch kunnen worden gemarkeerd telkens wanneer ze opnieuw worden gepost.
ISP’s zullen ook nieuwe richtlijnen krijgen over hoe ze de hosting van malafide websites die gespecialiseerd zijn in het hosten van echte of door AI gegenereerde expliciete inhoud zonder toestemming kunnen blokkeren.
Het Grok-instrument voor ‘nudificatie’ dat begin januari voor veel verontwaardiging zorgde, zag de ministers dreigen met een verbod X als het niet handelde. Volgens een analyse uitgevoerd voor The Guardian werden er elk uur ongeveer 6.000 bikiniverzoeken gedaan aan de chatbot, waarbij veel verzoeken om afbeeldingen te maken van vrouwen die vooroverbuigen of alleen maar floss droegen.
Maar er is de afgelopen jaren ook een toename geweest van het gebruik van echte of nepbeelden zonder wederzijds goedvinden om jonge vrouwen en mannen te chanteren. welke liefdadigheidsinstellingen verband hebben gehouden met een aantal zelfmoorden.
Starmer zei dat de horrorverhalen van vrouwen en meisjes die intieme beelden zien verspreid over het internet “het soort verhaal zijn dat je hart doet kloppen als ouder”.
“Te vaak zijn deze slachtoffers aan hun lot overgelaten, ze zijn van de ene plaats naar de andere gegaan en hebben steeds weer hetzelfde materiaal gerapporteerd, om het uren later elders te zien verschijnen”, zei de premier. “Het is geen gerechtigheid. Het is een mislukking. En het zendt een boodschap uit naar de jeugd van dit land dat vrouwen en meisjes handelswaar zijn die gebruikt en gedeeld moeten worden.”
Het maken of delen van intieme afbeeldingen zonder toestemming wordt ook een “prioritaire overtreding” onder de Online Safety Act, waardoor dit dezelfde ernst krijgt als afbeeldingen van kindermisbruik of terrorisme. De wet vereist niet dat platforms zelfstandig intieme afbeeldingen zonder toestemming identificeren, maar eenvoudigweg deze afbeeldingen verwijderen wanneer ze worden gemarkeerd.
Google, Meta, X en anderen doen dit al voor seksueel misbruik van kinderen via een proces dat hash-matching wordt genoemd – waarbij video’s een unieke digitale handtekening worden toegekend die kan worden vergeleken met databases met beledigende inhoud. En hoewel de tijdlijn van 48 uur kort is, heeft India dat onlangs gedaan mandaat dat sociale-mediabedrijven binnen drie uur een deel van de deepfake-inhoud verwijderen.
“Ik denk dat 48 uur zeker mogelijk is, om eerlijk te zijn”, zegt Anne Craanen, die online vrouwenhaat onderzoekt bij het Instituut voor Strategische Dialoog.
“Het probleem is dat dit niet noodzakelijkerwijs een sneller reactiepercentage van bedrijven stimuleert. Maar 48 uur is langer dan het tijdsbestek voor het verwijderen van andere soorten inhoud, zoals terroristische inhoud in de EU.”
Craanen voegde eraan toe dat dit al bestaat initiatieven het gebruik van hash-matching om slachtoffers van intiem misbruik te beschermen; al kan het een uitdaging zijn om verschillende technologische platforms onderling te laten coördineren, zodat een beledigende video die naar bijvoorbeeld Facebook wordt geüpload automatisch op Reddit wordt ontdekt.
Hash-matching is geen perfecte technologie, benadrukt Craanen, en kan worden omzeild. Terroristische groeperingen, b.v. voegen vaak emoji’s of kleine wijzigingen toe aan video’s die al zijn gehasht als terroristische inhoud, waardoor ze onherkenbaar worden voor hash-matchingsystemen.
De opkomst van AI-tools en AI-deepfakes zal dit probleem verergeren, waardoor het mogelijk wordt om intieme foto’s en andere inhoud snel zonder toestemming te wijzigen en te verspreiden en zich over het internet te verspreiden, zei Craanen, waarbij pogingen om het snel te detecteren met tools als hash-matching worden vermeden. Op een moment als de bikinificatiecrisis in Grok in januari kan bepaald misbruik onmogelijk onder controle te houden zijn.
Hoewel de wet van toepassing lijkt te zijn op alle technologieplatforms, inclusief ‘malafide websites’ die buiten de reikwijdte van de Online Security Act vallen, zijn er vragen over hoe deze van toepassing zou kunnen zijn op gecodeerde berichtendiensten zoals WhatsAppen en Signaal.
In zijn artikel zei Starmer dat hij ook vastbesloten was de vrouwenhaat in de regering en in de politiek aan te pakken, na enkele weken waarin de premier kritiek kreeg over de benoeming van Peter Mandelson als ambassadeur van de VS. ondanks dat hij op de hoogte was van zijn vriendschap met de in ongenade gevallen financier en kinderdelinquent Jeffery Epstein. Mandelson werd ontslagen na nieuwe onthullingen over de hechtheid van hun vriendschap.
De premier wordt ook geconfronteerd met een schandaal over de benoeming van een nieuwe kabinetssecretaris, Antonia Romeo. getipt om permanent secretaris van het ministerie van Binnenlandse Zaken te wordendie negen jaar geleden werd vrijgesproken van beschuldigingen van pesten, maar nog steeds een figuur is die verdeeldheid zaait binnen het ambtenarenapparaat. Sommige van haar verdedigers hebben gezegd dat kritiek op Romeo gebaseerd is op seksistische dubbele standaarden.
Starmer suggereerde dat hij meer vrouwen wilde benoemen in hogere leiderschapsrollen in de regering en zei dat hij “vastbesloten was om de cultuur van de overheid te transformeren: om de structuren aan te vechten die de stemmen van vrouwen nog steeds marginaliseren”.
‘En daarom denk ik dat het niet genoeg is om te tellen hoeveel vrouwen hogere functies bekleden’, zei hij. “Het gaat erom of hun opvattingen gewicht in de schaal leggen en tot verandering leiden.”
