Eén op de vier mensen vindt dat er niets mis is met het maken en delen van seksuele deepfakes, of staat er neutraal tegenover, zelfs als de afgebeelde persoon geen toestemming heeft gegeven, zo blijkt uit een onderzoek in opdracht van de politie.
De bevindingen waren voor een hoge politieagent aanleiding om te waarschuwen dat het gebruik van kunstmatige intelligentie een epidemie van geweld tegen vrouwen en meisjes (VAWG) aanwakkert en dat technologiebedrijven medeplichtig zijn aan dit misbruik.
Uit het onderzoek onder 1.700 mensen in opdracht van het Office of the Chief Scientific Adviser bleek dat 13% van mening was dat er niets mis was met het creëren en delen van seksuele of intieme deepfakes: digitaal gewijzigde inhoud die zonder toestemming met behulp van AI is gemaakt.
Nog eens 12% voelde zich neutraal over de morele en juridische aanvaardbaarheid van het maken en delen van dergelijke deepfakes.
Det Ch Supt Claire Hammond, van het National Center for VAWG and Public Protection, herinnerde het publiek eraan dat “het delen van intieme afbeeldingen van iemand zonder hun toestemming, of het nu echte afbeeldingen zijn of niet, zeer beledigend is”.
In reactie op de onderzoeksresultaten zei ze: “De opkomst van AI-technologie versnelt de epidemie van geweld tegen vrouwen en meisjes over de hele wereld. Technologiebedrijven zijn medeplichtig aan dit misbruik en hebben het creëren en delen van beledigend materiaal zo eenvoudig gemaakt als het klikken op een knop, en ze moeten nu actie ondernemen om dit te stoppen.”
Ze moedigde slachtoffers van deepfakes aan om beelden bij de politie te melden. Hammond zei: “Dit is een ernstige misdaad en wij zullen u steunen. Niemand mag in stilte of schaamte lijden.”
Het creëren van seksueel expliciete deepfakes zonder toestemming is een strafbaar feit onder de nieuwe datawet.
Uit het rapport van misdaad- en justitieadviesbureau Crest Advisory bleek dat 7% van de respondenten was afgebeeld in een seksuele of intieme deepfake. Hiervan had slechts 51% aangifte gedaan bij de politie. Onder degenen die het aan niemand vertelden, waren de meest genoemde redenen schaamte en onzekerheid dat het misdrijf serieus zou worden genomen.
De gegevens suggereerden ook dat mannen onder de 45 het waarschijnlijk acceptabel zouden vinden om deepfakes te maken en te delen. Het was ook waarschijnlijker dat deze groep pornografie online bekeek, het eens was met vrouwonvriendelijke opvattingen en een positievere mening had over AI. Maar het rapport zei dat dit verband tussen leeftijd en geslacht bij dergelijke opvattingen zwak was en riep op tot verder onderzoek om dit schijnbare verband te onderzoeken.
Eén op de twintig ondervraagden gaf toe dat ze in het verleden deepfakes hadden gedaan. Ruim één op de tien zei dat ze er in de toekomst een zouden opzetten. En tweederde van de ondervraagden zei dat ze een deepfake hadden gezien of zouden kunnen hebben gezien.
De auteur van het rapport, Callyane Desroches, hoofd beleid en strategie bij Crest Advisory, waarschuwde dat het creëren van deepfakes “steeds normaler wordt naarmate de technologie om ze te maken goedkoper en toegankelijker wordt”.
Ze voegde eraan toe: “Hoewel sommige diep nep-inhoud onschadelijk lijkt, is de overgrote meerderheid van de video-inhoud geseksualiseerd – en vrouwen zijn overweldigend het doelwit.
“We zijn diep bezorgd over wat ons onderzoek heeft benadrukt: dat er een cohort jonge mannen is die actief naar pornografie kijken en standpunten koesteren die consistent zijn met vrouwenhaat, die geen kwaad zien in het bekijken, creëren en delen van seksuele deepfakes van mensen zonder hun toestemming.”
Cally Jane Beech, een activiste die campagne voert voor een betere bescherming van slachtoffers van deep-fake-misbruik, zei: “We leven in zeer zorgwekkende tijden, de toekomst van onze dochters (en zonen) staat op het spel als we niet snel beslissende actie ondernemen in de digitale ruimte.
Ze voegde eraan toe: “We kijken naar een hele generatie kinderen die zijn opgegroeid zonder enige bescherming, wet- of regelgeving hierover en die nu het duistere rimpeleffect van deze vrijheid zien.
“Dit stoppen begint thuis. Onderwijs en open gesprekken moeten elke dag worden versterkt als we ooit de kans krijgen dit uit te roeien.”
