Die van Elon Musk X zal gebruikers verbieden inkomsten te genereren met het platform als ze herhaaldelijk niet-gecodeerde, door AI gegenereerde oorlogsvideo’s posten nadat feeds op sociale media werden overspoeld met nep-gevechtsscènes uit het conflict in Iran.
Het socialemediaplatform, dat ongeveer een half miljard actieve gebruikers per maand heeft, zal mensen gedurende 90 dagen opschorten van het genereren van inkomsten met berichten als ze door AI gegenereerde video’s van een gewapend conflict maken zonder toe te voegen dat deze met AI zijn gemaakt. Een tweede overtreding zou leiden tot een permanent verbod, zei het dinsdagavond, nadat de eerste dagen van het conflict in Iran werden gekenmerkt door een stortvloed aan nep-onlinebeelden.
Tijdlijnen op X, evenals Instagram en Facebook, beheerd door Meta, bevatten verschillende nep-gevechtsscènes, waaronder Iraanse raketten die een Amerikaans straalvliegtuig achtervolgen en neerschieten – dat volgens controles van BBC Verify 70 miljoen keer werd bekeken – en een andere clip waarin AI werd gebruikt om rook die opsteeg van de plaats van een echte raketaanval te vervangen door een nep-vuurbal die meerdere malen groter was.
Gebruikers kunnen honderden dollars per maand verdienen op X als onderdeel van het advertentiemodel van het platform als ze een aanzienlijke aanhang opbouwen van bijna 100.000 mensen, wat de productie van schokkend virale berichten aanmoedigt.
Nikita Bier, productmanager bij X, zei: “In tijden van oorlog is het van cruciaal belang dat mensen toegang hebben tot authentieke informatie ter plaatse. Met de huidige AI-technologieën is het triviaal om inhoud te creëren die mensen kan misleiden. Vanaf nu zullen gebruikers die AI-gegenereerde video’s van een gewapend conflict plaatsen – zonder daarbij te vermelden dat deze met AI-inkomsten zijn gemaakt – voor 90 dagen worden verboden. Bij daaropvolgende schendingen zal dit resulteren in een permanente schorsing van het programma.”
Andere nepvideo’s van de oorlog hebben een enorm bereik gekregen. Een fragment dat op Instagram circuleert en beweert een enorme brand te laten zien nadat “Iran de Amerikaanse luchtmachtbasis in Riyadh heeft vernietigd” was nep en is geïdentificeerd als 18 maanden oude beelden van de nasleep van een Israëlische aanval op een olieraffinaderij in Hodeidah, Jemen.
Full Fact, de Britse factcheckorganisatie, zei dat zij “steeds vaker ziet dat AI de verspreiding van desinformatie op sociale media een boost geeft”.
Steve Nowottny, redacteur van Full Facts, zei: “De afgelopen dagen hebben we veel voorbeelden gezien van AI-afbeeldingen die op verschillende sociale mediaplatforms werden gedeeld alsof ze echt waren, waaronder nepafbeeldingen van een vliegdekschip en de Burj Khalifa die in brand stond, en een afbeelding die zogenaamd het lichaam van Ayatollah Khamenei laat zien.
“Zelfs als AI-afbeeldingen van lage kwaliteit lijken of nog steeds een zichtbaar watermerk hebben, zien we ze vaak op grote schaal worden gedeeld – en de enorme omvang van deze nep-inhoud en het gemak waarmee deze wordt gegenereerd en verspreid is een echte zorg.”
Sam Stockwell, die onderzoek doet naar AI in online informatie bij het Britse Centre for Emerging Technology and Security, zei dat er een nieuwe trend lijkt te zijn waarbij gebruikers AI-chatbots vragen om te verifiëren of video’s AI-namaakproducten zijn.
“Helaas zijn chatbots niet erg goed in het in realtime beoordelen van gebeurtenissen”, zei hij.
Dat weerhoudt mensen er echter niet van om de onjuiste beoordelingen van de chatbot te plaatsen als bewijs dat iets echt is. “Mensen proberen AI-output te manipuleren om hun verhaal en argumenten over de oorlog te ondersteunen”, zei hij.
Er is contact opgenomen met Meta voor commentaar.
