In momenten van politieke chaos, deepfakes en AI-gegenereerde inhoud kan gedijen. Een voorbeeld hiervan: de onlinereactie op de schokkende operatie van de Amerikaanse regering in Venezuela afgelopen weekend, die meerdere luchtaanvallen omvatte en een geheime missie die eindigde in de arrestatie van de president van het land, Nicolás Maduro, en zijn vrouw. Ze werden al snel beschuldigd van narcoterrorisme en andere misdaden en worden momenteel vastgehouden in een federale gevangenis in New York.
Op dit moment komen de feiten van de buitengewone operatie nog steeds aan het licht, en de toekomst van Venezuela is ongelooflijk onduidelijk. President Donald Trump zegt dat de Amerikaanse regering van plan is het land te ‘sturen’. Minister van Buitenlandse Zaken Marco Rubio heeft aangegeven dat nee, Amerika dat niet zal doen en dat de inmiddels beëdigde voormalige vice-president, Delcy Rodriguez, in plaats daarvan de leiding zal nemen. Anderen roepen nog steeds op tot oppositieleiders María Corina Machado en Edmundo Gonalzez om de leiding te nemen.
Op momenten als deze kunnen deepfakes, desinformatiecampagnes en zelfs door AI gegenereerde memes terrein winnen. Wanneer de waarheid of de toekomst nog niet duidelijk is, stelt generatieve kunstmatige intelligentie mensen in staat inhoud weer te geven die de nog onbeantwoorde vragen beantwoordt en de lege plekken invult met wat ze zouden kunnen doen. gebrek om waar te zijn.
We hebben al AI-video’s gezien over wat er in Venezuela gebeurt. Sommige zijn meme-achtige afbeeldingen van Maduro met handboeien op een militair vliegtuig, maar sommige kunnen worden aangezien voor echte beelden. Terwijl grote aantallen Venezolanen naar buiten kwamen om de gevangenneming van Maduro te vieren, zijn er ook video’s opgedoken waarop AI-gegenereerde menigten te zien zijn, waaronder een dat blijkbaar X-CEO Elon Musk voor de gek hield.
Op zijn minst anekdotisch is de deepfake-inhoud met betrekking tot Venezuela de afgelopen dagen toegenomen, zegt Ben Colman, medeoprichter en CEO van Reality Defender, een bedrijf dat deepfakes opspoort. Deze verhalen zijn aan geen enkele beweging gebonden en ‘lopen uiteen van nationalistisch tot anti-regering, pro-Venezuela, pro-VS, pro-eenheid, anti-globalisering en alles daartussenin’, zegt hij.
“Het verschil tussen deze gebeurtenis en gebeurtenissen van zelfs maar een paar maanden geleden is dat beeldmodellen de afgelopen dagen zo goed zijn geworden dat de meest scherpzinnige factcheckers, mediaverificatie-experts en experts in ons vakgebied veel van deze modellen niet handmatig kunnen verifiëren door te verwijzen naar specifieke aspecten van het beeld als indicator voor de geldigheid of het gebrek daaraan”, legt Colman uit. “Die strijd (over handmatige, visuele verificatie) is vrijwel verloren.”
zei Open AI Snel bedrijf dat het in de gaten houdt hoe Venezuela zich op zijn producten afspeelt en zegt dat het actie zal ondernemen als het schendingen van zijn gebruiksbeleid constateert.
Het Global Engagement Center van het ministerie van Buitenlandse Zaken, een federaal orgaan dat is opgericht om desinformatiecampagnes aan boord te monitoren, zou de situatie eerder hebben gevolgd, zei een voormalig werknemer.
In de Russische oorlog in Oekraïne zag het ministerie van Buitenlandse Zaken bijvoorbeeld ‘fake’-leiders die soldaten probeerden te overtuigen hun wapens neer te leggen en valse verhalen over extra deelnemers aan de oorlog. Tijdens politieke chaos is het gebruikelijk dat online actoren proberen tegengestelde facties te ontmoedigen, voegde de persoon eraan toe. Dat centrum werd later gesloten nadat de Republikeinen de organisatie ervan beschuldigden Amerikanen te censureren.
Het ministerie van Buitenlandse Zaken reageerde op het moment van publicatie niet op een verzoek om commentaar.
‘Versnellers’
Politieke deepfakes en door AI gegenereerde inhoud zijn nu gemeengoed. Een paar jaar geleden genereerde AI tv-presentatoren verspreiding van pro-gouvernementele gespreksonderwerpenogenschijnlijk bedoeld om het idee te promoten dat de economie en veiligheid van Venezuela over het algemeen goed waren, ging viraal door het hele land. In 2024 organiseerde een partij die banden had met de voormalige president van Zuid-Afrika, Jacob Zuma, heeft een deepfake-video gedeeld met een door AI gegenereerde Donald Trump die hun platform onderschreef (het was verre van dat het enige voorbeeld in het land). Zoals zelfs het recente New York City dat bleek uit de burgemeestersverkiezingenAI wordt vaak ingezet tijdens spannende campagneseizoenen.
Knight First Amendment Institute, dat analyseerde het gebruik van kunstmatige intelligentie bij verkiezingen in 2024ontdekte dat veel toepassingen van AI, vooral tijdens de verkiezingsperiode, niet noodzakelijkerwijs bedoeld zijn om te misleiden – en dat desinformatie niet altijd op basis van AI wordt gecreëerd. Het probleem is niet alleen dat het gemakkelijk is om met AI desinformatie te creëren, maar ook dat mensen openstaan voor het consumeren van desinformatie. Met andere woorden: er is vraag naar dit soort inhoud.
“Deepfakes zijn in deze context niet alleen desinformatie, het zijn versnellers”, zegt Emmanuelle Saliba, hoofd onderzoek bij GetReal Security, een ander bedrijf dat deepfakes opspoort. Snel bedrijf. “Hoewel een deel van de verzonnen inhoud die we hebben zien circuleren, is gemaakt om de memecultuur te voeden, is een deel ervan gemaakt en verspreid om mensen in een toch al onstabiel klimaat te verwarren en te destabiliseren. Vertrouwen hangt aan een zijden draadje.”
