EILANDMakers van online-inhoud maken niet alleen nepfoto’s en -video’s van prominente publieke figuren, ze imiteren ook mensen en gebruiken deze in militaire contexten, waardoor ze geld kunnen verdienen en zelfs als effectieve propaganda kunnen dienen, aldus onderzoekers van kunstmatige intelligentie.
Sommige van deze online avatars zijn geseksualiseerde afbeeldingen van vrouwen die camouflage dragen, die een aanzienlijk publiek hebben gegenereerd en hebben bijgedragen aan het creëren van een geïdealiseerd beeld van politieke figuren als Donald Trump, ook al weet de kijker volgens experts dat de inhoud niet echt is.
“We vervagen de grenzen tussen politieke cartoons en de werkelijkheid”, zegt Daniel Schiff, assistent-professor technologiebeleid aan de Purdue University en mededirecteur van Bestuur en verantwoordelijk AI Lab (Boos). “Veel mensen willen deze foto’s of video’s of de verhalen die ze overbrengen, gevoel oprecht.”
Volgens een van de onderzoekers is het aantal politieke deepfakes de afgelopen jaren dramatisch toegenomen Graal-database. Sinds begin 2025 heeft de organisatie meer dan 1.000 Engelstalige posts op sociale media gecatalogiseerd met nepfoto’s of video’s van prominente politieke figuren en politiek belangrijke sociale kwesties en evenementen.
In de afgelopen acht jaar samen heeft de organisatie 1.344 van dergelijke incidenten geregistreerd.
Die toename komt grotendeels doordat de generatieve AI-technologie is verbeterd, waardoor mensen snel dergelijke inhoud kunnen creëren, zei Schiff.
We hebben het “triviaal eenvoudig gemaakt om een scène te creëren die er heel realistisch uitziet en om echte individuen in scènes te plaatsen”, zegt Sam Gregory, CEO van Witness, een organisatie die zich inzet voor mensenrechten en het bestrijden van misleidende AI.
Maar de nep-avatars – die zich voordoen als echte gewone mensen in plaats van beroemde figuren – zijn een andere zaak.
AI-vrouwen in uniform, Trump en … voetenfoto’s?
In december 2025 ging een account voor Jessica Foster, een door AI gegenereerde blonde vrouw, vaak in Amerikaans militair uniform, live op Instagram en begon foto’s te delen van Foster bovenop een stapelbed in een kazerne; zittend in een bureaustoel met de voeten op een bureau; en op hoge hakken over het asfalt naast Trump lopen, aldus aan Snelbedrijf.
De makers gebruikten dat schoeisel bewust en lieten haar voeten opvallen.
De foto’s van Foster, die geen echte persoon is, trokken ruim 1 miljoen volgers op Instagram. De berichten werden vervolgens gekoppeld aan een account op OnlyFans, een platform dat veel wordt gebruikt door pornografische makers, waar bezoekers voetfoto’s konden kopen, zogenaamd van Foster.
“Waarom antwoord je NOOIT?” vroeg een gebruiker naar het Foster-profiel op Instagram, aldus Washington Post.
De rekening is de afgelopen dagen verwijderd.
“Een groot deel van de AI-generatie is in feite bedoeld om klikken en geld te krijgen of om mensen naar een lucratievere plek te leiden”, zei Gregory.
Maar dergelijke instrumenten kunnen ook een politiek doel dienen. Tijdens de oorlog in Iran is er op sociale media een stroom aan video’s verschenen van nep-vrouwelijke Iraanse soldaten die zeiden: ‘Habibi, kom naar Iran’. Dat meldde de BBC.
Eén van de weggeefacties was dat Iran vrouwen verbiedt om in gevechtsrollen te dienen.
De makers hebben ook een door AI gegenereerde vrouwelijke politieagent gebouwd die meer dan 26.000 volgers heeft op TikTok. Een filmpje laat het lachend zien met het onderschrift: “President Trump heeft meer dan 2,5 miljoen mensen het land uitgezet. Heb je daar op gestemd? Ja.”
Het kreeg meer dan 200 likes en 23 reacties, waaronder: “absoluut ja.”
Tijdens de verkiezingen van 2024 deelde Trump ook door AI gegenereerde afbeeldingen Taylor Swift-fans ondersteunt hem. Volgens de Graal-database hebben Trump en het Witte Huis sinds 2024 minstens 18 deepfakes op sociale media gedeeld.
Maar het probleem beperkt zich niet tot rechts. De gouverneur van Californië, Gavin Newsom, van wie velen voorspellen dat hij zich in 2028 kandidaat zal stellen voor het presidentschap, is ook begonnen met het delen van deepfakes die gericht zijn op Trump. waaronder één waarop de president glimlacht naar een hologram van Jeffrey Epstein.
De AI-onderzoekers zeiden dat politieke deepfakes nog steeds overtuigend kunnen zijn, zelfs als consumenten weten dat ze niet echt zijn.
Foster “draagt hoge hakken en draagt een militair uniform. Haar militaire insigne klopt totaal niet. Er is geen reden waarom ze zou omgaan met president Trump en Nicolás Maduro”, zei Gregory. “Niets van dit alles is, als je erover nadenkt, logisch en bestand tegen kritisch onderzoek. Maar mensen zijn niet noodzakelijkerwijs op zoek naar dingen die echt zijn; ze zoeken naar dingen die hun overtuigingen vertegenwoordigen.”
Deepfakes maken het vervolgens minder waarschijnlijk dat mensen die overtuigingen zullen heroverwegen, zegt Valerie Wirtschafter, een Brookings Institution fellow in haar Artificial Intelligence and Emerging Technologies Initiative.
Deepfakes zijn “slechts een nieuwe laag die wordt toegevoegd in termen van het versterken, in plaats van herzien, van wat mensen geloven dat waar is”, aldus Wirtschafter.
‘Het is net een trollenboerderij’
De onderzoekers vrezen dat het alleen maar erger zal worden. De technologie die is gebruikt om Foster te bouwen zou ook kunnen worden gebruikt om wat onderzoekers omschrijven als ‘AI-zwermen’ te produceren die in staat zijn om ‘autonoom te coördineren, gemeenschappen te infiltreren en op efficiënte wijze consensus te bereiken’, aldus een onderzoek. recente studie in de wetenschap.
“Het lijkt een beetje op een trollenboerderij zonder dat er echt meer mensen nodig zijn”, zei Wirtschafter.
Maar mensen kunnen kwaadaardige actoren er nog steeds van weerhouden AI te gebruiken om de samenleving te destabiliseren, aldus de onderzoekers.
De Coalitie voor herkomst en authenticiteit van inhoud heeft een “technische standaard ontwikkeld voor uitgevers, makers en consumenten om de oorsprong en bewerking van digitale inhoud vast te stellen”, aldus de groep.
Het is “ingebed in een afbeelding die je maakt met een camera of in een stuk inhoud dat is gemaakt met een AI-tool of is bewerkt met een AI-tool en vervolgens is gedistribueerd op een platform, dus het is bedoeld als een reeks cryptografisch ondertekende metadata”, zei Gregory.
De technologiebedrijven moeten die informatie vervolgens gebruiken om te bepalen of de inhoud AI bevat, zei Gregory.
LinkedIn, Pinterest, TikTok en YouTube hebben zich allemaal gecommitteerd aan het taggen van door AI gegenereerde inhoud. Maar een onderzoeker met de indicatoreen mediakanaal heeft onlangs 200 door AI gegenereerde afbeeldingen en video’s op deze platforms geplaatst om te bepalen of ze deze daadwerkelijk hebben gemarkeerd. Hij ontdekte dat de meest ijverige mensen – LinkedIn en Pinterest – nog steeds slechts 67% van die inhoud tagden; Instagram markeerde slechts 15 van de 105 nepfoto’s.
Meta’s de raad van commissarissen heeft onlangs verklaard bezorgd te zijn over berichten dat het bedrijf de normen van de coalitie “inconsistent implementeerde”, zelfs op inhoud die door zijn eigen AI-tools werd gegenereerd, en dat slechts een deel van dergelijke output de juiste etikettering krijgt”.
Gregory zei dat de inconsistente etikettering te wijten is aan een “gebrek aan politieke wil op hogere niveaus” bij de grote technologiebedrijven.
“We hoeven het vermogen niet op te geven om onderscheid te maken tussen echt en synthetisch”, zei hij. “Maar we moeten snel handelen.”
