Door AI gegenereerde video’s waarin de uittreding van Polen uit de EU wordt gepromoot, zijn verschenen op Poolstalige sociale media, met niet-bestaande, aantrekkelijke jonge vrouwen die pleiten voor “Polexit”.
Een TikTok-account genaamd “Prawilne Polki” publiceerde inhoud van vrouwen gekleed in T-shirts met Poolse vlaggen en patriottische symbolen, aldus het Europese analysecollectief Res Futura. De inhoud was gericht op doelgroepen van 15 tot 25 jaar.
De video’s bevatten uitspraken als: “Ik wil Polexit omdat ik keuzevrijheid wil, ook al zal het duurder zijn. Ik kan me Polen vóór de EU niet herinneren, maar ik denk dat het toen meer Pools was.”
In een andere video stond: “Als ik over Polexit praat, hoor ik: ‘bangmakerij’, ‘catastrofe’, ‘einde van de wereld’. Altijd hetzelfde patroon. Geen gesprek over wie echt voor ons beslist en waarom. Misschien wordt het de hoogste tijd dat we er rustig over gaan praten.”
Sommige video’s leken authentiek, terwijl andere duidelijke tekenen vertoonden van het gebruik van kunstmatige intelligentie met gedesynchroniseerd beeld en geluid.
“De beelden zijn feitelijk gemaakt met behulp van een generatieve kunstmatige intelligentie-tool. Ze zijn helemaal niet van goede kwaliteit”, vertelde Aleksandra Wójtowicz, senior analist voor nieuwe technologieën en digitalisering bij het Poolse Instituut voor Internationale Zaken, aan Euronews.
“Als je er een tijdje naar kijkt, zie je dat de gezichtsuitdrukkingen onduidelijk zijn. De zinnen die de personages in de beelden zeggen zijn niet helemaal natuurlijk.”
Het profiel ‘Prawilne_Polki’ is verwijderd, maar er kunnen soortgelijke accounts verschijnen, zei Wójtowicz.
“Op dit moment is het niet duidelijk wie er achter de inhoud zit. Momenteel voeren verschillende groepen verschillende campagnes met behulp van kunstmatige intelligentie”, zegt Wójtowicz, die al jaren onderzoek doet naar online desinformatie.
“Ze vinden vaak plaats op YouTube, maar ook op TikTok.”
‘Hydra-effect’ in beweging
Soortgelijke inhoud op YouTube imiteert nieuwsdiensten met behulp van synthetische stemmen of stemmen in combinatie met gegenereerde gezichten, en herhaalt pro-Russische verhalen, waaronder beweringen dat verkiezingen zijn vervalst of dat Oekraïners stelen, zei Wójtowicz.
“Uit de onderzoeksinterviews die ik heb gehouden, blijkt dat dit AI-manierisme, dat voor een bepaald publiek grotendeels voor de hand liggend, vervelend en voor de hand liggend is, volkomen onmerkbaar is”, aldus Wójtowicz.
Het account werd geblokkeerd na meldingen van organisaties en individuele gebruikers. Wójtowicz zei dat TikTok nu beter desinformatie kan detecteren over Polen dat mogelijk de EU verlaat. Wanneer u op “Polexit” zoekt, geeft het platform een waarschuwing voor desinformatie weer.
“Op TikTok is het vrij typerend dat als zo’n daad verschijnt, er sprake is van een ‘Hydra-effect’. Wanneer deze profielen worden gerapporteerd, kunnen er meer nieuwe verschijnen”, aldus Wójtowicz.
“Nu weten hun makers heel goed dat dit niet effectief is, dat het niet de moeite waard is om ze opnieuw op te richten als er volledige belangstelling voor het fenomeen is, omdat ze zullen worden verwijderd.”
Wójtowicz schetste twee mogelijke scenario’s: ofwel was de operatie het testen van reacties, ofwel begonnen desinformatie-actoren accounts aan te maken om een campagne te starten die snel werd ontdekt. “Daarom zullen ze ondergronds gaan en in de toekomst terugkomen.”
Waarom jonge en mooie vrouwen?
De inhoud was specifiek gericht op jonge vrouwen, zei Wójtowicz.
“We hebben zo’n neiging als het om extreemrechts gaat dat jonge meisjes het doelwit zijn. En wie kan jonge vrouwen beter aanspreken dan andere jonge vrouwen,” voegde ze eraan toe.
“We zien fenomenen op sociale media zoals de beweging van traditionele vrouwen of traditionele vrouwen. Er is veel hiervan in de VS, maar het komt ook naar Polen.”
Tijdens de presidentiële campagne van Polen hebben verschillende door AI gegenereerde video’s vrouwen overgehaald om te stemmen op de rechtse kandidaten Sławomir Mentzen van de Confederatie of Karol Nawrocki, gesteund door de Wet en Rechtvaardigheid of PiS-partij.
“Deze groep is duidelijk heel belangrijk, het kan een fundamentele vector zijn voor politieke verandering. Het is geen toeval dat het vrouwen waren die zo’n belangrijke rol speelden in 2023”, zei Wójtowicz, verwijzend naar de parlementsverkiezingen waarin PiS na acht jaar de macht verloor.
‘Op de Russen kun je altijd rekenen’
“Rechte Polen! Er kan altijd op Russen worden gerekend. Ze vergaten ‘prawilne’ te vertalen”, schreef Kamerlid Jarosław Urbaniak, verwijzend naar het Russische woord ‘prawilnyj’ dat ‘correct’ of ‘juist’ betekent.
Het woord wordt in het Poolse gevangenisjargon gebruikt om een respectabele gevangene te beschrijven of iemand die de regels van de gemeenschap volgt.
Onafhankelijke webontwikkelaar Radek Karbowski zei dat de inhoud de noodzaak van AI-regulering aantoonde. Hij berekende dat het profiel “Prawilne_Polki” binnen twee weken 200.000 views en bijna 20.000 likes genereerde, een verhouding van 10% die de verspreiding van de inhoud beïnvloedt en algoritmische aanbevelingen stimuleert.
Het TikTok-kanaal werd opgericht in mei 2023 en opereerde onder een andere naam, waarschijnlijk eigendom van een Engelssprekende gebruiker die entertainmentinhoud publiceert die niets met Polen te maken heeft, aldus het Poolse portaal Kontakt24.pl.
Op 13 december onderging het account een grote make-over en hernoemde het tot “Prawilne_Polki” met een beschrijving die luidt: “Hier spreken openhartige, mooie Poolse meisjes hun mening uit. Patriottisme, soevereiniteit en normaliteit op één plek. NEE TEGEN EUROCALCHOZ #polexit.”
De overname vond plaats toen het account al een gevestigde volgersbasis had. Op 13 december werden drie materialen in de nieuwe stijl gepubliceerd: twee video’s met gegenereerde vrouwen en een afbeelding met de vraag: “Als de verkiezingen morgen zouden zijn, welke partij is dan de nummer één voor rechts?”
Uit onderzoek van UCE Research voor Onet bleek dat TikTok in 2025 de belangrijkste bron van informatie over de Poolse presidentsverkiezingen was voor 43,7% van de respondenten tussen 18 en 25 jaar.
Uit een enquête van United Surveys door IBRiS voor Wirtualna Polska van 22 december bleek dat 24,7% van de respondenten vóór Polexit was, terwijl 65,7% tegen was.
Uit een peiling begin december, uitgevoerd door het Franse tijdschrift Le Grand Continent, bleek dat 25% van de Polen Polexit steunde, terwijl 69% tegen een dergelijke stap was.
