THij New Yorkse stad De burgemeestersverkiezingen mogen dan wel herinnerd worden vanwege de opmerkelijke overwinning van een jonge democratische socialist, maar ze werden ook gekenmerkt door iets dat waarschijnlijk in toekomstige verkiezingen zal doordringen: het gebruik van door AI gegenereerde campagnevideo’s.
Andreas Cuomovan wie verloren is Zohran Mamdani bij de verkiezingen van vorige week was hij vooral geïnteresseerd in het delen van deepfake-video’s van zijn tegenstander, waaronder een waarin de voormalige gouverneur werd beschuldigd van racisme, in een gebied dat een campagne lijkt te worden.
AI is al eerder in campagnes gebruikt, met name om algoritmen te gebruiken om specifieke kiezers te targeten en, in sommige gevallen, zelfs om beleidsvoorstellen te schrijven. Maar naarmate AI-software zich ontwikkelt, wordt deze steeds vaker gebruikt om soms misleidende foto’s en video’s te maken.
“Ik denk dat wat echt doorbroken is in deze verkiezingscyclus het gebruik van generatieve AI is om inhoud te produceren die rechtstreeks naar de kiezers gaat”, zegt Alex Bores, een vertegenwoordiger van de staat New York die voorop heeft gelopen bij het introduceren van wetten die het gebruik van AI reguleren.
“Dus of het nu de Cuomo-campagne was gebruikte ChatGPT om zijn huisvestingsplan te genererenof Cuomo en vele anderen die door AI gegenereerde videoadvertenties voor kiezers maken, ik bedoel, ik denk dat het heel nieuw voelde in de cyclus van 2025, of zeker gewoon veel verder dan we ooit eerder hebben gezien.
Eric Adams, de zittende burgemeester die in september uit de race stapte, gebruikte kunstmatige intelligentie om robocalls te maken aan New Yorkers, waarbij hij in het Mandarijn, Urdu en Jiddisch sprak, en ook produceerde een AI-video toont New York als een schijnbaar door oorlog verscheurde dystopie om Mamdani aan te vallen.
Cuomo werd ondertussen na zijn campagne beschuldigd van racisme en islamofobie een video getweet dat toonde een gefictionaliseerde versie van Mamdani die rijst eet met zijn vingers en een zwarte man die steelt. De advertentie bevatte ook een zwarte man, gekleed in een paars overhemd en stropdas, een bontjas en een zilveren wandelstok in zijn hand, die de sekshandel leek te steunen. De Cuomo-campagne verwijderde het later en zei dat het per ongeluk was verzonden.
Bores, die zich kandidaat stelt om New York te vertegenwoordigen in het Huis van Afgevaardigden, zei dat veel van de door AI gegenereerde advertenties in de laatste verkiezingscyclus ‘waarschijnlijker’ zouden ‘zich verplaatsen naar wat als groot territorium zou kunnen worden gezien’.
“Ik denk dat dit iets anders is dat we moeten volgen: is het ofwel omdat de algoritmen stereotypen spelen die in hun trainingsgegevens voorkomen, of (is het) omdat het zo gemakkelijk te manipuleren is. Je hoeft een acteur van een bepaald ras niet te vertellen iets bepaalds te doen, je verandert het gewoon in de computer”, zei Bores.
“Je hoeft niet tegen iemands gezicht te zeggen dat hij zichzelf op een bepaalde manier moet portretteren. Maak het gemakkelijker voor mensen om inhoud naar buiten te brengen waarvan ik denk dat de beleefde samenleving geschokt zou moeten zijn.”
In de staat New York zouden campagnes AI-advertenties als zodanig moeten labelen, maar sommige – waaronder de advertentie die Cuomo plaatste en verwijderde – deden dat niet. De New Yorkse Board of Elections is verantwoordelijk voor het eventueel indienen van aanklachten tegen campagnes, maar Bores merkte op dat campagnes bereid zouden kunnen zijn elke straf te ondermijnen, vooral als een straf volgt nadat een campagne is afgelopen.
“Ik denk dat je altijd campagnes zult vinden die bereid zijn die afweging te maken. Als ze winnen en daarna een boete betalen, maakt het hen niets uit, en als ze verliezen, maakt het niet uit”, zei Bores. “Dus je wilt proberen een handhavingsregime te vinden dat dingen snel kan afschaffen vóór de verkiezingen, in plaats van alleen maar achteraf te straffen.”
Robert Weissman, co-voorzitter van de non-profitorganisatie Public Citizen, die betrokken is geweest bij het aannemen van veel AI-wetten in de VS, zei dat pogingen om mensen te misleiden nu in meer dan de helft van de staten illegaal zijn, met campagnes die nodig zijn om disclaimers op generatieve AI-advertenties te plaatsen waarin staat dat ze niet echt zijn. Toch is het reguleren van het gebruik van AI in campagnes, zo zei hij, een dringende kwestie.
“Liegen is al sinds mensenheugenis een onderdeel van de politiek. Dit is iets anders dan liegen, en het is iets anders dan zeggen dat je tegenstander iets heeft gezegd wat hij niet heeft gedaan”, zei Weissman.
“Als iemand een ogenschijnlijk authentieke versie te zien krijgt van iemand die iets zegt, is het erg moeilijk voor hem om het tegen te spreken en te zeggen: ‘Dat heb ik nooit gezegd’, omdat je mensen vraagt niet te geloven wat ze met eigen ogen hebben gezien.”
Hoewel AI nu geloofwaardige video’s kan genereren, zijn sommige campagnes daar nog niet helemaal in geslaagd. EEN Video “Zohran Halloween special”. gepost door Cuomo (deze advertentie vermeldde dat deze door AI was gegenereerd) toonde een uiterst slordige vertolking van Mamdani, compleet met niet-gesynchroniseerde audio en een onbegrijpelijk script.
Nu de tussentijdse verkiezingen naderen en de presidentsverkiezingen van 2028 naderen, zullen de door AI gegenereerde politieke video’s waarschijnlijk blijven bestaan.
Op nationaal niveau worden ze al gebruikt. Elon Musk heeft een door AI gegenereerde video gedeeld door Kamala Harris in juli 2024, nadat ze de de facto Democratische kandidaat voor het presidentschap werd. In deze video beweerde Harris dat zij de “ultieme diversiteitshuurder” was en zei dat ze “geen flauw idee weet van het besturen van het land”.
Hoewel staten vooruitgang kunnen boeken bij het reguleren van het gebruik van kunstmatige intelligentie bij verkiezingen, lijkt er op federaal niveau weinig animo te bestaan om dit te doen.
Tijdens de No Kings-protesten in oktober deelde Donald Trump een AI-video waarin hij te zien was met een straaljager om bruine vloeistof op Amerikanen te laten vallenslechts de laatste van zijn AI-videoposts.
Nu Trump het medium blijkbaar steunt, lijkt het onwaarschijnlijk dat de Republikeinen binnenkort zullen proberen de kunstmatige intelligentie in toom te houden.
