Deskundigen waarschuwen voor bedreiging voor de democratie door ‘AI-botzwermen’ die sociale media infecteren | AI (kunstmatige intelligentie)

Politieke leiders zouden binnenkort zwermen mensimiterende AI-agenten kunnen lanceren om de publieke opinie te hervormen op een manier die de democratie dreigt te ondermijnen, waarschuwde een spraakmakende groep experts op het gebied van AI en online desinformatie.

Nobelprijswinnaar voor de vrijheid van meningsuiting Maria Ressa en vooraanstaande AI- en sociaalwetenschappelijke onderzoekers uit Berkeley, Harvard, Oxford, Cambridge en Yale behoren tot een mondiaal consortium dat de nieuwe ‘ontwrichtende dreiging’ benadrukt die voortkomt uit moeilijk te detecteren, kwaadaardige ‘AI-zwermen’ die sociale media en berichtenkanalen infecteren.

Een zogenaamde autocraat zou dergelijke zwermen kunnen gebruiken om de bevolking ervan te overtuigen geannuleerde verkiezingen te accepteren of de resultaten ongedaan te maken, zeiden ze, te midden van voorspellingen dat de technologie vóór de Amerikaanse presidentsverkiezingen van 2028 op grote schaal zou kunnen worden ingezet.

De waarschuwingen, vandaag gepubliceerd in Science, gaan gepaard met oproepen tot gecoördineerde mondiale actie om het risico aan te pakken, waaronder ‘zwermscanners’ en watermerkinhoud om door AI aangedreven desinformatiecampagnes tegen te gaan. Vroege versies van door AI aangedreven beïnvloedingsoperaties zijn gebruikt bij de verkiezingen van 2024 TaiwanIndia en Indonesië.

“Er ontstaat een ontwrichtende dreiging: zwermen samenwerkende, kwaadaardige AI-agenten”, aldus de auteurs. “Deze systemen zijn in staat autonoom te coördineren, gemeenschappen te infiltreren en op efficiënte wijze consensus te bereiken. Door de menselijke sociale dynamiek adaptief na te bootsen, bedreigen ze de democratie.”

Een vooraanstaand expert op het gebied van propagandatechnologie, Inga Trauthig, zei dat de adoptie van dergelijke geavanceerde technologie waarschijnlijk zal worden vertraagd door de onwil van politici om de campagnecontrole aan AI’s af te staan. Een andere reden voor scepticisme is de bezorgdheid dat het gebruik van dergelijke illegale technieken het risico niet waard zou zijn, omdat kiezers nog steeds meer worden beïnvloed door offline materiaal.

De experts achter de waarschuwing zijn onder meer Gary Marcus van de Universiteit van New York, een prominente scepticus van het vermeende potentieel van de huidige AI-modellen die zichzelf een ‘generatieve AI-realist’ noemt, en Audrey Tang, de eerste digitale minister van Taiwan, die heeft gewaarschuwd: ‘Degenen die worden betaald door autoritaire krachten ondermijnen verkiezingsprocessen, zetten AI tegen ons in en gebruiken onze samenleving.’

Anderen zijn onder meer David Garcia, hoogleraar sociale en gedragsdatawetenschap aan de Universiteit van Konstanz, Sander van der Linden, een desinformatie-expert en directeur van het Social Decision-Making Laboratory van Cambridge University, en Christopher Summerfield, AI-onderzoeker en hoogleraar cognitieve neurowetenschappen aan de Universiteit van Oxford.

Samen, zeggen ze, zouden politieke leiders een vrijwel onbeperkt aantal AI’s kunnen inzetten om zich online voor te doen als mensen en nauwkeurig gemeenschappen te infiltreren, waarbij ze in de loop van de tijd hun zwakke punten leren kennen en steeds overtuigender en zorgvuldiger op maat gemaakte leugens gebruiken om de gedachten van hele bevolkingsgroepen te veranderen.

De dreiging wordt nog verergerd door de vooruitgang in het vermogen van AI om de toon en inhoud van het discours op te pikken. Ze zijn steeds beter in staat de menselijke dynamiek na te bootsen, bijvoorbeeld door gepast jargon te gebruiken en onregelmatig te posten om detectie te voorkomen. Vooruitgang bij de ontwikkeling van ‘agentische’ AI betekent ook het vermogen om zelfstandig actie te plannen en te coördineren.

Naast dat ze via sociale media kunnen opereren, kunnen ze berichtenkanalen gebruiken en zelfs blogs schrijven of e-mail gebruiken, afhankelijk van welk kanaal volgens de AI het beste helpt een doel te bereiken, zei een van de auteurs, Daniel Thilo Schroeder, een onderzoeker aan het Sintef-onderzoeksinstituut in Oslo.

“Het is gewoon beangstigend hoe gemakkelijk deze dingen zijn om code uit te voeren en slechts kleine botlegers te hebben die daadwerkelijk door online sociale mediaplatforms en e-mail kunnen navigeren en deze tools kunnen gebruiken”, zegt Schroeder, die zwermen heeft gesimuleerd onder laboratoriumomstandigheden.

Een andere auteur, Jonas Kunst, hoogleraar communicatie aan de BI Norwegian Business School, zei: “Als deze bots zich gaan ontwikkelen tot een collectief en informatie uitwisselen om een ​​probleem op te lossen – in dit geval een kwaadaardig doel, namelijk het analyseren van een gemeenschap en het vinden van een zwak punt – dan zal coördinatie hun nauwkeurigheid en efficiëntie vergroten.

“Het is een heel ernstige dreiging waarvan we voorspellen dat deze werkelijkheid zal worden.”

In Taiwan, waar kiezers regelmatig het doelwit zijn van Chinese propaganda, vaak onbewust, hebben AI-bots de afgelopen twee tot drie maanden de betrokkenheid bij burgers op Wire en Facebook vergroot, zegt Puma Shen, een wetgever van de Taiwanese Democratische Progressieve Partij en campagnevoerder tegen Chinese desinformatie.

Tijdens discussies over politieke onderwerpen hebben de AI’s de neiging om ‘tonnen informatie te verstrekken die je niet kunt verifiëren’, waardoor een ‘informatie-overload’ ontstaat, zei Shen. Hij zei dat AI’s nepartikelen zouden kunnen citeren over hoe Amerika Taiwan zal opgeven. Een andere recente trend zijn AI-bots die jongere Taiwanezen benadrukken dat het geschil tussen China en Taiwan erg ingewikkeld is “dus kies geen partij als je geen kennis hebt”.

“Het vertelt je niet dat China geweldig is, maar het (moedigt hen aan) om neutraal te zijn”, zei Shen tegen de Guardian. “Dit is heel gevaarlijk, want dan denk je dat mensen zoals ik radicalen zijn.”

Te midden van tekenen dat de ontwikkeling van AI-technologie niet zo snel gaat als bedrijven uit Silicon Valley, zoals OpenAI en Anthropic, heeft de Guardian onafhankelijke AI-experts gevraagd de zwermwaarschuwingen te beoordelen.

“In het verkiezingsjaar 2024 waren er kansen voor AI-aangedreven microtargeting, maar we zagen er niet zoveel van als onderzoekers hadden voorspeld”, zegt Trauthig, adviseur van het International Panel on the Information Environment. “De meeste politieke propagandisten die ik interview, gebruiken nog steeds oudere technologieën en bevinden zich niet op dit snijvlak.”

“Het is niet fantasievol”, zegt Michael Wooldridge, professor in de grondslagen van kunstmatige intelligentie aan de Universiteit van Oxford. “Ik denk dat het volkomen aannemelijk is dat slechte actoren zullen proberen virtuele legers van LLM-aangedreven agenten te mobiliseren om verkiezingen te verstoren en de publieke opinie te manipuleren, bijvoorbeeld door zich te richten op grote aantallen individuen op sociale media en andere elektronische media. Het is technologisch perfect haalbaar… de technologie is steeds beter en veel toegankelijker geworden.”