Whilarisch kunstmatige intelligentie boem is opkomende delen van de muziekindustrieStemgenererende bots worden ook een zegen voor een andere onwaarschijnlijke hoek van het internet: extremistische bewegingen die ze gebruiken om de stemmen en toespraken van belangrijke figuren uit hun omgeving na te bootsen, en experts zeggen dat het hen helpt groeien.
“De adoptie van door AI ondersteunde vertalingen door terroristen en extremisten markeert een significante evolutie in digitale propagandastrategieën”, zegt Lucas Webber, senior threat intelligence-analist bij Tech Against Terrorism en onderzoeker bij het Soufan Center. Webber is gespecialiseerd in het monitoren van online tools van terroristische groeperingen en extremisten over de hele wereld.
“Eerdere methoden waren afhankelijk van menselijke vertalers of rudimentaire automatische vertalingen, vaak beperkt door taalgetrouwheid en stilistische nuances”, zei hij. “Nu, met de komst van geavanceerde generatieve AI-tools, zijn deze groepen in staat naadloze, contextueel nauwkeurige vertalingen te produceren die de toon, emotie en ideologische intensiteit in meerdere talen behouden.”
Onder neonazi-extreemrechts is de adoptie van AI-software voor het klonen van stemmen al bijzonder vruchtbaar geweest, waarbij verschillende Engelstalige versies van de toespraken van Adolf Hitler tientallen miljoenen streams hebben opgeleverd via X, Instagram, TikTok en andere apps.
Volgens één nieuwste onderzoeksdocumenten van het Global Network on Extremism and Technology (GNet) hebben extremistische makers van inhoud zich tot diensten voor het klonen van stemmen gewend, met name ElevenLabs, en hen archieftoespraken uit het Derde Rijk-tijdperk gegeven, die vervolgens worden bewerkt om Hitler in het Engels na te bootsen.
Neo-nazi-versnellingsistenHet soort dat terroristische daden tegen westerse regeringen plant om een maatschappelijke ineenstorting te veroorzaken, heeft zich ook tot deze instrumenten gewend om meer bijgewerkte versies van hun hypergewelddadige boodschappen te verspreiden. Bijvoorbeeld Siege, een handboek voor opstandelingen geschreven door Amerikaanse neonazi’s en verboden terrorist James Mason dat de ware bijbel werd voor organisaties als de Basis en de inmiddels ter ziele gegane Atomwaffen Divisie, werd eind november omgezet in een luisterboek.
“De afgelopen maanden ben ik betrokken geweest bij het maken van een audioboek van Siege van James Mason”, zei een prominente neonazi-influencer met een grote aanwezigheid op X en Telegram, die het audioboek aan elkaar plakte met behulp van AI-tools.
“Met behulp van een aangepast stemmodel van Mason heb ik elke nieuwsbrief en de meeste bijgevoegde krantenknipsels opnieuw gemaakt, zoals in de origineel gepubliceerde nieuwsbrieven.”
De influencer prees de kracht van het overnemen van Masons schrijven uit het ‘pre-internet-Amerika’ en het omzetten ervan in een moderne stem.
“Maar het horen van de verbazingwekkende nauwkeurigheid van de voorspellingen die begin jaren tachtig zijn gedaan, is echt een mijlpaal op weg, en het heeft mijn kijk op onze gemeenschappelijke zaak op een fundamenteel niveau veranderd”, zei hij.
Op het hoogtepunt in 2020 organiseerde de basis een boekenclub over Siege, wat een instrumentele invloed had op verschillende leden die debatteerden over de verdiensten van een hypothetische oorlog tegen de Amerikaanse regering. Een landelijk terrorismebestrijdingsonderzoek van de FBI bracht datzelfde jaar uiteindelijk een tiental leden onder de aandacht op grond van verschillende terreurgerelateerde aanklachten.
“De maker van het audioboek heeft in het verleden soortgelijke AI-inhoud uitgebracht; Siege heeft echter een beruchtere geschiedenis”, zegt Joshua Fisher-Birch, terrorismeanalist bij het Counter Extremism Project, “vanwege de sekteachtige status ervan onder sommigen van extreemrechts online, de bevordering van geweld door eenzame actoren en de verplichte lectuur door verschillende neonazigroepen die openlijk terrorisme en terroristische daden hebben gepleegd”.
Webber zegt dat pro-Islamitische Staatsmedia op gecodeerde netwerken momenteel en actief “AI gebruiken om tekst-naar-spraak-weergaven van ideologische inhoud uit officiële publicaties te creëren”, om de verspreiding van hun boodschappen te vergroten door “op tekst gebaseerde propaganda om te zetten in boeiende multimediale verhalen”.
Jihadistische terreurgroepen hebben gebruik gevonden van kunstmatige intelligentie om extremistische leringen uit het Arabisch te vertalen naar verteerbare, meertalige inhoud. Eerder werd de Amerikaanse imam al-Qaeda-agent Anwar al-Awlakipersoonlijk Engelse lezingen zou moeten geven voor rekruteringspropaganda in de Anglosfeer. De CIA en de FBI hebben dat wel gedaan herhaaldelijk de invloed aangehaald van de stem van al-Awlaki als een belangrijke besmettingsbron in de verspreiding van de boodschap van Al-Qaeda.
Op Rocket.Chat – het favoriete communicatieplatform van Islamitische Staat dat het gebruikt om met zijn volgers en rekruten te communiceren – plaatste een gebruiker in oktober een videoclip met strakke graphics en Japanse ondertitels, waarbij hij opmerkte hoe moeilijk het is om dit te doen zonder AI.
“Japans zou een uiterst moeilijke taal zijn om vanuit de oorspronkelijke staat naar het Engels te vertalen, terwijl de welsprekendheid behouden blijft”, zei de pro-Islamitische Staat-gebruiker. “Het moet bekend zijn dat ik geen kunstmatige intelligentie gebruik voor gerelateerde media, met enkele uitzonderingen op het gebied van audio.”
Tot nu toe zijn niet alleen Islamitische Staat, maar groepen over het hele ideologische spectrum begonnen met het gebruik van gratis AI-toepassingen, namelijk de chatbot van OpenAI, ChatGPT, om hun algemene activiteiten uit te breiden. De basis- en aangrenzende groepen hebben het gebruikt om beelden te creëren, terwijl ze al in 2023 het gebruik van deze hulpmiddelen erkenden om planning en onderzoek te stroomlijnen.
Antiterrorismeorganisaties hebben het internet en de technologische vooruitgang altijd gezien als een voortdurend spel als het gaat om het bijhouden van de terroristische groeperingen die ze uitbuiten. De basis, de Islamitische Staat en andere extremisten hebben al geprofiteerd van nieuwe technologieën zoals crypto voor anonieme fondsenwerving en deel bestanden voor 3D-geprinte vuurwapens.
