In bepaalde hoeken van het internet, op niche-nieuwsfeeds en algoritmen, is een door AI gegenereerd Brits schoolmeisje naar voren gekomen als een soort fenomeen.
Haar naam is Amelia, een paarsharig ‘gothisch meisje’ dat trots een mini-vakbondsvlag draagt en een voorliefde voor racisme lijkt te hebben.
Als je Amelia niet kent, is de kans groot dat je binnenkort een virale meme tegenkomt die door haar is geïnspireerd op Facebook of X naarmate haar reputatie groeit.
Video’s van Amelia laten haar doorgaans zien terwijl ze door Londen of het Lagerhuis loopt, terwijl ze haar liefde voor Engeland verklaart en waarschuwt voor de gevaren van “militante moslims” of “Derdewereldmigranten”. In één clip wordt ze lastiggevallen door een bebaarde man in islamitische kledij omdat hij een varkensworst eet.
De boodschap is goed ingestudeerd op extreemrechtse sociale media, maar het is Amelia’s AI-uitvinding die haar oneindig aanpasbaar heeft gemaakt en een virale internettrend heeft gecreëerd waaraan iedereen met toegang tot een gewone chatbot kan deelnemen. Gebruikers van X hebben hun Grok AI-tool gebruikt om zoveel Amelia-memes te maken dat ze nu uit de niche-online silo’s komt.
De oorsprong van het personage is op zijn zachtst gezegd ironisch. Een vroege versie van Amelia begon zijn leven in een videogame tegen extremisme, gefinancierd door het Britse ministerie van Binnenlandse Zaken en gemaakt om jonge mensen van 13 tot 18 jaar te ontmoedigen zich aangetrokken te voelen tot extreemrechts extremisme in Yorkshire.
Wegen: navigeren op internet en extremisme is een eenvoudig meerkeuzespel met basisanimatie. De spelers worden meegenomen op een reis als personages in een universiteit. Ze worden uitgenodigd om beslissingen te nemen in scenario’s, waaronder het al dan niet downloaden van potentieel extremistische inhoud of het deelnemen aan een Amelia-personage op een bijeenkomst georganiseerd door “een kleine politieke groep” die protesteert tegen veranderingen in de samenleving en “erosie van Britse waarden”.
Bepaalde scenario’s die in het spel worden gesimuleerd, resulteren in een verwijzing in het kader van het Prevent terrorismebestrijdingsprogramma van de Britse regering.
Het is echter een subversie van het Amelia-personage die op sociale mediakanalen is geëxplodeerd op een manier die zelfs de makers van het originele spel heeft verbijsterd.
Onder de overvloed aan steeds geavanceerdere door AI gegenereerde iteraties bevinden zich een Manga-stijl Amelia, een Wallace en Gromit-versie, en door AI gegenereerde ‘echte’ ontmoetingen tussen haar en de personages van pater Ted of Harry Potter, vergezeld van racistisch taalgebruik en extreemrechtse berichten.
Uit een analyse van Peryton Intelligence, een Brits bedrijf dat desinformatie monitort, aan The Guardian verstrekt, bleek dat een anoniem account dat bekend staat om het vakkundig verspreiden van extreemrechtse berichten op 9 januari de Amelia-meme op X startte met een bericht dat sindsdien 1,4 miljoen keer is bekeken.
Het volume van “Ameliaposting” is sindsdien gestegen van gemiddeld 500 per dag toen dat account het voor het eerst aan de wereld introduceerde, tot ongeveer 10.000 vanaf 15 januari, toen het een internationaal publiek bereikte. Woensdag werden er alleen al op X 11.137 berichten geplaatst.
In een van de meest surrealistische wendingen is er een Amelia-cryptocurrency ontstaan, waarbij gebruikers van sociale media willen profiteren van de waarde ervan door het toenemende profiel van de meme. Woensdag retweette Elon Musk een X-account waarin reclame werd gemaakt voor een Amelia-cryptocurrency-token.
“Wat we zien is het genereren van inkomsten uit haat”, zegt Matteo Bergamini, oprichter en CEO van Shout Out UK, een politiek en mediageletterd bedrijf dat het originele spel heeft gemaakt.
“We hebben Telegram-groepen elkaar in het Chinees zien berichten over de meme-munt, waarbij ze spraken over hoe ze de waarde ervan kunstmatig konden verhogen om veel geld te verdienen.”
Het bedrijf zelf is blootgesteld aan een stortvloed aan haatmail, waaronder bedreigingen die nu bij de politie zijn gemeld.
Bergamini wijst erop dat het oorspronkelijke initiatief nooit bedoeld was als een op zichzelf staand spel. Het was eerder bedoeld om in klaslokalen te worden gebruikt naast een reeks leermiddelen, een feit dat volgens hem in de berichtgeving en het commentaar is genegeerd.
‘Helaas zijn er veel misverstanden geweest’, zei hij. “Het spel zegt bijvoorbeeld niet dat het in twijfel trekken van massamigratie inherent verkeerd is.”
Anderen hebben gesuggereerd dat het initiatief een averechts effect had gehad, niet in de laatste plaats door een ‘schattig gothic-meisje’ als een negatief personage af te schilderen, waardoor ze onbedoeld een middelpunt van bewondering werd. Maar Bergamini zei dat het spel – dat gebruik maakte van feedback van focusgroepen met jongeren en werd ontwikkeld met een specifiek lokaal dreigingsbeeld in gedachten – nog steeds werd gebruikt en dat de feedback van scholen en anderen positief was.
Niettemin heeft de snelheid en verfijning van het online creëren van zogenaamd subversieve Amelia-memes hem verrast.
“Deze ervaring heeft ons laten zien waarom dit werk zo enorm belangrijk is, maar geeft ons ook de gelegenheid om na te denken over onze veiligheid bij de uitvoering van dit werk, dankzij de zeer geavanceerde coördinatie van degenen die profiteren van haat”, zei hij.
Siddharth Venkataramakrishnan, analist bij het Institute for Strategic Dialogue (ISD), zei: “We hebben gezien dat de meme een opmerkelijke verspreiding heeft onder extreemrechts en daarbuiten, maar wat ook opmerkelijk is, is hoe het nu internationaal is.
“In zekere zin raakt het de kern van wat we de ‘dissident’ van extreemrechts zouden kunnen noemen – individuen die zichzelf buiten het reguliere politieke toneel positioneren – of het nu gaat om ‘shitposters’ die alleen maar zijn om te provoceren, anderen die van twee memes houden. Een heel ecosysteem heeft het omarmd. Uiteraard zijn de geseksualiseerde beelden hierin ook de sleutel. De doelgroep bestaat bijna uitsluitend uit jonge mannen.’
Volgens het ministerie van Binnenlandse Zaken heeft Prevent bijna 6.000 mensen weggeleid van gewelddadige ideologieën. Het voegde eraan toe dat projecten zoals het Pathways-spel zijn ontworpen om lokale radicaliseringsrisico’s aan te pakken en onafhankelijk van de overheid zijn gecreëerd en uitgevoerd.
De beste journalistiek van algemeen belang is afhankelijk van verhalen uit de eerste hand van mensen die er verstand van hebben.
Als u iets te melden heeft over dit onderwerp, kunt u op de volgende manieren vertrouwelijk contact met ons opnemen.
Beveilig berichten in de Guardian-app
De Guardian-app heeft een tool voor het indienen van verhaaltips. Berichten zijn end-to-end gecodeerd en verborgen binnen de routineactiviteit die elke mobiele Guardian-app uitvoert. Dit voorkomt dat een waarnemer weet dat u überhaupt met ons communiceert, laat staan wat er wordt gezegd.
Als u de Guardian-app nog niet heeft, download deze dan (iOS/Android) en ga naar het menu. Selecteer ‘Beveiligd berichtenverkeer’.
SecureDrop, instant messengers, e-mail, telefoon en post
Als u veilig gebruik kunt maken van het Tor-netwerk zonder te worden geobserveerd of gecontroleerd, kunt u via ons berichten en documenten naar de Guardian sturen SecureDrop-platform.
Eindelijk onze gids op theguardian.com/tips somt verschillende manieren op om veilig contact met ons op te nemen en bespreekt de voor- en nadelen van elk.
“,”image”:https://i.guim.co.uk/img/media/ae475ccca7c94a4565f6b500a485479f08098383/788_0_4000_4000/4000. jpg?width=620&quality=85&auto=format&fit=max&s=45fd162100b331bf1618e364c5c69452″,”credit”Illustratie: Guardian Design / Rich Cousins”}”>
Korte handleiding
Neem contact met ons op over dit verhaal
Show
De beste journalistiek van algemeen belang is afhankelijk van verhalen uit de eerste hand van mensen die er verstand van hebben.
Als u iets te melden heeft over dit onderwerp, kunt u op de volgende manieren vertrouwelijk contact met ons opnemen.
Beveilig berichten in de Guardian-app
De Guardian-app heeft een tool voor het indienen van verhaaltips. Berichten zijn end-to-end gecodeerd en verborgen binnen de routineactiviteit die elke mobiele Guardian-app uitvoert. Dit voorkomt dat een waarnemer weet dat u überhaupt met ons communiceert, laat staan wat er wordt gezegd.
Als u de Guardian-app nog niet heeft, download deze dan (iOS/Android) en ga naar het menu. Selecteer ‘Beveiligd berichtenverkeer’.
SecureDrop, instant messengers, e-mail, telefoon en post
Als u veilig gebruik kunt maken van het Tor-netwerk zonder te worden geobserveerd of gecontroleerd, kunt u via ons berichten en documenten naar de Guardian sturen SecureDrop-platform.
Eindelijk onze gids op theguardian.com/tips somt verschillende manieren op om veilig contact met ons op te nemen en bespreekt de voor- en nadelen van elk.
