IHet was mijn blauwe shirt, een geschenk van mijn schoonzus, dat alles weggaf. Het deed me denken aan Jakov Petrovitsj Goljadkin, de eenvoudige bureaucraat in Fjodor Dostojevski’s novelle The Double, een verontrustende studie van het gefragmenteerde zelf in een enorm, onpersoonlijk feodaal systeem.
Het begon allemaal met een bericht van een gewaardeerde collega die mij feliciteerde met een videogesprek over een geopolitiek thema. Toen ik op de bijgevoegde YouTube-link klikte om te onthouden wat ik had gezegd, begon ik me zorgen te maken dat mijn geheugen niet meer is wat het was. Wanneer heb ik de video opgenomen? Een paar minuten later wist ik dat er iets mis was. Niet omdat ik fouten vond in wat ik zei, maar omdat ik me realiseerde dat de video mij liet zien terwijl ik op mijn kantoor in Athene zat met het blauwe shirt aan dat mijn eilandhuis nooit had verlaten. Het bleek een video te zijn van een of andere deep-fake AI-dubbelganger van mij.
Sindsdien zijn honderden van dergelijke video’s met mijn gezicht en mijn stem verspreid via YouTube en sociale media. Zelfs dit weekend was er weer een oogst waarbij een diep neppe ik fictieve dingen zei over de staatsgreep in Venezuela. Ze geven les, ze zeggen dingen die ik misschien gezegd zou hebben, soms vermengd met dingen die ik nooit zou zeggen. Ze woeden, ze pontificeren. Sommige zijn rauw, andere verontrustend meeslepend. Supporters sturen ze naar mij en vragen: “Yanis, heb je dat echt gezegd?” Tegenstanders verspreiden ze als bewijs van mijn idiotie. Veel erger nog: sommigen beweren dat mijn dubbelgangers mondiger en overtuigender zijn dan ik. En dan kom ik in de bizarre positie terecht dat ik toeschouwer ben van mijn eigen digitale poppenspel, een fantoom in één. technofeodale machine Ik heb lang betoogd dat het niet alleen kapot is, maar ook is ontworpen om macht te ontnemen.
Mijn eerste reactie was om Google, Meta en de rest te schrijven om te eisen dat ze deze video’s verwijderen. Verschillende formulieren werden uit woede ingevuld voordat, een week of langer later, sommige van deze kanalen en video’s werden verwijderd, om vervolgens onmiddellijk onder andere gedaanten weer te verschijnen. Binnen enkele dagen had ik het opgegeven: wat ik ook deed, hoeveel uur ik ook elke dag besteedde aan het beproeven van mijn geluk bij het zover krijgen van grote technologie om mijn AI-dubbelgangers te verwijderen, er zouden er nog veel meer teruggroeien, Hydra-achtig.
Al snel maakte de woede plaats voor contemplatie. Dat was ik tenslotte niet degene die ruzie maakte dat big tech niet alleen het kapitalisme heeft gedigitaliseerd, maar feitelijk de aanzet heeft gegeven tot een grote transformatie die markten heeft omgezet in cloud-huurprijzen en winsten in een torenhoge belangstelling? Zijn mijn AI-dubbelgangers niet de perfecte bevestiging daarvan in deze techno-feodale realiteit? Het liberale individu is dood en begraven?
Ik berustte in het gedeeltelijke verlies van zelfbezit en zocht troost in de rationalisatie van deze diepgaande vervalsingen als de ultieme daad van feodale beheersing, een bewijs dat we onder het techno-feodalisme niets bezitten – niet de data-output van onze arbeid, niet onze sociale grafieken, en nu zelfs niet meer onze audiovisuele identiteit. Onze nieuwe meesters zien ons als huurders van hun wolkenland, androïden wier gelijkenis ze zich naar believen kunnen toe-eigenen om verwarring te zaaien, om een modderig discours te zaaien, om echte meningsverschillen te verdrinken in een kakofonie van synthetisch geluid dat voor dit doel is gecreëerd.
Maar toen viel me een zonniger gedachte op, een die teruggaat tot het oude Athene. Wat als mijn AI-dubbelgangers werden gewaarschuwd? isegorie (ἰσηγορία), een principe dat net zo helder, veelbelovend en afwezig is als de echte democratie zelf? Toen ik verschillende versies van AI-chatbots vroeg om het te definiëren, interpreteerden ze allemaal plichtsgetrouw de betekenis ervan en definieerden ze isegorie zoals gelijkheid, of het recht om gehoord te worden, of de vrijheid om de vergadering toe te spreken. Maar dat was niet wat de Atheners met het woord bedoelden. Eigenlijk tegen hen isegorie bedoelde precies het tegenovergestelde van vandaag “vrijheid van meningsuiting“, wat ze zouden verwerpen als het abstracte recht om in de leegte te schreeuwen. Voor de Atheners betekende het het recht om je standpunten serieus te laten beoordelen, op hun merites, ongeacht wie je bent of zelfs hoe goed je ze verwoordt.
Kan AI deepfakes redden? isegorie uit de klauwen van onze technofeodale dystopie? Als we ons realiseren dat het onmogelijk is om te verifiëren wie er in een YouTube-video spreekt, zouden we dan gedwongen kunnen worden om de waarde van wat er wordt gezegd te beoordelen in plaats van wie het zegt? In het proces van het ondermijnen van de authenticiteit heeft big tech mogelijk onbedoeld hierin voorzien isegorie een kans? Deze vragen boden een sprankje hoop.
Er werd gehoopt dat het spook van de democratie nog steeds boven ons hoofd zou blijven hangen, als we maar de motivatie konden vinden om omhoog te kijken, om deel te nemen aan het langzame, moeizame, democratische werk dat de algoritmische feed moest uitwissen: het kritisch evalueren van de standpunten en argumenten die op ons afkomen. Helaas is deze hoop, hoewel tastbaar, onvoldoende zolang onze techno-feodale opperheren twee kolossale, asymmetrische voordelen behouden.
Ten eerste zijn ze eigenaar nu zelf – de servers, feeds, de algoritmische communicatiemiddelen. Ze kunnen hun eigen spraak als authentiek zalven met digitale zegels, terwijl ze de onze verdrinken in een moeras van twijfel en lawaai. Het resultaat? Niet isegorie, maar een digitaal goddelijk recht waarbij waarheid het gepatenteerde eigendom van macht is.
Ten tweede, en dat is nog sluwer, hebben ze geen deepfakes nodig om te regeren. Hun ideologie is ingebed machine: de kracht om toegevoegde waarde eruit halen van proletariërs die via verschillende digitale apparaten met de cloud zijn verbonden, de logica van het winnen van torenhoge interesse van vazalkapitalisten op hun platforms, de tirannie van de aandeelhouderswaarde, hun aanstaande succes op het gebied van privatisering van geld.
Het is dus niet onze taak om deze heren om bevestiging te vragen. Onze taak is politiek. We moeten cloudkapitaal socialiseren, de almachtige nieuwe kracht die de samenleving transformeert en alles vernietigt wat humanisme denkbaar maakt.
Laat tot die tijd onze digitale dubbelgangers het woord doen. Misschien zullen ze de show zo verzadigen dat we eindelijk stoppen met luisteren onze stem en begin met oordelen argumenten op hun eigen voorwaarden. Dit is misschien wel het meest paradoxale sprankje hoop in een spiegelzaal. Maar tijdens dit carnaval grijpen we elk fragment dat we kunnen pakken.
