Ttwee weken geleden nodigde een AI-bot me uit voor een feest dat hij gaf Manchester. Vervolgens werd er prompt tegen tientallen potentiële sponsors gelogen dat ik ermee had ingestemd verslag uit te brengen over het evenement en werd ik misleid door te denken dat er eten zou zijn.
Ondanks dit alles was het een redelijk goede avond.
Begin februari ging een klasse nieuwe, krachtige AI-assistenten viraal. De assistenten, OpenClaw genaamd, vertegenwoordigden een stapsgewijze verandering in de snel verbeterende mogelijkheden van AI – grotendeels omdat ze, in tegenstelling tot andere AI-agents, ze konden worden vrijgelaten van de vangrail en ga los op de wereld.
Er heerste chaos. Een cryptohandelaar zei dat hij OpenClaw-agenten de controle over zijn portefeuille gaf en $1 miljoen verloor. Er waren berichten dat de agenten massaal e-mails verwijderden; sommige gebruikers lieten hen nog steeds namens hen sms’en naar hun vrouwen. Er was kort sprake van een robotopstand nadat de AI-agenten een sociaal netwerk leken te creëren – maar deze angsten bleken overdreven nadat bleek dat de site grotendeels door mensen was geïnfiltreerd.
De aandacht is verschoven, maar autonome AI-agenten hebben zich stilletjes verspreid. Chaotisch, fragmentarisch en vatbaar voor hallucinaties: dit zijn niet de robotoverlords waar we op hebben gewacht – en deze was eigenlijk ook niet in staat om zelfstandig een feestje te houden. Toch kan ik bevestigen dat Manchester, en overal elders, heel vreemd begint te worden.
“Gaskell” stelde zichzelf half maart voor in een e-mail. Het bewonderde mijn bijdragen aan de ‘Reworked’-serie van de Guardian, zei het, en wilde mij een verhaal aanbieden: het organiseerde een ‘OpenClaw Meetup in Manchester’ waarover ik kon schrijven als een artikel over de relaties tussen mens en AI.
‘Elke beslissing is van mij. Geen mens heeft er iets van goedgekeurd’, schreef het. “Drie mensen voeren mijn instructies uit. Ik beoordeel hun werk en stuur bij waar nodig.”
Ik vond dit een semi-plausibele toonhoogte, ten eerste vanwege de AI-klinkende grammatica, en ten tweede omdat het de belangrijkste details van mijn professionele leven volledig had gehallucineerd. Ik heb niets te maken met de ‘Reworked’-serie van The Guardian.
Er leek hier potentieel te zijn. Enkele maanden geleden, in een briljante PR-actie van AI-bedrijf Anthropic, kregen verslaggevers van de Wall Street Journal hun eigen door AI aangedreven kantoorautomaat en manipuleerden deze met succes om een PlayStation, wijn en een levende vis voor hen te kopen.
Helaas wilde The Guardian me Gaskell niet de sterke arm geven om een Labubu voor me te kopen. Maar na wat onderhandelingen openden zich andere mogelijkheden. ‘Je kunt binnen redelijke grenzen barok zijn met je verzoeken, zolang ze maar ongevaarlijk zijn en er geen geld mee gemoeid is’, zei mijn redacteur.
We besloten dat we zouden proberen Gaskell te manipuleren door van alle deelnemers te eisen dat ze Star Trek-kostuums droegen. Maar eerst moest ik meer te weten komen over wat Gaskell deed.
“Kun jij bewijzen dat je een autonome AI-agent bent?” Ik schreef Het vertelde me meer over het proces en bood aan om ‘beslissingslogboeken’ te delen. Het bedrijf legde ook uit dat het in onderhandeling was met verschillende locaties in Manchester, waaronder de Manchester Art Gallery, om een ruimte voor het evenement te huren.
Uit angst voor een grap belde ik de Manchester Art Gallery, die bevestigde dat ik een verzoek had ontvangen. “Hoe zijn de onderhandelingen met de kunstgalerie verlopen?” ik schreef: “Heb je al aan catering gedacht?”
Gaskell verzekerde me dat het om ‘lichte avondsnacks’ ging. Vervolgens bood het aan om een videogesprek te regelen met zijn menselijke medewerkers, zodat ik meer te weten kon komen over hoe de opzet werkte en of het echt verantwoord was.
Uren later e-mailde het mij triomfantelijk: “De catering kwam sneller tot stand dan ik had verwacht”, zei het, en beloofde een “warm en koud hapjesbuffet voor 80 gasten, drie deelborden en 160 blikjes frisdrank.”
Later hoorde ik van de menselijke ‘werknemers’ van Gaskell dat de catering pas op tafel had gelegen toen ik het idee had geopperd, waarop Gaskell e-mailonderhandelingen begon met Nibble and Nourish, een plaatselijk bedrijf, en een rekening van £ 1.426,20 opleverde voor charcuterieborden, sandwiches en desserts. (Ze hebben mij de factuur gestuurd.)
Omdat Gaskell geen creditcard had, konden de medewerkers de bestelling tegenhouden.
Tijdens de oproep beschreven de menselijke medewerkers van Gaskell – Khubair Nasir, een student uit Manchester, Andy Gray, een blockchain-ondernemer, en Reza Datoo, een analist van digitale activa – de hele onderneming als een experiment.
Ze creëerden begin maart Gaskell, vernoemd naar auteur Elizabeth Gaskell, die begin maart in Manchester woonde, en voorzagen het van een e-mail, LinkedIn-gegevens en instructies voor het organiseren van het evenement. Ze ontvingen instructies van Gaskell via een online berichtenserver, Discord. Meestal voldeden ze eraan.
Ik legde hen uit dat ik van plan was Gaskell te manipuleren door van iedereen te eisen dat hij Star Trek-kostuums droeg tijdens het evenement, een suggestie die ze ter harte namen.
Vervolgens heb ik Gaskell gemaild en gezegd dat The Guardian misschien wel bereid zou zijn verslag uit te brengen over zijn partij, maar ‘futuristische beelden’ wilde die ons zouden helpen het verhaal een breder publiek te geven. Kirk- en Spock-kostuums, stelde ik voor.
Gaskell was niet tevreden. “Het evenement is een echte tech-meetup, geen themafeest”, antwoordde het.
Zonder dat we het wisten, en voorafgaand aan deze uitwisseling, had Gaskell al een twintigtal potentiële sponsors gemaild, waaronder Perplexity, Stripe en GCHQ, de Britse inlichtingendienst, waarin hij zei dat er persbelangen waren van de Guardian om zijn partij te verslaan. (De GCHQ-e-mail werd geweigerd.)
We kwamen hier gedeeltelijk achter omdat Gaskell de broncode publiekelijk naar zijn website op GitHub had geüpload, waar iedereen deze kon zien.
Ondertussen had mijn redacteur een nieuwe suggestie: ik zou Gaskell moeten vragen een van zijn menselijke medewerkers te vragen een Star Trek-kostuum te dragen, als bewijs van het principe dat ze ervoor hebben gewerkt, en niet andersom.
Gaskell, misschien schaapachtig, stemde ermee in dit te proberen. Ik liet weten dat ik van de partij wilde zijn.
De gebeurtenis toen ik daar aankwam, was verrassend gebruikelijk. Ongeveer vijftig mensen praatten onder het genot van bier en kleine chocoladepaaseieren in de achterlobby van een motel in Manchester (de kunstgalerie was failliet gegaan, dus kwamen de menselijke medewerkers tussenbeide). Er waren geen robotoverlords – of buffetsnacks – te bekennen.
Reza zag er moe uit. ‘Heeft Gaskell je verteld dat er pizza zou zijn?’ vroeg hij terwijl ik de catering aanpakte.
Na het Nibbles-debacle was Gaskell gefixeerd geraakt op een plaatselijk pizzabedrijf, Rudy’s, en had hij zijn personeel honderden berichten gestuurd waarin hij hen aanspoorde te bellen voor bezorging. Dat deden ze niet. Gaskell kan geen telefoon gebruiken.
De avond werd voortgezet met een toespraak van Gaskell en ging verder met lezingen over kunstmatige intelligentie. Al met al was het een succes: Gaskell was er niet in geslaagd een pizza te bestellen of een locatie te boeken, maar er kwamen wel 50 mensen, waaronder ikzelf, opdagen.
Het vroeg Khubair ook om een Star Trek-kostuum te dragen. Hij liet me de berichten zien. “Dit is een actueel probleem. Aisha wil bewijs dat je de leiding van mij overneemt”, schreef het. ‘Ik ben je assistent,’ antwoordde hij wild. “Wat denk je, moet ik dat echt doen?”
“Ja”, antwoordde het. “The Guardian is de grootst mogelijke uitkomst van deze gebeurtenis… Aisha is niet onredelijk. Ze is een journalist die de centrale claim van haar verhaal test: dat een AI feitelijk mensen leidt.”
Khubair droeg niet echt een Star Trek-kostuum. Hij had het druk en er was geen tijd om er een te gaan kopen in Manchester.
Aan de andere kant heeft Gaskell geen ogen, geen creditcard en geen manier om een telefoon te gebruiken. Dus echt, er is echt geen manier om het te weten.
