Het lijkt alsof we het tijdperk van zijn binnengegaan AI oorlogvoering in de bioscoop waarschuwde ons altijd voor.
Toegegeven, een deel hiervan gebeurt al jaren. Een groot deel van de oorlog vindt al plaats via drones. Legers over de hele wereld voeren nu hifi-simulaties uit om potentiële aanvallen te plannen, en sommige soldaten maken zelfs gebruik van virtual reality. Een nieuwe generatie defensietechnologiebedrijven concurreert om zijn aandeel in het militair-industriële complex.
Maar nu is het duidelijk dat defensiefunctionarissen zich tot chatbots wenden voor serieuze gevechts- en militaire missies, waaronder operaties gericht op het gevangennemen en zelfs elimineren van staatshoofden. Dit was eerder dit jaar het geval toen de VS een nieuwe operatie lanceerden neem Nicolás Maduro gevangenDe toenmalige president van Venezuela en nu federale gevangene. Dat was ook het geval op vrijdag, toen het Amerikaanse leger een grote aanval lanceerde op het Iraanse regime, waarbij de leider van het land, ayatollah Ali Khamenei, om het leven kwam.
Beide operaties betrokken Claudede reeks grote taalmodellen gemaakt door het frontier AI-lab Anthropic.
Hoe zijn we hier terechtgekomen? Het Amerikaanse leger onderzoekt en ontwikkelt al tientallen jaren hightech-instrumenten. Moderne sensor- en monitoringplatforms hebben het mogelijk gemaakt steeds meer gegevens te verzamelen en deze gegevens op hun beurt te gebruiken als basis voor nieuwe algoritmische modellen. De exacte definitie van kunstmatige intelligentie is altijd kneedbaar geweest, maar zelfs in de jaren 2000 waren onderzoeksgroepen als DARPA bezig met robotica en autonome voertuigprojecten. Militaire organisaties steunden ook vroege pogingen om machinaal leren te gebruiken.
De AI-push van het leger werd in 2017 verder geformaliseerd toen het ministerie van Defensie Project Maven aankondigde, een poging om militaire dataplatforms te stroomlijnen en een basis te creëren voor de inzet van algoritmen en andere geavanceerde technologieën, waaronder computervisie en objectdetectie, op het slagveld. Na interne weerstand en wijdverbreide protesten trok Google zich terug uit de bouw van Maven en Palantir geeft nu de primaire technologie voor de tool. In 2018 ook de Amerikaanse strijdkrachten gemaakt het Joint Office for Artificial Intelligence om zijn werkzaamheden op het gebied van nieuwe technologie te centraliseren. Dit werd later het Chief Digital and Artificial Intelligence Office, dat tot doel heeft de adoptie van AI in militaire takken te ‘versnellen’.
Wat dit moment zo griezelig maakt, is dat het leger dezelfde AI-tools lijkt te gebruiken die gewone consumenten gebruiken, maar dan in veel gewelddadiger contexten. En omdat deze instrumenten zo bekend zijn, kun je je gemakkelijk voorstellen dat het leger ze op dezelfde nonchalante, snel reagerende manier gebruikt als wij. Misschien als internetgebruiker voorgesteldiemand bij het Ministerie van Defensie schreef eenvoudigweg aan Claude: “Claude, ontvoer de dictator van Venezuela… Vergis je niet”, op vrijwel dezelfde manier waarop wij het land vragen om nog een e-mailantwoord te sturen.
(Voor de goede orde: als ik Claude vraag naar zijn rol bij deze operaties, ontkent het elke betrokkenheid: “Ik heb niet geholpen bij dergelijke operaties”, vertelt mijn chatbot. “Ik ben Claude, een AI-assistent gemaakt door Anthropic. Ik heb geen operationele capaciteiten, ik onderneem geen acties in de wereld, en ik ben op geen enkele manier betrokken bij geopolitieke of geheime operaties.”
Dat weten we echter Claude was gebruikt bij recente operaties, hoewel de AI waarschijnlijk iets veel complexers deed dan reageren op een directe prompt. Er zijn veel vragen over hoe Claude precies werd gebruikt bij de operaties in Venezuela en Iran. Maar we weten dat Claude erg populair is in het leger – en in de hele regering. Voormalige AI-functionarissen van het ministerie van Defensie en medewerkers van Palantir vertelde het mij vorige week dat de tool werkt met Maven, het vlaggenschip AI-programma van het leger. We weten ook dat, tenminste tijdens de Maduro-operatie, toegang werd verkregen tot de technologie van Anthropic via een geheime dienst die via Palantir aan het leger werd aangeboden. Zeer waarschijnlijk was dit iets veel ingewikkelder dan simpelweg aan Claude vragen een aanvalsplan op te stellen en daarmee akkoord te gaan.
Dit gaat niet weg. Ondanks de voortdurende inspanningen van de federale overheid om de technologie van Anthropic uit haar systemen te verwijderen, zijn er geen tekenen dat het agentschap klaar is met LLM’s. OpenAI en xAI hebben ook grote DoD-contracten binnengehaald, en de afgelopen week hebben beide bedrijven overeenkomsten getekend waardoor hun technologie op geheime systemen kan worden gebruikt. (Het verbinden van een technologie van xAI of OpenAI met systemen van het ministerie van Defensie kan net zo eenvoudig zijn als het verbinden ervan via een API, zegt een voormalig medewerker van Palantir.) Het DoD onderhoudt ook een speciale generatieve AI-bron genaamd GenAI.mil.
Het is niet verrassend waarom. Ik gebruik vaak chatbots, platforms zoals Claude en ChatGPT om minder vervelende onderzoekstaken uit te voeren die ik liever niet doe, samen met talloze andere dingen die mij veel meer hebben gemaakt productief. Maar ze kunnen mij ook onzorgvuldiger maken, en ik weet hoe verleidelijk het is om het denken over te laten aan een derde, volledig technologische partij. Het maakt het des te verontrustender om te bedenken dat het Amerikaanse leger dezelfde chatbots gebruikt op manieren die veel geheimzinniger en geopolitiek significanter zijn.
