“Nnooit zullen we in de toekomst zo langzaam bewegen als nu”, zei VN-secretaris-generaal António Guterres. gewaarschuwd deze week, waarin wordt ingegaan op de dringende noodzaak om het gebruik van kunstmatige intelligentie vorm te geven. De snelheid van de technologische ontwikkeling – evenals de geopolitieke turbulentie – doen het onderscheid tussen theoretische argumenten en gebeurtenissen in de echte wereld vervagen. Een politiek betoog over de AI-capaciteiten van het Amerikaanse leger valt samen met het ongekende gebruik ervan in de Iran-crisis.
AI-bedrijf Anthropic stond erop kon de veiligheidsmaatregelen niet verwijderen verhindert dat het ministerie van Defensie zijn technologie gebruikt voor binnenlandse massabewaking of autonome dodelijke wapens. Het Pentagon zei dat het geen interesse had in dergelijke toepassingen, maar dat dergelijke beslissingen niet door bedrijven mogen worden genomen. Schandalig, het bestuur heeft Anthropic niet alleen ontslagen, maar ook op de zwarte lijst gezet als een risico voor de toeleveringsketen. OpenAI kwam tussenbeide en bleef volhouden dat het de rode lijnen had gehandhaafd die Anthropic had verklaard. Toch in een innerlijk reactie op tegenslagen van gebruikers en medewerkerszijn CEO Sam Altman erkend dat het geen controle heeft over het gebruik van zijn producten door het Pentagon, en dat OpenAI door de afhandeling van de deal er ‘opportunistisch en slordig’ uitzag.
Maar zoals Nicole van Rooijen, de CEO van Stop Killer Robots – dat campagne voert voor menselijke controle op het gebruik van geweld – hebben gewaarschuwd: “De vraag is niet alleen of deze wapens zullen worden gebruikt, maar ook hoe hun voorlopersystemen de manier waarop oorlogen worden uitgevochten al transformeren… Menselijke controle dreigt een bijzaak of slechts een formaliteit te worden.”
De paradigmaverschuiving is al begonnen. Ondanks de controverse zou Claude van Anthropic het massale en steeds intensievere offensief hebben gefaciliteerd dat naar schatting al enkele duizenden burgers in Iran heeft gedood. Dit is een tijdperk van bombardementen “sneller dan de snelheid van het denken”, experts vertelde de Guardian deze week, waarbij AI doelen identificeert en prioriteert, wapens aanbeveelt en juridische gronden voor een aanval evalueert.
AI is geen voorwaarde voor burgerdoden, militaire fouten of onverantwoordelijkheid. De Amerikaanse minister van Defensie Pete Hegseth schept op over het versoepelen van de regels voor betrokkenheid. Dit zijn mensen in het Pentagon die vragen ontwijken over de dood van 165 schoolmeisjes in wat lijkt te zijn gebeurd. een Amerikaanse staking op een school in Iran op 28 februari.
Maar – zelfs zonder rekening te houden met de onnauwkeurigheid en vooringenomenheid van AI – zijn de effecten duidelijk voor gebruikers. Een Israëlische inlichtingenbron waargenomen over het gebruik ervan in de oorlog tegen Gaza: “Er komt geen einde aan de doelen. Er wachten nog eens 36.000.” Een ander zei dat hij twintig seconden besteedde aan het beoordelen van elk doelwit en verklaarde: “Ik had als mens geen andere toegevoegde waarde dan een stempel van goedkeuring.” Massamoorden worden in elk opzicht gefaciliteerd met extra morele en emotionele afstand en verminderde verantwoordelijkheid.
Democratisch toezicht en multilaterale beperkingen zijn essentieel, in plaats van beslissingen over te laten aan ondernemers en defensiedepartementen. Terwijl de bommen op Iran regenden, kwamen de staten bijeen in Genève dodelijke autonome wapensystemen aan te pakken; Zij geloofden dat de ontwerptekst een sterke basis zou bieden voor een broodnodig verdrag. De meeste regeringen willen duidelijke richtlijnen over het militaire gebruik van kunstmatige intelligentie. Het zijn de grootste spelers die zich verzetten, ook al zijn ze tenminste in de kamer. Het tempo van AI-gestuurde oorlogsvoering betekent dat voorzichtigheid kan lijken op het overdragen van de controle aan tegenstanders. Maar zoals technologiewerkers en militaire functionarissen zelf beseffen, zijn de gevaren van ongecontroleerde expansie veel groter.
