De impasse tussen Anthropic en het Pentagon heeft de technologie-industrie gedwongen opnieuw te worstelen met de vraag hoe haar producten worden gebruikt voor oorlog – en welke grenzen zij niet zal overschrijden. Te midden van de verschuiving naar rechts in Silicon Valley onder Donald Trump en de ondertekening van lucratieve defensiecontracten, ziet de reactie van de grote technologiebedrijven er heel anders uit dan minder dan tien jaar geleden.
Antropische vete met Trumps regering escaleerde drie dagen geleden toen het AI-bedrijf het ministerie van Defensie aanklaagde en beweerde dat het besluit van de regering om het op de zwarte lijst te zetten van overheidswerk in strijd was met de rechten van het Eerste Amendement. Het bedrijf en het Pentagon zijn al een maand verwikkeld in een patstelling, waarbij Anthropic probeert te verbieden dat zijn AI-model wordt gebruikt voor binnenlandse massabewaking of voor volledig autonome dodelijke wapens.
Anthropic heeft betoogd dat toegeven aan de eis van het Ministerie van Defensie om “elk rechtmatig gebruik” van zijn technologie toe te staan, de basisveiligheidsprincipes zou schenden en de technologie zou openstellen voor mogelijk misbruik, waardoor een ethische grens zou worden gesteld die anderen in de industrie moeten beslissen of ze deze al dan niet willen overschrijden.
Hoewel de weigering van Anthropic om de veiligheidsvoorzieningen op te heffen en de daaropvolgende vergeldingsmaatregelen van het Pentagon de al lang bestaande zorgen over het gebruik van kunstmatige intelligentie in conflicten aan het licht hebben gebracht, heeft de strijd aangetoond hoezeer de doelpalen zijn verschoven als het gaat om de banden van grote technologiebedrijven met het leger.
“Als mensen op zoek zijn naar good guys en bad guys, is een good guy iemand die oorlog niet steunt”, zegt Margaret Mitchell, een AI-onderzoeker en hoofdethiekwetenschapper bij technologiebedrijf Hugging Face. ‘Dan vinden ze het hier niet.’
Anti-militaire protesten tegen militaire contracten
Er zijn een aantal factoren die bijdragen aan de hernieuwde omarming van het militarisme door big tech. De aanpassing ervan aan de regering-Trump, inclusief toont trouw aan Trump van grote CEO’s, hebben technologiebedrijven gekoppeld aan de wens van de regering om haar militaire capaciteiten uit te breiden. De belofte van de regering om federale agentschappen die kunstmatige intelligentie gebruiken te herzien, heeft ook specifiek een kans gesignaleerd voor AI-bedrijven om hun producten te integreren in overheids- en militaire operaties op een manier die de inkomsten voor de komende jaren veilig zou kunnen stellen. Op de achtergrond hebben zorgen over de technologische vooruitgang van China en een stijging van de internationale defensie-uitgaven ook de houding in de industrie veranderd.
Het is echter nog niet zo lang geleden dat samenwerken met het leger aan potentieel schadelijke technologie voor veel grote techwerkers als een rode draad werd gezien. In 2018 lanceerden duizenden Googlers een protest tegen een programma om dronebeelden voor het Ministerie van Defensie te analyseren, genaamd Project Maven.
“Wij zijn van mening dat Google zich niet in de oorlogswereld moet mengen”, zeiden meer dan 3.000 werknemers destijds in een open brief. Google besloot na de protesten Project Maven niet te verlengen gepubliceerd beleid het verhinderde het nastreven van technologie die “schade aan mensen zou kunnen veroorzaken of rechtstreeks zou kunnen vergemakkelijken”.
In de jaren sinds het Project Maven-protest heeft Google dat echter wel gedaan heeft hard opgetreden tegen het werknemersactivisme, heeft de taal van 2018 uit haar beleid verwijderd die de creatie van wapentechnologie verbood en talloze contracten ondertekende waardoor legers hun producten konden gebruiken. In 2024 ontsloeg de technologiegigant meer dan 50 werknemers als reactie op protesten tegen die van het bedrijf militaire banden met de Israëlische regering. CEO Sundar Pichai een briefje gestuurd tegen werknemers na de ontslagen dat Google een bedrijf was en geen plek om ’te strijden over ontwrichtende kwesties of om over beleid te debatteren’.
Google maakte deze week bekend dat dit zou gebeuren geef zijn Gemini kunstmatige intelligentie om het leger een platform te bieden om AI-agenten te creëren om aan niet-geclassificeerde projecten te werken.
OpenAI had tot 2024 ook een algeheel verbod om militairen toegang te geven tot zijn modellen, maar heeft sindsdien en heeft nu een Chief Product Officer dienen als luitenant-kolonel in het ‘executive innovation corps’ van het Amerikaanse leger. De startup tekende vorig jaar samen met Google, Anthropic en xAI een contract ter waarde van maximaal $200 miljoen. met het DoD om zijn technologie in militaire systemen te integreren. De dag waarop minister van Defensie Pete Hegseth Anthropic tot een supply chain-risico verklaarde, OpenAI een overeenkomst gesloten met DoD waardoor zijn technologie kan worden gebruikt in geheime militaire systemen.
Elders in de technologie-industrie hebben verschillende havikachtige bedrijven zoals defensietechnologiebedrijf Anduril, opgericht een jaar vóór de Google Maven-protesten, en surveillancetechnologiemaker Palantir partnerschappen met het Ministerie van Defensie tot een hoeksteen van hun bedrijven gemaakt en geprobeerd de politiek van Silicon Valley in de richting van hun wereldbeeld te sturen. Palantir heeft een voortrekkersrol gespeeld bij de samenwerking met het leger en heeft begin jaren 2010 contracten gesloten met de militaire inlichtingendienst om de geplaatste explosieven in Afghanistan in kaart te brengen. CEO Alex Karp publiceerde vorig jaar een boek dat grotendeels gewijd was aan het pleiten voor een nauwere integratie van de technologie-industrie en kunstmatige intelligentie Amerikaans legerwaarin in één passage de Google-werknemers die in 2018 protesteerden, ervan worden beschuldigd nihilisten te zijn.
Nadat Google in 2019 het Project Maven-contract had laten vallen, nam Palantir het over. Maven is nu de naam van het geheime systeem dat militairen gebruiken om toegang te krijgen tot Anthropics Claude Washingtonpost.
Antropic trekt ten strijde
Hoewel Anthropic publieke lof heeft gekregen in zijn impasse met het Pentagon, heeft medeoprichter en CEO Dario Amodi benadrukt dat het AI-bedrijf en de overheid grotendeels dezelfde dingen willen.
“Anthropic heeft veel meer gemeen met het Ministerie van Oorlog dan dat er verschillen zijn”, schreef Amodi afgelopen donderdag in een blogpost.
Hoewel het Witte Huis Anthropic ervan heeft beschuldigd ‘een radicaal-links, ontwaakt bedrijf’ te zijn, zijn Amodei’s opvattingen over het gebruik van kunstmatige intelligentie bij conflicten en de angst voor misbruik verre van een boomknuffelend pacifisme. In een lang essay dat in januari werd gepubliceerd, waarschuwde Amodei voor mogelijke schade door kunstmatige intelligentie, zoals de creatie van dodelijke biowapens en bedreigingen vanuit China die de technologie kwaadwillig gebruiken. Tegelijkertijd betoogde hij dat bedrijven democratische regeringen en legers moeten bewapenen met de meest geavanceerde kunstmatige intelligentie die mogelijk is om autocratische tegenstanders te bestrijden.
Hij uitte minder zorgen over kunstmatige intelligentie die het gemakkelijker maakt mensen te doden of oorlog te voeren, en meer over de betrouwbaarheid van de technologie en de dreiging dat deze wordt geconsolideerd door een te klein aantal mensen met ‘vingers aan de knop’ die een autonoom drone-leger kunnen besturen.
Amodei’s essay was ook een voorafschaduwing van enkele van de centrale kwesties die betrokken waren bij zijn strijd met het Pentagon, waaronder het potentieel van AI als instrument voor massale surveillance. Terwijl hij pleitte voor bolwerken tegen misbruik van kunstmatige intelligentie, verklaarde hij dat zijn formulering was dat het oké was om de technologie te gebruiken voor nationale defensie “op alle manieren, behalve op die manieren die ons meer op onze autocratische tegenstanders zouden laten lijken”.
Hoewel Amodei zich tot nu toe aan de rode lijnen van het bedrijf heeft gehouden, heeft hij ook herhaaldelijk verklaard dat hij wil dat Anthropic blijft samenwerken met het ministerie van Defensie. De rechtszaak van het bedrijf tegen het Ministerie van Defensie laat zien hoe uitgebreid het bedrijf bereid is geweest om met het leger samen te werken en zijn producten voor hun gebruik aan te passen.
“Anthropic legt niet dezelfde beperkingen op aan het gebruik van Claude door het leger als aan civiele klanten”, aldus de rechtszaak van Anthropic in Californië. “Het is minder waarschijnlijk dat Claude Gov verzoeken zal weigeren die in de civiele context verboden zouden zijn, zoals het gebruik van Claude voor het behandelen van geheime documenten, militaire operaties of dreigingsanalyses.”
De regering heeft naar verluidt Claude gebruikt voor doelwitselectie en -analyse in haar bombardementscampagne tegen Iran, een gebruiksscenario waarmee Anthropic geen enkele indicatie heeft gegeven dat het een probleem heeft. In zijn blogpost op de website van Anthropic vorige week verklaarde Amodei dat hij niet geloofde dat zijn bedrijf enige rol speelde in de operationele besluitvorming van het leger. Hij beweerde dat Anthropic de Amerikaanse strijders in de frontlinie steunt en zich blijft inzetten om hen van technologie te voorzien.
“We hebben het Ministerie van Oorlog verteld dat we akkoord gaan met alle gebruiksscenario’s”, vertelde Amodi vorige week aan CBS News. “In principe willen ze 98 tot 99% van de gebruiksscenario’s doen, op twee na.”
