De regering-Trump geeft gevolg aan zijn dreigement om benoemd te worden kunstmatige intelligentie bedrijf Antropisch als een risico voor de toeleveringsketen in een ongekende beweging die andere overheidscontractanten zou kunnen dwingen te stoppen met het gebruik ervan AI-chatbot Claude.
Het Pentagon zei donderdag in een verklaring dat het “het management van Anthropic officieel heeft geïnformeerd dat het bedrijf en zijn producten met onmiddellijke ingang als een risico voor de toeleveringsketen worden beschouwd.”
Het besluit leek de mogelijkheid van verdere onderhandelingen met Anthropic af te sluiten, bijna een week nadat president Donald Trump en minister van Defensie Pete Hegseth het bedrijf ervan beschuldigden de nationale veiligheid in gevaar te brengen.
Trump en Hegseth kondigden afgelopen vrijdag een reeks dreigende sancties aan, aan de vooravond van de oorlog met Iran, nadat de CEO van Anthropic, Dario Amodi, weigerde af te treden vanwege zorgen dat de producten van het bedrijf zouden kunnen worden gebruikt voor massale surveillance van Amerikanen of autonome wapens.
Amodi zei donderdag in een verklaring dat “we niet geloven dat deze actie juridisch gerechtvaardigd is en dat we geen andere keuze zien dan deze voor de rechtbank aan te vechten.”
In de verklaring van het Pentagon stond: “Dit ging over één fundamenteel principe: het leger is in staat technologie voor elk wettig doel te gebruiken. Het leger zal niet toestaan dat een verkoper zichzelf in de commandostructuur voegt door het rechtmatige gebruik van een kritieke capaciteit te beperken en onze oorlogsstrijders in gevaar te brengen.”
Amodei wierp tegen dat de beperkte uitzonderingen die Anthropic probeerde om surveillance en autonome wapens te beperken “toepassingen op hoog niveau betroffen en niet operationele besluitvorming”.
Hij zei dat er “productief heeft de afgelopen dagen met het Pentagon gesproken over de vraag of het Claude zou kunnen blijven gebruiken of een ‘soepele overgang’ tot stand zou kunnen brengen als er geen overeenstemming zou worden bereikt. Trump gaf het leger zes maanden de tijd om Claude uit te faseren, die al breed ingebed is in militaire en nationale veiligheidsplatforms. Amodei zei dat het een prioriteit is om ervoor te zorgen dat oorlogsstrijders ‘niet verstoken blijven van essentiële hulpmiddelen tijdens grote gevechtsoperaties’.
Sommige militaire aannemers verbraken al de banden met Anthropic, een rijzende ster in de technologie-industrie die Claude aan verschillende bedrijven en overheidsinstanties verkoopt. Lockheed Martin zei dat het “de richting van de president en het Ministerie van Oorlog zal volgen” en naar andere aanbieders van grote taalmodellen zal kijken.
“We verwachten een minimale impact, aangezien Lockheed Martin voor geen enkel deel van ons werk afhankelijk is van een enkele LLM-leverancier”, aldus het bedrijf.
Hoe Defensie de omvang van de risicoaanduiding zal interpreteren, is onduidelijk. Amodei zei dat uit een bericht dat Anthropic woensdag van het Pentagon ontving, blijkt dat dit alleen van toepassing is op Claude’s gebruik van cliënten als een “direct onderdeel” van hun militaire contracten.
Microsoft zei dat zijn advocaten de regel bestuderen en dat het bedrijf “met Anthropic kan blijven samenwerken aan niet-defensiegerelateerde projecten.”
Het Pentagon krijgt kritiek vanwege zijn besluit
Het besluit van het Pentagon om een regel toe te passen die bedoeld was om de aanbodbedreigingen van buitenlandse tegenstanders tegen te gaan, stuitte op veel kritiek. Federale codes hebben supply chain-risico gedefinieerd als een “risico dat een tegenstander een systeem zou kunnen saboteren, kwaadwillig ongewenste functionaliteit zou kunnen introduceren of anderszins zou kunnen ondermijnen” om het te verstoren, te verslechteren of te bespioneren.
De Amerikaanse senator Kirsten Gillibrand, een democraat uit New York en lid van de Senaatscommissie voor Armed Services en de Senaatsinlichtingencommissie, noemde het “een gevaarlijk misbruik van een instrument dat bedoeld is om met door tegenstanders gecontroleerde technologie om te gaan.”
“Deze roekeloze actie is kortzichtig, zelfvernietigend en een geschenk voor onze tegenstanders”, zei ze donderdag in een schriftelijke verklaring.
Neil Chilson, een Republikeinse voormalige hoofdtechnoloog van de Federal Trade Commission, die nu leiding geeft AI beleid van het Abundance Institute, zei dat het besluit lijkt op “een enorme overschrijding die zowel de Amerikaanse AI-sector als het vermogen van het leger om de beste technologie voor de Amerikaanse oorlogsjager te verwerven zou schaden.”
Eerder op de dag stuurde een groep voormalige defensie- en nationale veiligheidsfunctionarissen een brief naar de Amerikaanse wetgevers waarin zij hun “ernstige bezorgdheid” uitten over de aanwijzing.
“Het gebruik van deze autoriteit tegen een binnenlands Amerikaans bedrijf wijkt diepgaand af van het beoogde doel en schept een gevaarlijk precedent”, aldus de brief van voormalige functionarissen en beleidsexperts, waaronder voormalig CIA-directeur Michael Hayden en gepensioneerde leiders van de luchtmacht, het leger en de marine.
Ze voegden eraan toe dat een dergelijke benaming bedoeld is om “de Verenigde Staten te beschermen tegen infiltratie door buitenlandse tegenstanders – van bedrijven die afhankelijk zijn van Peking of Moskou, en niet van Amerikaanse vernieuwers die transparant opereren onder de rechtsstaat. Het gebruik van dit instrument om een Amerikaans bedrijf te straffen omdat het weigert de waarborgen tegen binnenlandse massabewaking en volledig autonome wapens op te heffen, gaat met deze inconsistentie veel verder dan categoriefouten.”
Anthropic ziet een stijging in het aantal consumentendownloads
Hoewel Anthropic belangrijke partnerschappen met defensiebedrijven verloor, zag het de afgelopen week een golf van consumentendownloads doordat mensen zich achter zijn morele standpunt schaarden. Deze week hebben meer dan een miljoen mensen zich elke dag voor Claude aangemeld, aldus het bedrijf, waarmee het voorbij OpenAI’s ChatGPT en Google’s Gemini is gekomen als de beste AI-app in meer dan twintig landen in de app store van Apple.
Het geschil met het Pentagon heeft ook de bittere rivaliteit van Anthropic met OpenAI verder geïntensiveerd, die begon toen voormalige OpenAI-managers, waaronder Amodi, Anthropic in 2021 oprichtten.
Uren nadat het Pentagon Anthropic afgelopen vrijdag had gestraft, kondigde OpenAI een deal aan om Anthropic effectief te vervangen door ChatGPT in geheime militaire omgevingen.
OpenAI zei dat het soortgelijke bescherming zocht tegen binnenlands toezicht en volledig autonome wapens, maar later zijn overeenkomsten moest wijzigen, wat CEO Sam Altman ertoe aanzette te zeggen dat hij geen overhaaste deal had moeten sluiten die ‘er opportunistisch en slordig uitzag’.
Amodei uitte ook zijn spijt voor zijn eigen aandeel in de ‘moeilijke dag voor het bedrijf’ en zei donderdag dat hij ‘direct zijn excuses zou aanbieden’ voor een interne memo die hij naar het personeel van Anthropic had gestuurd waarin hij het gedrag van OpenAI aanviel en suggereerde dat Anthropic gestraft zou worden omdat hij Trump geen ‘dictatorachtige lof’ had gegeven.
—Matt O’Brien en Konstantin Toropin, Associated Press
