Secretaris van de Verenigde Staten verdediging Pete Hegseth gaf het Pentagon opdracht om Anthropic een “risico voor de toeleveringsketen” op vrijdag, waardoor er schokgolven door Silicon Valley gingen en veel bedrijven in de war raakten om erachter te komen of ze een van de beste technologieën uit de industrie kunnen blijven gebruiken meest populair AI-modellen.
“Met onmiddellijke ingang mag geen enkele aannemer, leverancier of partner die zaken doet met het Amerikaanse leger enige commerciële activiteit uitoefenen met Anthropic”, schreef Hegseth in een post op sociale media.
De afspraak komt na weken van gespannen onderhandelingen tussen het Pentagon en Anthropic over hoe het Amerikaanse leger de AI-modellen van de startup zou kunnen gebruiken. In één blogpost Deze week betoogde Anthropic dat zijn contracten met het Pentagon niet mogen toestaan dat zijn technologie wordt gebruikt voor massale surveillance van Amerikanen of voor volledig autonome wapens. Het Pentagon vroeg Anthropic om het Amerikaanse leger zijn AI te laten gebruiken voor ‘alle legale toepassingen’, zonder specifieke uitzonderingen.
Door een risicoaanduiding voor de toeleveringsketen kan het Pentagon bepaalde leveranciers beperken of uitsluiten van defensiecontracten als wordt aangenomen dat ze veiligheidsrisico’s met zich meebrengen, zoals risico’s die verband houden met buitenlands eigendom, controle of invloed. Het is bedoeld om gevoelige militaire systemen en gegevens te beschermen tegen mogelijke compromissen.
Antropic reageerde in een andere blogpost Vrijdagavond werd gezegd dat het “elke aanduiding van een risico in de toeleveringsketen voor de rechter zou aanvechten” en dat een dergelijke aanduiding “een gevaarlijk precedent zou scheppen voor elk Amerikaans bedrijf dat met de overheid onderhandelt.”
Anthropic voegde eraan toe dat het geen directe communicatie had ontvangen van het ministerie van Defensie of het Witte Huis over onderhandelingen over het gebruik van zijn AI-modellen.
“Secretaris Hegseth heeft gesuggereerd dat deze benaming iedereen die zaken doet met het leger zou verbieden zaken te doen met Anthropic. De secretaris heeft niet de wettelijke bevoegdheid om deze verklaring te onderbouwen”, schreef het bedrijf.
Het Pentagon weigerde commentaar te geven.
“Dit is het meest schokkende, schadelijke en overweldigende wat ik de Amerikaanse regering ooit heb zien doen”, zegt Dean Ball, senior fellow bij de Foundation for American Innovation en voormalig senior beleidsadviseur op het gebied van AI bij het Witte Huis. “We hebben eigenlijk alleen maar een Amerikaans bedrijf gesanctioneerd. Als je een Amerikaan bent, moet je nadenken of je hier over tien jaar nog wel wilt wonen.”
Mensen in heel Silicon Valley gebruikten de sociale media om soortgelijke shock en ontsteltenis te uiten. “De mensen die deze regering leiden zijn impulsief en wraakzuchtig. Ik denk dat dat genoeg is om hun gedrag te verklaren”, zegt Paul Graham, oprichter van de startup-accelerator Y Combinator. gezegd.
Boaz Barak, een OpenAI-onderzoeker, zei in een bericht dat “het neerhalen van een van onze toonaangevende AI-bedrijven gelijk heeft wat betreft het slechtste eigen doel dat we kunnen bereiken. Ik hoop van harte dat de kalme hoofden de overhand zullen krijgen en dat deze aankondiging wordt teruggedraaid.”
Ondertussen maakte Sam Altman, CEO van OpenAI, vrijdagavond bekend dat het bedrijf een overeenkomst heeft bereikt met het ministerie van Defensie om zijn AI-modellen in geheime omgevingen in te zetten, blijkbaar met uitzonderingen. “Twee van onze belangrijkste veiligheidsprincipes zijn het verbod op binnenlandse massasurveillance en de menselijke verantwoordelijkheid voor het gebruik van geweld, inclusief voor autonome wapensystemen”, zei Altman. “DoW is het eens met deze principes, weerspiegelt ze in wetgeving en beleid en we verankeren ze in onze overeenkomst.”
Verwarde klanten
In zijn blogpost van vrijdag zei Anthropic dat een aanduiding van een supply chain-risico, onder het gezag van 10 USC 3252, alleen van toepassing is op contracten van het Ministerie van Defensie rechtstreeks met leveranciers en niet dekt hoe aannemers zijn Claude AI-software gebruiken om andere klanten te bedienen.
Drie federale contractexperts zeggen dat het op dit moment onmogelijk is om te bepalen welke klanten van Anthropic nu de banden met het bedrijf zullen verbreken. De aankondiging van Hegseth “is niet gebonden aan enige wet die we nu kunnen voorspellen”, zegt Alex Major, partner bij advocatenkantoor McCarter & English, die samenwerkt met technologiebedrijven.
