Een publieke confrontatie tussen De regering-Trump En Antropisch komt in een impasse terecht, omdat militaire functionarissen dit eisen kunstmatige intelligentie het bedrijf verandert zijn ethisch beleid vóór vrijdag, anders loopt het risico zijn activiteiten te schaden.
Anthropic CEO Dario Amodei trok 24 uur voor de deadline een scherpe rode lijn en verklaarde dat zijn bedrijf “niet met een goed geweten kan ingaan” op de laatste eis van het Pentagon om onbeperkt gebruik van zijn technologie toe te staan.
Anthropic, de maker van de chatbot Claude, kan het zich veroorloven een defensiecontract te verliezen. Maar het ultimatum van minister van Defensie Pete Hegseth deze week bracht bredere risico’s met zich mee aan de top van de snelle opkomst van het bedrijf van een weinig bekend computerwetenschappelijk onderzoekslaboratorium in San Francisco tot een van ’s werelds meest waardevolle startups.
Als Amodei niet toegeeft, hebben militaire functionarissen gewaarschuwd dat ze niet alleen het contract van Anthropic zullen intrekken, maar ze ook “als een risico voor de toeleveringsketen zullen beschouwen”, een aanduiding die doorgaans wordt bestempeld als buitenlandse tegenstanders die de cruciale partnerschappen van het bedrijf met andere bedrijven zouden kunnen laten ontsporen.
En als Amodei zou vallen, zou hij het vertrouwen in de bloeiende AI-industrie kunnen verliezen, vooral van toptalent dat zich tot het bedrijf aangetrokken voelt vanwege zijn beloften om op verantwoorde wijze beter dan menselijke AI te bouwen die, zonder waarborgen, catastrofale risico’s met zich mee zou kunnen brengen.
Anthropic zei dat het van het Pentagon beperkte garanties zocht dat Claude niet zal worden gebruikt voor massale surveillance van Amerikanen of voor volledig autonome wapens. Maar nadat maanden van privégesprekken uitmondden in een publiek debat, zei het in een verklaring van donderdag dat de nieuwe contracttaal “die als een compromis was geformuleerd, gepaard ging met juridische woorden die het mogelijk zouden maken om naar believen afstand te doen van deze garanties.”
Dat was nadat Sean Parnell, de topwoordvoerder van het Pentagon, op sociale media schreef dat “we GEEN ENKEL bedrijf de voorwaarden zullen laten dicteren over hoe we operationele beslissingen nemen”, eraan toevoegend dat het bedrijf “tot vrijdag 17.01 uur ET heeft om te beslissen” of het zich eraan zal houden of de gevolgen zal ondervinden.
Emil Michael, de minister van Defensie voor Onderzoek en Techniek, haalde later uit naar Amodi en beweerde dat hij ‘een godcomplex heeft’ en ‘niets liever wil dan proberen persoonlijk controle te krijgen over het Amerikaanse leger en dat hij het prima vindt om de veiligheid van onze natie in gevaar te brengen.’
Die boodschap heeft geen weerklank gevonden in een groot deel van Silicon Valley, waar een groeiend aantal technologiewerkers van de belangrijkste rivalen van Anthropic, OpenAI en Google, donderdag laat in een open brief hun steun uitsprak voor het standpunt van Amodei.
OpenAI en Google hebben, samen met xAI van Elon Musk, ook contracten om hun AI-modellen aan het leger te leveren.
“Het Pentagon onderhandelt met Google en OpenAI om hen zover te krijgen dat ze instemmen met wat Anthropic heeft geweigerd”, aldus de open brief. “Ze proberen elk bedrijf te verdelen uit angst dat het andere zal toegeven.”
Republikeinse en Democratische wetgevers en een voormalig hoofd van de AI-initiatieven van het Ministerie van Defensie uitten ook hun bezorgdheid over de aanpak van het Pentagon.
“Een schot in de roos voor Anthropic zorgt voor pittige krantenkoppen, maar uiteindelijk verliest iedereen”, schreef gepensioneerde luchtmachtgeneraal Jack Shanahan in een post op sociale media.
Shanahan kreeg tijdens de eerste regering-Trump te maken met een nieuwe golf van tegenstand van technologiewerkers toen hij leiding gaf aan Maven, een project om AI-technologie te gebruiken om dronebeelden te analyseren en wapens te richten. Zoveel Google-werknemers protesteerden destijds tegen hun deelname aan Project Maven, dat de technologiegigant weigerde het contract te verlengen en vervolgens beloofde kunstmatige intelligentie niet als wapen in te zetten.
“Aangezien ik midden in Project Maven en Google stond, is het redelijk om aan te nemen dat ik hier de kant van het Pentagon zou kiezen”, schreef Shanahan donderdag op sociale media. “Toch sta ik sympathiek tegenover het standpunt van Anthropic. Meer nog dan dat van Google in 2018.”
Hij zei dat Claude al op grote schaal wordt gebruikt binnen de overheid, ook in geheime omgevingen, en dat de rode lijnen van Anthropic ‘redelijk’ zijn. Hij zei dat de belangrijkste AI-taalmodellen die chatbots als Claude aandrijven ook niet “klaar zijn voor prime time in nationale veiligheidssituaties”, vooral niet voor volledig autonome wapens.
“Ze proberen hier niet aardig te spelen”, schreef hij.
Parnell beweerde donderdag dat het Pentagon ‘het model van Anthropic voor alle wettige doeleinden wil gebruiken’ en zei dat het openstellen van het gebruik van de technologie zou voorkomen dat het bedrijf ‘kritieke militaire operaties in gevaar zou brengen’, hoewel noch hij, noch andere functionarissen hebben gedetailleerd hoe zij de technologie willen gebruiken.
Het leger “heeft geen belang bij het gebruik van AI om massale surveillance van Amerikanen uit te voeren (wat illegaal is), noch willen we AI gebruiken om autonome wapens te ontwikkelen die opereren zonder menselijke tussenkomst”, schreef Parnell.
Toen Hegseth en Amodei elkaar dinsdag ontmoetten, waarschuwden militaire functionarissen dat ze Anthropic konden bestempelen als een risico voor de toeleveringsketen, het contract konden opzeggen of een beroep konden doen op een wet uit de Koude Oorlog, de Defense Production Act genaamd, om het leger meer bevoegdheden te geven om zijn producten te gebruiken, zelfs als het bedrijf het daar niet mee eens is.
Amodi zei donderdag dat “de laatste twee bedreigingen inherent tegenstrijdig zijn: de ene bestempelt ons als een veiligheidsrisico, de andere bestempelt Claude als essentieel voor de nationale veiligheid.” Hij zei dat hij hoopt dat het Pentagon dit zal heroverwegen, gezien de waarde van Claude voor het leger, maar als dat niet het geval is, zal Anthropic “zich inzetten om een soepele overgang naar een andere leverancier mogelijk te maken.”
—-
AP-verslaggever Konstantin Toropin heeft aan dit rapport bijgedragen.
—Matt O’Brien, AP-technologieschrijver
