Een geschil tussen AI Het bedrijf Anthropic en het Pentagon over hoe het leger de technologie van het bedrijf kan gebruiken, is nu openbaar gemaakt. Te midden van gespannen onderhandelingen heeft Anthropic naar verluidt opgeroepen tot beperkingen voor twee belangrijke toepassingen: massasurveillance en autonome wapens. Het ministerie van Defensie, dat Trump heeft hernoemd Ministerie van Oorlog vorig jaar de vrijheid willen hebben om de technologie te gebruiken zonder deze beperkingen.
In het midden zit Palantir. Het defensiebedrijf levert de veilige cloudinfrastructuur waarmee het leger het Claude-model van Anthropic kan gebruiken, maar staat stil terwijl de spanningen escaleren. Het lijkt zelfs op het Pentagon, ontstoken Axiosdreigt Anthropic aan te merken als een ‘toeleveringsketenrisico’, een stap die Palantir zou kunnen dwingen de banden met een van zijn belangrijkste AI-partners te verbreken.
De dreiging kan een onderhandelingstactiek zijn. Als het echter wordt geïmplementeerd, zou het verreikende gevolgen hebben, waardoor niet alleen Anthropic, maar ook haar klanten mogelijk worden uitgesloten van overheidswerk. “Het zou alleen maar betekenen dat de overgrote meerderheid van de bedrijven die nu (Claude) gebruiken om zichzelf efficiënter te maken, plotseling niet meer voor de overheid zouden kunnen werken”, zegt Alex Bores, een voormalig medewerker van Palantir. is nu kandidaat voor het Congres in het 12e district van New York. “Het zou het vermogen van onze regering om dingen gedaan te krijgen op een vreselijke manier belemmeren.” (Palantir reageerde niet op een verzoek om commentaar.)
Antropisch en de woordenoorlog van het Pentagon
Anthropic heeft tot nu toe nauwe banden onderhouden met het leger. Claude was het eerste grensverleggende AI-model dat werd ingezet op geheime Pentagon-netwerken. Afgelopen zomer gunde het Ministerie van Defensie Anthropic een contract ter waarde van $200 miljoen, en de technologie van het bedrijf werd zelfs gebruikt in de recente Amerikaanse operatie om Nicolas Maduro gevangen te nemen. De Wall Street Journal gerapporteerd deze week.
Maar de toewijding van het bedrijf aan bepaalde AI-beveiligingsprincipes heeft sommige mensen in de binnenste cirkel van president Donald Trump geïrriteerd. (Katie Miller, de vrouw van Stephen Miller, heeft beschuldigde het bedrijf publiekelijk van liberale vooroordelen en bekritiseerde haar toewijding aan democratische waarden.) In tegenstelling tot rivalen xAI en OpenAI, die beide ook contracten hebben met het ministerie van Defensie, is Anthropic nu verwikkeld in een strijd met het Pentagon die zich publiekelijk afspeelt.
“Anthropic zet zich in voor het gebruik van frontier AI ter ondersteuning van de Amerikaanse nationale veiligheid. Daarom waren we het eerste frontier AI-bedrijf dat onze modellen op geheime netwerken implementeerde en de eersten die aangepaste modellen leverden aan klanten op het gebied van de nationale veiligheid”, aldus een woordvoerder van het bedrijf. Snel bedrijf. “Claude wordt gebruikt voor een breed scala aan inlichtingengerelateerde gebruiksscenario’s binnen de overheid, inclusief DoW, in overeenstemming met ons gebruiksbeleid. We hebben productief gesprekken, in goed vertrouwen, met de DoW over hoe we dit werk kunnen voortzetten en deze complexe problemen kunnen aanpakken.”
Het Pentagon heeft een meer confronterende toon aangenomen. Ambtenaren van het Agentschap herzien hun relatie met Anthropic en hebben gesuggereerd dat andere aannemers ook kunnen worden gevraagd om te stoppen met werken met het bedrijf. “De relatie van het Ministerie van Oorlog met Anthropic wordt momenteel herzien”, zei hoofdwoordvoerder van het Pentagon, Sean Parnell. Snel bedrijf. “Onze natie vereist dat onze partners bereid zijn onze strijders te helpen elke strijd te winnen.” (Parnell reageerde niet op een verzoek om opheldering over specifieke zorgen over autonome wapens of surveillance.)
Palantir, de tussenpersoon
Palantir neemt een cruciale positie in dit ecosysteem in. Een oude softwareleverancier van de overheid voldoet aan een groot aantal vereisten waardoor het clouddiensten kan aanbieden ter ondersteuning van geheim werk. En zoals typisch is in de duizelingwekkende wereld van technologiecontracten van de overheid, Palantir Ook heeft belangrijke partnerships met Anthropic.
Twee jaar geleden werkten de bedrijven samen om de technologie van Anthropic naar de overheid te brengen, een stap die Claude beschikbaar maakte voor defensie- en inlichtingendiensten via Amazon Web Services. Afgelopen april sloot Anthropic zich aan bij het FedStart-programma van Palantir, waarmee de beschikbaarheid van zijn technologie voor overheidsklanten via Google Cloud werd uitgebreid.
Het contracteren van technologie door de overheid is een lastige zaak, maar bedrijven die software aan de overheid willen verkopen, moeten doorgaans samenwerken met een gecertificeerde cloudprovider zoals Palantir of zelf certificering verkrijgen. “Als je nog nooit in een geheime omgeving hebt gewerkt, heb je in wezen een voertuig nodig”, legt Varoon Mathur uit, die in de regering-Biden aan kunstmatige intelligentie werkte. “Palantir is een defensieleverancier met een diepe operationele integratie. Anthropic is een AI-modelaanbieder die toegang probeert te krijgen tot dat ecosysteem.”
De toenemende spanningen over de manier waarop het ministerie van Defensie Claude zou kunnen gebruiken, roepen ook vragen op over de mate waarin bedrijven als Palantir en Anthropic zicht hebben op het gebruik van hun instrumenten door de overheid. “Anthropic en OpenAI bieden geen gegevensopslag waar ze de vragen van hun AI niet opslaan”, zegt Steven Adler, een voormalige OpenAI-medewerker en AI-beveiligingsexpert. Snel bedrijf. “Dit maakt het uiteraard moeilijker om potentiële schendingen van hun voorwaarden af te dwingen.”
Een persoon die bekend is met de zaak zei dat Anthropic inzicht heeft in hoe zijn technologie wordt gebruikt, of dit nu in een geheime omgeving is, en dat het bedrijf er vertrouwen in heeft dat zijn partners en gebruikers de technologie hebben ingezet in overeenstemming met zijn beleid. In zijn berichtgeving heeft De Wall Street Journal geciteerd Mensen die bekend waren met de zaak zeiden dat een medewerker van Anthropic contact had opgenomen met Palantir om te vragen naar de inzet van Claude in de Maduro-operatie, hoewel Anthropic tegenover de woordvoerder ontkende dat het buiten de technische discussies met Palantir had gesproken. Dit zegt de antropische woordvoerder Snel bedrijf dat het bedrijf geen commentaar kan geven op het gebruik van zijn technologie bij specifieke militaire operaties, maar zei dat het “nauw samenwerkt met onze partners om naleving te garanderen”.
Meer in het algemeen komt de ongemakkelijke relatie tussen Silicon Valley en Washington in gevaar in een tijd waarin de regering aandringt op agressievere invoering van kunstmatige intelligentie. “Om in feite te zeggen dat het onze weg of de snelweg is, en als je probeert beperkingen op te leggen, gaan we niet alleen een contract tekenen, maar achter jouw bedrijf aan gaan, is een enorme rode vlag voor elk bedrijf dat erover nadenkt om overheidscontracten aan te gaan”, zegt Bores.
