Zal de antropogene controverse van het Pentagon startups afschrikken van defensiewerk?

In iets meer dan een week hebben de onderhandelingen over het gebruik van de Claude-technologie van Anthropic door het Pentagon de regering-Trump doen ineenstorten heeft Anthropic aangemerkt als een risico voor de toeleveringsketenen het AI-bedrijf zei dat het die aanwijzing voor de rechter zou aanvechten.

OpenAI kondigde ondertussen snel zijn eigen deal aan, wat tot terugslag leidde gebruikers die ChatGPT verwijderen En duwde Claude van Anthropic naar de top van de App Store-hitlijsten. En ten minste één OpenAI-bestuurder is afgetreden vanwege de bezorgdheid dat de aankondiging overhaast was gebeurd zonder dat er voldoende vangrails waren geplaatst.

In de nieuwste aflevering van De aandelenpodcast van TechCrunchKirsten Korosec, Sean O’Kane en ik bespraken wat dit betekent voor andere startups die willen samenwerken met de federale overheid, met name het Pentagon, toen Kirsten zich afvroeg: “Gaan we een kleine verandering van toon zien?”

Sean wees erop dat dit in verschillende opzichten een ongebruikelijke situatie is, deels omdat OpenAI en Claude producten maken waar “niemand over kan zwijgen”. En cruciaal is dat dit een dispuut is over “hoe hun technologieën wel of niet worden gebruikt om mensen te doden”, dus dat zal uiteraard meer onderzoek aantrekken.

Toch betoogde Kirsten dat dit een situatie is die ‘iedereen tot nadenken zou moeten aanzetten’.

Lees hieronder een voorproefje van ons gesprek, aangepast voor lengte en duidelijkheid.

Kirsten: Ik vraag me af of andere startups beginnen te kijken naar wat er is gebeurd met de federale overheid, met name het Pentagon en Anthropic, dat debat en dat worstelen, en zich afvragen of ze achter federale dollars aan willen gaan. Gaan we een kleine verandering van toon zien?

Sean: Dat vraag ik mij ook af. Ik denk van niet, tot op zekere hoogte, op de korte termijn, al was het maar omdat als je echt probeert na te denken over alle verschillende bedrijven, of het nu startups zijn of zelfs meer gevestigde Fortune 500’s die samenwerken met de overheid en vooral met het ministerie van Defensie of het Pentagon, (voor) veel van hen, het werk onder de radar blijft.

General Motors maakt defensievoertuigen voor het leger en doet dit al heel lang en werkt aan alle elektrische versies van deze voertuigen en autonome versies. Dit soort dingen gebeuren voortdurend, maar het schiet nooit echt op. Ik denk dat het probleem waar OpenAI en Anthropic de afgelopen week tegenaan zijn gelopen, is dat dit bedrijven zijn die producten maken die heel veel mensen gebruiken – en nog belangrijker: (waar) niemand over kan zwijgen.

Er wordt dus gewoon een soort spotlight op hen gericht die duidelijk hun betrokkenheid benadrukt op een niveau waarvan ik denk dat de meeste andere bedrijven die contracten sluiten met de federale overheid – en vooral alle oorlogselementen van de federale overheid – niet noodzakelijkerwijs mee te maken hebben.

Het enige voorbehoud dat ik daaraan wil toevoegen is dat een groot deel van de discussie rond deze discussie tussen Anthropic en OpenAI en het Pentagon heel specifiek gaat over hoe hun technologieën wel of niet worden gebruikt om mensen te doden, of in delen van de missies die mensen doden. Het is niet alleen de aandacht die op hen gericht is en de bekendheid die we hebben met hun merken, er is een bijkomend element dat naar mijn mening abstracter is als je aan General Motors denkt als defensie-aannemer of wat dan ook.

Ik denk niet dat Applied Intuition of een van deze andere bedrijven die zichzelf hebben afgeschilderd als dual-use zich veel zullen terugtrekken, alleen maar omdat ik er niet de schijnwerpers op zie en er gewoon niet zo’n soort gedeeld begrip is van wat die impact zou kunnen zijn.

Antonius: Dit verhaal is in veel opzichten zo uniek en specifiek voor deze bedrijven en persoonlijkheden. Ik bedoel, er zijn er veel geweest echt interessante gedachten over: Wat is de rol van technologie in de overheid? (Van) AI in de overheid? En ik denk dat dit allemaal goede en waardevolle vragen zijn om te stellen en te onderzoeken.

Ik denk echter ook dat dit een heel merkwaardige lens is om sommige van deze dingen door te onderzoeken, omdat Anthropic en OpenAI eigenlijk niet zoveel verschillen in veel opzichten of in de posities die ze innemen. Het is niet zoals het ene bedrijf zegt: “Hé, ik wil niet met de overheid samenwerken”, en het andere zegt: “Ja, dat wil ik wel.” Of ze zeggen: “Je kunt doen wat je wilt.” en (de andere is) om te zeggen: “Nee, ik wil beperkingen.” Beiden zeggen, althans publiekelijk,: “We willen beperkingen op de manier waarop onze AI wordt gebruikt.” Het lijkt erop dat Anthropic nog veel meer op de hielen zit: je kunt de voorwaarden niet op deze manier veranderen.

En bovendien lijkt er ook een persoonlijkheidslaag te zijn waar CEO van Anthropic en Emil Michael – zoals veel TechCrunch-lezers zouden kunnen doen herinner me nog van zijn Uber-dagenen is nu (Chief Technology Officer van het Ministerie van Defensie). Blijkbaar vinden ze elkaar gewoon niet leuk. Naar verluidt.

Sean: Ja, er zit hier een heel groot ‘meisjesgevecht’-element in dat we niet over het hoofd mogen zien.

Kirsten: Ja, een klein beetje. Het is er wel, maar de gevolgen zijn iets sterker dan dat. Nogmaals, om even terug te komen: waar we het hier over hebben is dat het Pentagon en Anthropic in een dispuut verwikkeld raken, waarbij Anthropic lijkt te hebben verloren, hoewel ik moet zeggen dat ze nog steeds veel door het leger worden gebruikt. Ze worden beschouwd als een cruciale technologie, maar OpenAI is er enigszins tussengekomen en dit is in ontwikkeling en zal waarschijnlijk veranderen tegen de tijd dat deze aflevering uitkomt.

De reactie was interessant voor OpenAI, waar we veel hebben gezien verwijderingen van ChatGPT denk ik met 295% toegenomen nadat OpenAI de deal met het Ministerie van Defensie had gesloten.

Voor mij is dit allemaal ruis voor het werkelijk cruciale en gevaarlijke punt, namelijk dat het Pentagon probeerde de bestaande voorwaarden van een bestaand contract te wijzigen. En dat is heel belangrijk en zou iedereen moeten aanzetten tot nadenken, want de politieke machine die nu gaande is, vooral bij het Ministerie van Defensie, lijkt anders te zijn. Dit is niet normaal. Het duurt een eeuwigheid voordat contracten op overheidsniveau zijn ingebakken en het feit dat ze die voorwaarden willen veranderen, is een probleem.