OpenAI-CEO Sam Altman vertelde zijn werknemers dinsdag dat zijn bedrijf geen controle heeft over hoe het Pentagon het hunne gebruikt kunstmatige intelligentie producten bij militaire operaties. De beweringen van Altman over het gebrek aan inbreng van OpenAI komen voort uit toegenomen onderzoek naar de manier waarop het leger AI gebruikt in oorlogen en ethische zorgen van AI-werknemers over de manier waarop hun technologie zal worden geïmplementeerd.
“Je kunt geen operationele beslissingen nemen”, zei Altman naar verluidt tegen de medewerkers Bloomberg En CNBC.
“Dus misschien denk je dat de aanval op Iran goed was en de invasie in Venezuela slecht. Denk daar niet over na”, zei Altman.
De AI-industrie is de afgelopen weken verwikkeld in verhitte discussies en harde onderhandelingen, omdat het Pentagon van AI-bedrijven heeft geëist dat ze de beveiligingen op hun modellen verwijderen om een breder scala aan militaire toepassingen mogelijk te maken. AI-compatibele systemen hebben dat naar verluidt wel gedaan al gebruikt in de operatie van het Amerikaanse leger om de Venezolaanse leider Nicolás Maduro te grijpen en gerichte beslissingen te nemen in de oorlog tegen Iran.
Anthropic, de rivaal van OpenAI en de maker van de Claude-chatbot, heeft vorige week een deal met het Pentagon afgewezen vanwege de bezorgdheid dat zijn model zou kunnen worden gebruikt voor binnenlandse massabewaking of voor volledig autonome wapens. Pete Hegseth, de Amerikaanse minister van Defensie, verklaarde het bedrijf een “toeleveringsketenrisico” Als gevolg hiervan is er sprake van een benaming die nog nooit eerder tegen een Amerikaans bedrijf is gebruikt, en die aanzienlijke economische schade zou kunnen veroorzaken als deze formeel wordt aangenomen.
Op dezelfde dag dat Hegseth strafmaatregelen tegen Anthropic beloofde, kondigde het Pentagon ook een deal aan met OpenAI die blijkbaar bedoeld was om het gebruik van Claude in militaire toepassingen te vervangen. De timing van de deal en de zorgen dat OpenAI had ingestemd met het overschrijden van ethische grenzen, waartoe Anthropic weigerde, leidden zowel publieke als interne reacties van medewerkers tegen Open AI.
Altman en OpenAI heeft sindsdien geprobeerd erop aan te dringen dat zijn technologie legaal zal worden gebruikt en aan schadebeperking zal doen, waarbij Altman toegaf dat de deal overhaast was en het bedrijf er “opportunistisch en slordig” uitzag.
Anthropic CEO Dario Amodei bestempelde Altman woensdag in een memo aan zijn werknemers als een ‘leugenaar’ en beschuldigde Altman ervan ‘dictatorachtige lof aan Trump te geven’. de informatie gemeld. “We hebben feitelijk met integriteit aan onze rode lijnen vastgehouden in plaats van met hen samen te werken om ‘veiligheidstheater’ te produceren ten behoeve van de werknemers (wat, ik zweer het je absoluut, is wat letterlijk iedereen bij (Pentagon), Palantir, onze politieke adviseurs, enz. veronderstelde dat dit het probleem was dat we probeerden op te lossen),’ schreef Amodi naar verluidt.
Hij richtte zich ook op het Pentagon en Donald Trump.
“De echte redenen (Pentagon) en de Trump-admin houden niet van ons, is dat we niet aan Trump hebben gedoneerd (terwijl OpenAI/Greg veel heeft gedoneerd)”, schreef hij, verwijzend naar Greg Brockman, de president van OpenAI, die een Trump-ondersteunend Pac $ 25 miljoen gaf in samenwerking met zijn vrouw.
