OpenAI’s Sam Altman kondigt Pentagon-deal aan met ’technische waarborgen’

OpenAI-CEO Sam Altman maakte vrijdag laat bekend dat zijn bedrijf een overeenkomst heeft bereikt waardoor het ministerie van Defensie zijn AI-modellen mag gebruiken in het geheime netwerk van het ministerie.

Dit volgt op een spraakmakende strijd tussen het departement – ​​onder de regering-Trump ook wel bekend als het Department of War – en OpenAI’s rivaal Anthropic. Pentagon zette AI-bedrijven, waaronder Anthropic, onder druk om toe te staan ​​dat hun modellen “voor alle wettige doeleinden” werden gebruikt terwijl Anthropic een rode lijn probeerde te trekken rond massasurveillance en volledig autonome wapens.

IN een lange verklaring die donderdag werd vrijgegevenAntropische CEO Dario Amodi zei dat het bedrijf “nooit bezwaar heeft gemaakt tegen bepaalde militaire operaties of heeft geprobeerd het gebruik van onze technologie in een hiervoor manier”, maar hij betoogde dat “in een beperkt aantal gevallen wij geloven dat kunstmatige intelligentie de democratische waarden kan ondermijnen in plaats van verdedigen.”

Ruim 60 OpenAI-medewerkers en 300 Google-medewerkers deze week een open brief ondertekend vragen hun werkgevers om het standpunt van Anthropic te steunen.

Nadat Anthropic en het Pentagon er niet in slaagden tot overeenstemming te komen, bekritiseerde president Donald Trump de “linkse noodbanen bij Anthropic” in een bericht op sociale media die ook federale instanties beval te stoppen met het gebruik van de producten van het bedrijf na een uitfaseringsperiode van zes maanden.

IN een apart berichtMinister van Defensie Pete Hegseth beweerde dat Anthropic probeerde “het vetorecht over de operationele beslissingen van het Amerikaanse leger te nemen”. Hegseth zei ook dat hij Anthropic aanmerkt als een risico voor de toeleveringsketen: “Met onmiddellijke ingang mag geen enkele aannemer, leverancier of partner die zaken doet met het Amerikaanse leger enige commerciële activiteit uitoefenen met Anthropic.”

Op vrijdag, antropomorf gezegd het had ‘nog geen directe communicatie ontvangen van het Ministerie van Oorlog of het Witte Huis over de status van onze onderhandelingen’, maar stond erop dat het ‘elke aanduiding van een risico in de toeleveringsketen voor de rechter zou aanvechten’.

Verrassend genoeg, Altman beweerd in een bericht op X dat het nieuwe defensiecontract van OpenAI waarborgen bevat die dezelfde problemen aanpakken die een brandpunt werden voor Anthropic.

“Twee van onze belangrijkste veiligheidsprincipes zijn het verbod op binnenlandse massasurveillance en de menselijke verantwoordelijkheid voor het gebruik van geweld, inclusief voor autonome wapensystemen”, zei Altman. “DoW is het eens met deze principes, weerspiegelt ze in wetgeving en beleid en we verankeren ze in onze overeenkomst.”

Altman zei dat OpenAI “technische beveiligingen zal bouwen om ervoor te zorgen dat onze modellen zich gedragen zoals ze zouden moeten, wat de DoW ook wilde”, en dat het ingenieurs bij het Pentagon zal inzetten “om te helpen met onze modellen en om hun veiligheid te garanderen.”

“We vragen de DoW om aan alle AI-bedrijven dezelfde voorwaarden aan te bieden waarvan wij denken dat iedereen deze zou moeten accepteren”, voegde Altman eraan toe. “We hebben onze sterke wens geuit om de zaken te zien de-escaleren, weg van juridische en staatsacties en in de richting van redelijke overeenkomsten.”

Dat meldt Sharon Goldman van Fortune dat Altman tijdens een bijeenkomst van OpenAI tegen het personeel van OpenAI zei dat de overheid het bedrijf zal toestaan ​​zijn eigen ‘security stack’ te bouwen om misbruik te voorkomen, en dat ‘als het model weigert een taak uit te voeren, de overheid OpenAI niet zou dwingen die taak uit te voeren.’

De post van Altman kwam kort voordat het nieuws bekend werd dat de Amerikaanse en Israëlische regeringen is begonnen met het bombarderen van Iranwaar Trump opriep tot de omverwerping van de Iraanse regering.