Open AI zei dat het een deal had gesloten met het Pentagon om AI aan geheime diensten te leveren Amerikaans leger netwerk, uren later Donald Trump beval de regering om te stoppen met het gebruik van de diensten van een van de grootste concurrenten van het bedrijf.
Sam AltmanDe CEO van OpenAI maakte de stap vrijdagavond bekend. Het kwam na een deal tussen Anthropic, een rivaliserend bedrijf voor kunstmatige intelligentie dat het Claude-systeem beheert, en de regering-Trump stortte in nadat Anthropic de verzekering zocht dat zijn technologie niet zou worden gebruikt voor massasurveillance – zelfs niet voor autonome wapensystemen die mensen kunnen doden zonder menselijke inbreng.
Altman kondigde de deal aan en benadrukte dat de overeenkomst van OpenAI met de regering de garantie bevatte dat deze niet voor deze doeleinden zou worden gebruikt.
“Twee van onze belangrijkste veiligheidsprincipes zijn het verbod op binnenlandse massale surveillance en de menselijke verantwoordelijkheid voor het gebruik van geweld, inclusief voor autonome wapensystemen”, zei Altman. schreef X. Hij voegde eraan toe dat het Pentagon “het eens is met deze principes, ze weerspiegelt in de wetgeving en het beleid, en dat we ze in onze overeenkomst opnemen”.
Altman zei ook dat hij hoopte dat het Pentagon ‘alle AI-bedrijven een gelijk speelveld zou bieden’ als een manier om ‘te de-escaleren, weg van juridische en staatsacties en in de richting van eerlijke handel’.
Als de overeenkomst van OpenAI verbiedt dat zijn systemen voor onethische doeleinden worden gebruikt, lijkt het erop dat het bedrijf erin is geslaagd garanties te krijgen waar Anthropic dat niet kon. Altman kondigde de deal met de regering aan kort nadat de president had gezegd dat hij alle federale agentschappen zou opdragen om “ONMIDDELLIJK elk gebruik van antropische technologie te staken”.
Het Pentagon had geëist dat Anthropic de ethische richtlijnen voor zijn AI-systemen zou versoepelen, anders zou het met ernstige gevolgen te maken krijgen.
Troef gezegd op zijn Truth Social-platform: “De linkse idioten bij Anthropic hebben een catastrofale fout gemaakt door te proberen het Pentagon te BEwapenen en hen te dwingen hun dienstvoorwaarden te gehoorzamen in plaats van onze grondwet.”
Het valt nog te bezien hoe OpenAI-medewerkers op het regeerakkoord reageren. In zijn strijd met de regering-Trump heeft Anthropic steun gekregen van zijn grootste rivalen. Bijna 500 OpenAI- en Google-medewerkers logden hierop in open brief door te zeggen “we zullen niet verdeeld zijn”.
“Het Pentagon onderhandelt met Google en OpenAI om hen zover te krijgen dat ze instemmen met wat Anthropic heeft geweigerd”, aldus de brief. “Ze proberen elk bedrijf te verdelen uit angst dat het andere zal toegeven.”
Altman probeerde OpenAI-medewerkers gerust te stellen in een memo die vrijdagavond werd verzonden.
“Ongeacht hoe we hier terecht zijn gekomen, is dit niet langer alleen een kwestie tussen Anthropic en (het Pentagon); dit is een kwestie die de hele sector bestrijkt en het is belangrijk om ons standpunt te verduidelijken”, schreef Altman in de memo. verkregen door Axios.
“We hebben lang geloofd dat kunstmatige intelligentie niet mag worden gebruikt voor massasurveillance of autonome dodelijke wapens, en dat mensen op de hoogte moeten blijven van geautomatiseerde beslissingen met hoge inzet. Dit zijn onze belangrijkste rode lijnen.”
Altman voegde hieraan toe: “We zullen zien of er een overeenkomst is met (het Pentagon) die het mogelijk maakt dat onze modellen worden ingezet in geheime omgevingen en die past bij onze principes. We zullen vragen dat het contract elk gebruik dekt, behalve het gebruik dat illegaal of ongeschikt is voor cloud-implementatie, zoals binnenlandse surveillance en autonome aanvalswapens.”
Antropisch presenteert zichzelf als het meest veiligheid naar voren van de toonaangevende AI-bedrijven, waren verwikkeld in maanden van onenigheid met het Pentagon. Amerikaanse defensiefunctionarissen hadden aangedrongen op onbelemmerde toegang tot de capaciteiten van Claude, die volgens hen het land kunnen helpen beschermen. Ondertussen heeft Anthropic dat wel gedaan verzette zich waardoor het product kan worden gebruikt voor massasurveillance of wapensystemen die autonoom mensen kunnen doden.
“Geen enkele hoeveelheid intimidatie of bestraffing van (het Pentagon) zal ons standpunt over binnenlandse massasurveillance of volledig autonome wapens veranderen”, zei Anthropic vrijdagavond in zijn verklaring.
“We hebben te goeder trouw geprobeerd een overeenkomst te bereiken met (het Pentagon) die duidelijk maakt dat we alle wettige toepassingen van kunstmatige intelligentie voor de nationale veiligheid steunen, met uitzondering van de twee beperkte uitzonderingen hierboven”, vervolgde het bedrijf. “Voor zover wij weten hebben deze vrijstellingen tot nu toe geen enkele regeringsmissie beïnvloed.”
Dat zei OpenAI vrijdag het haalt $110 miljard op. in een blockbuster-financieringsronde die het bedrijf op 840 miljard dollar zou waarderen.
