Zoals velen Silicon Valley bedrijven vandaag de dag, Scout-AI traint groot AI modellen en agenten om taken te automatiseren. Het grote verschil is dat in plaats van code te schrijven, e-mails te beantwoorden of dingen online te kopen, de agenten van Scout AI zijn ontworpen om dingen in de fysieke wereld te zoeken en te vernietigen met exploderende drones.
Tijdens een recente demonstratie, gehouden op een geheime militaire basis in centraal Californië, werd de technologie van Scout AI ingezet om een zelfrijdende terreinwagen en een paar dodelijke drones te besturen. De agenten gebruikten deze systemen om een vrachtwagen te lokaliseren die zich in het gebied verstopte en bliezen deze vervolgens op met een explosief.
“We moeten de volgende generatie AI naar het leger brengen”, zei Colby Adcock, CEO van Scout AI, in een recent interview. (Adcocks broer, Brett Adcock, is CEO van Figur AI, een startup die werkt aan humanoïde robots). “We nemen een hyperscaler-basismodel en trainen het om van een algemene chatbot of agent-assistent te veranderen in een oorlogsvechter.”
Het bedrijf van Adcock maakt deel uit van een nieuwe generatie startups die racen om technologie van grote AI-laboratoria aan te passen aan het slagveld. Veel politici zijn van mening dat het gebruik van AI zal de sleutel zijn tot toekomstige militaire dominantie. Het gevechtspotentieel van AI is een van de redenen waarom de Amerikaanse regering dit heeft gedaan geprobeerd de verkoop te beperken van geavanceerde AI-chips en apparatuur voor het maken van chips naar China, hoewel de regering-Trump onlangs heeft gedaan ervoor gekozen om deze controles te versoepelen.
“Het is goed voor startups op het gebied van defensietechnologie om de grenzen te verleggen met AI-integratie”, zegt Michael Horowitz, een professor aan de Universiteit van Pennsylvania die eerder in het Pentagon diende als plaatsvervangend adjunct-secretaris van defensie voor strijdkrachtontwikkeling en nieuwe capaciteiten. “Dat is precies wat ze zouden moeten doen als de VS het voortouw willen nemen bij de militaire adoptie van kunstmatige intelligentie.”
Horowitz merkt echter ook op dat het benutten van de nieuwste AI-ontwikkelingen in de praktijk bijzonder moeilijk kan blijken.
Grote taalmodellen zijn inherent onvoorspelbaar en AI-agenten – net zoals degenen die de populaire beheersen AI-assistent OpenClaw—kan zich misdragen wanneer ze zelfs relatief onschuldige taken krijgen, zoals het online bestellen van goederen. Horowitz zegt dat het bijzonder moeilijk kan zijn om aan te tonen dat dergelijke systemen robuust zijn vanuit het oogpunt van cyberveiligheid – iets dat nodig zou zijn voor wijdverbreid militair gebruik.
De nieuwste demo van Scout AI omvatte verschillende fasen waarin de AI de vrije hand had over gevechtssystemen.
Aan het begin van de missie werd het volgende commando ingevoerd in een Scout AI-systeem dat bekend staat als de Fury Orchestrator:
Een relatief groot AI-model met meer dan 100 miljard parameters, dat kan draaien op een beveiligd cloudplatform of op een on-site computer met luchtopening, interpreteert het eerste commando. Scout AI gebruikt een niet bekendgemaakt open source-model waarvan de beperkingen zijn verwijderd. Dit model fungeert vervolgens als een agent die opdrachten geeft aan kleinere modellen met 10 miljard parameters die draaien op grondvoertuigen en de drones die bij de oefening betrokken zijn. De kleinere modellen fungeren ook zelf als agenten en geven hun eigen opdrachten aan AI-systemen op een lager niveau die de bewegingen van de voertuigen controleren.
Enkele seconden nadat het marsorders had ontvangen, reed het voertuig weg over een onverharde weg die tussen struiken en bomen slingerde. Minuten later stopte het voertuig en stuurde het tweetal drones naar het gebied waar volgens hen het doelwit wachtte. Nadat hij de vrachtwagen had opgemerkt, gaf een AI-agent die op een van de drones reed een bevel om ernaartoe te vliegen en een explosieve lading tot ontploffing te brengen vlak voor de botsing.
