De echte vraag over het nieuwe van Anthropic Claude Mythos Voorbeeld AI Het model is of het (en soortgelijke toekomstige modellen) nuttiger zal zijn voor defensieve cyberbeveiliging of voor hackers. Om erachter te komen, Snel bedrijf vroegen een aantal cybersecurity-experts.
Claude Mythos, uitgegeven in “preview” op 9 april is Anthropic’s grootste en meest capabele grensgebied AI model. Antropische onderzoekers zeggen dat het model in training een uniek vermogen heeft aangetoond om beveiligingskwetsbaarheden diep in softwarecode te vinden en vervolgens exploits te creëren om op beheerdersniveau toegang te krijgen tot softwaresystemen, inclusief besturingssystemen.
Daarom, zegt Anthropic, is de Mythos ontstaan te gevaarlijk vrij te geven aan het publiek. Maar omdat er waarschijnlijk vergelijkbare AI-modellen op komst zijn, heeft het een sectorinitiatief aangekondigd genaamd Project Glasswing, dat cybersecurityonderzoekers bij verschillende bedrijven en instellingen toegang geeft tot het Mythos-model om breed inzetbare software te beschermen tegen AI-ondersteunde aanvallen.
“Wat Anthropic laat zien… is hoe snel AI een punt bereikt waarop het kwetsbaarheden op grote schaal kan identificeren”, zegt Marcus Fowler, CEO van Darktrace Federal. “Wanneer AI kwetsbaarheden kan vinden met een snelheid en diepte die de snelheid waarmee zwakke punten kunnen worden geïdentificeerd aanzienlijk verandert, versnelt het fundamenteel de ontdekking van problemen in zowel nieuwe als bestaande systemen.”
Dean Ball, een senior fellow bij de Foundation for American Innovation en voormalig senior beleidsadviseur op het gebied van kunstmatige intelligentie en opkomende technologieën onder president Donald Trump, zegt dat het krijgen van vroege toegang tot Mythos cybersecurity-onderzoekers een voordeel zal geven in de aanhoudende koude oorlog met hackers.
“Als het stof is neergedaald, zullen Mythos en de vergelijkbare capabele modellen die erop zullen volgen de geschiedenis ingaan als grote prestaties in de geschiedenis van cybersecurity”, tweette Ball donderdag. “De verharding die ze willen aanbrengen aan alle belangrijke mondiale software is een geschenk van het Amerikaanse kapitalisme dat vrijelijk aan de wereld wordt gegeven, ten koste van ons.”
Maar Ball erkent het in een ander bericht Snel bedrijf dat er misschien een klok zit in het voordeel dat Mythos biedt. Er is een voortdurende strijd gaande tussen defensieve cybersecurityprofessionals en cybercriminelen (hackers) om de nieuwste software in hun voordeel te gebruiken. “Er is altijd een balans tussen aanval en verdediging, en Anthropic probeert de verdediging een voorsprong te geven door Mythos voorlopig beperkt beschikbaar te houden”, zegt Ball.
Hij merkt op dat de voorsprong wellicht slechts negen tot twaalf maanden zal duren voordat sommige AI-laboratoria een model openen dat vergelijkbaar is met Mythos. Maar het kan veel sneller gaan als iemand erin slaagt de Mythos-parametergewichten te stelen. “Dit is misschien al gebeurd, en het kan heel moeilijk zijn om te zeggen of dit het geval is”, zegt Ball.
Ondertussen zou het model van Anthropic kennis kunnen opdoen en ervaring kunnen opdoen met veel softwarecode van grote commerciële systemen die het nog nooit eerder heeft gezien. Het zal nieuwe soorten architecturale en softwarefouten ontdekken die door aanvallers kunnen worden uitgebuit en nieuwe patches voor hen ontwikkelen. Niet alleen zal dit Mythos effectiever maken op het gebied van cyberbeveiliging, maar het zou ook Anthropic’s Claude Code-product ten goede kunnen komen door het beter te maken in het detecteren van bugs of potentiële beveiligingsproblemen in de code die het genereert.
Niet alleen het model van volgend jaar
Mythos kan meer zijn dan een upgrade van de AI die hackers al gebruiken. In de Claude Mythos Preview-systeemkaart beschrijven Anthropic-onderzoekers hoe het model grote open-source codebases scande, softwarefouten identificeerde die al tientallen jaren aanhielden, en vervolgens geavanceerde exploits ontwikkelden om deze aan te pakken. Systemen als Mythos zouden de snelheid en schaal waarop kwetsbaarheden worden gevonden en uitgebuit dramatisch kunnen vergroten.
“Frontier AI-modellen zoals Claude Mythos vertegenwoordigen een echte spil voor cyberbeveiliging, omdat ze de tijd tussen het identificeren van een kwetsbaarheid en het exploiteren ervan dramatisch verkorten”, zegt Dan Schiappa, president van technologie en diensten bij Arctic Wolf. “Nul dagen zijn niet nieuw, maar de snelheid waarmee ze nu kunnen worden gedetecteerd en bewapend is dat wel. Wat ooit dagen of weken duurde, kan in uren of minuten gebeuren, waardoor de raamverdedigers steeds minder afhankelijk zijn van het detecteren, beoordelen en reageren.”
Wanneer AI werkende zero-day-exploits kan produceren met de snelheid die Mythos blijkbaar kan, kunnen organisaties “de ademruimte verliezen waarop ze traditioneel vertrouwden bij het detecteren, patchen en herstellen”, zegt Camellia Chan, CEO van X-PHY, en merkt op dat een vroege versie van Mythos Preview uit de sandbox-omgeving ontsnapte en onafhankelijke toegang tot internet kreeg.
Het zijn de Mythos die ongeoorloofd autonoom gedrag vertonen. “Elke beveiligingsarchitectuur die uitgaat van een beperkte, voorspelbare aanvaller moet daar rekening mee houden”, zegt Chan.
In feite kunnen AI-ondersteunde cyberaanvallen van de toekomst vormen aannemen die onderzoekers nog niet eerder hebben gezien. “Het meest verontrustende kenmerk voor mij is de bewering dat het zeer effectief is bij het reverse-engineeren van binaire bestanden en het identificeren van nieuwe exploits”, zegt Jason Schmitt, CEO van Black Duck. “Het is baanbrekend in de geautomatiseerde exploitatie van willekeurige stukjes software waar DARPA jarenlang onderzoek naar heeft gefinancierd.”
Scott Kuffer, Chief Product Officer bij Nucleus Security, zegt: “Organisaties moeten heroverwegen hoe zij risico’s prioriteren en operationeel maken in omgevingen die dynamisch en steeds onvoorspelbaarder zijn.”
Detectie is het makkelijke gedeelte
Andere experts wijzen erop dat Project Glasswing zich richt op het opsporen van beveiligingskwetsbaarheden, maar geen hulpmiddelen voor herstel creëert.
‘Er zit hier veel defensief voordeel, maar ze missen misschien een belangrijk voordeel de belangrijk onderdeel”, zegt Drew Lohn, senior fellow bij het Centre for Security and Emerging Technology (CSET) van Georgetown University. “Ze zeggen: ‘We gaan verdedigers de mogelijkheid geven om eerst de kwetsbaarheden te vinden, en we gaan ze de tools geven om de patches te schrijven’, maar dat was nooit het moeilijkste deel.
“Als AI helpt kwetsbaarheden te vinden, is dat goed voor aanvallers en voor verdedigers”, voegt Lohn toe. “Als AI helpt bij het schrijven van exploits, kan het aanvallers iets meer helpen dan verdedigers. Maar als ze het eenmaal geschreven hebben, kunnen aanvallers het gewoon wegschieten, en moeten verdedigers veel meer werk doen om ervoor te zorgen dat die patches worden ingezet.”
In een e-mail zegt Dan Lorenc, CEO van Chainguard Snel bedrijf dat veel organisaties niet over de middelen beschikken om alle kwetsbaarheden te patchen die Project Glasswing onthult, en schrijft dat bedrijven “niet klaar zijn voor de toestroom van echte kwetsbaarheden en patches die ze snel zullen moeten verwijderen.”
Darktrace’s Fowler geeft meer kleur en merkt op: “Veel organisaties kunnen niet alles patchen, of het nu gaat om oudere systemen, onbeheerde apparaten of omgevingen waar updates niet mogelijk zijn. Dus hoewel de periode van kwetsbaarheid kleiner wordt, zal deze niet helemaal verdwijnen.”
Zowel Lohn als Fowler zijn van mening dat als AI-tools het aantal softwarekwetsbaarheden (en dus doelwitten) helpen verminderen, hackers andere soorten doelwitten kunnen proberen: menselijke doelwitten.
“Als ik een aanvaller ben en de code niet gemakkelijk kan kraken, zoek ik naar een andere route, en de meest effectieve is vaak de mens”, zegt Fowler. “Het is iemand die zich al in de omgeving bevindt, of het nu een kwaadwillende insider is, een gecompromitteerde inloggegevens, of iemand die wordt gestimuleerd of gedwongen. Ze hebben al toegang en kunnen opereren op manieren die de controles binnen de omgeving omzeilen.”
AI-systemen zoals Mythos kunnen ook het potentiële aanvalsoppervlak voor hackers vergroten.
“Hoewel de meeste cyberverdedigingen in het datacenter beginnen, onderscheidt dit zich als een existentiële bedreiging die eerst aan de rand moet worden aangepakt”, schreef John Gallagher, vicepresident van Viakoo Labs, in een e-mail. Dit kan betekenen dat elektriciteitsnetten, watersystemen, zelfrijdende autonetwerken, industriële automatiseringssystemen of slimme huishoudelijke apparaten moeten worden beschermd. “Mythos is OS-agnostisch, maar het oplossen van kwetsbaarheden niet”, schrijft hij. “Er is geen ‘Windows Update’ voor een waterpomp of een IoT-gateway.”
En over kritische softwaresystemen gesproken: het is niet altijd gemakkelijk om patches snel te installeren, benadrukt Lohn van CSET. “De reden dat er zoveel kwetsbaarheden waren, is omdat je deze systemen niet onmiddellijk offline kunt halen, of je moet er vrij zeker van zijn dat elke update die je uitvoert het systeem niet kapot maakt”, zegt hij, terwijl hij zich de ramp herinnert. CrowdStrike-patchinstallatie de systemen van luchtvaartmaatschappijen, banken en ziekenhuizen tegen juli 2024 aan de grond moeten houden. “Dat is de grote zorg: hoe lang duurt het om te updaten? Hoe zeker kun je er zeker van zijn dat je update niet nog andere dingen kapot heeft gemaakt?”
De AI bestaat echt, al is de effectiviteit ervan onzeker
In sommige online gesprekken deze week vroegen mensen zich af of Mythos echt zo capabel en dus bedreigend is als de onderzoekers van Anthropic zeggen. Het is waar dat AI-laboratoria in het verleden hun modellen hebben gehyped door te praten over hoe gevaarlijk ze zijn. Maar het lijkt vergezocht dat antropische onderzoekers de moeite zouden nemen om de prestatietests van Mythos te vervalsen en er vervolgens een systeemkaart van 280 pagina’s over te schrijven. En alle Glasswing-partners van Anthropic moesten betrokken zijn bij de zwendel.
Maar of Mythos uiteindelijk de softwarebeveiliging meer helpt dan dat het pijn doet, valt nog te bezien. Niet iedereen denkt van wel.
Bradley Smith, SVP van BeyondTrust, zet vraagtekens bij het verhaal dat Anthropic de goeden echt een voorsprong geeft, en wijst erop dat hackers al een tijdje AI-tools gebruiken. Ze hebben er ervaring mee, en zullen binnenkort toegang hebben tot veel krachtigere modellen.
“Er is geen voorsprong”, zegt Smith. “Er is alleen de beslissing om te handelen of de beslissing om te wachten, en wachten heeft de sector al meer gekost dan de meeste managers willen toegeven.”
