EENnthropic heeft zijn nieuwste AI-model aangekondigd, Claude Mythosdeze maand, maar zei dat het niet publiekelijk zou worden vrijgegeven omdat het computers in plaats delict verandert. Het bedrijf beweerde dat het voorheen onbekende ‘zero-day’-fouten kon vinden, deze kon exploiteren en in principe deze zwakheden kon koppelen om het over te nemen grote besturingssystemen en webbrowsers. Mythos deed het zelfstandig, schreef code en verwierf privileges. De gevolgen zijn aanzienlijk. Het is als een inbreker die elk gebouw kan aanvallen, binnen kan gaan, elke deur kan ontgrendelen en elke kluis kan leegmaken.
Het bedrijf uit Silicon Valley heeft er tot nu toe veertig genoemd organisaties als partners onder Project Glasswing om te helpen een verdediging op te zetten en hen te vragen kwetsbaarheden te ‘patchen’ voordat hackers de kans krijgen deze te misbruiken. Ze zijn allemaal Amerikaans en vormen de kern van het door Amerika geleide digitale systeem. Anthropic deelde Mythos alleen met Groot-Brittannië buiten de VS, waardoor het AI Security Institute grensmodellen kon testen. Na het van dichtbij te hebben gezien, Britse ministers gewaarschuwd: AI maakt cyberaanvallen veel gemakkelijker en sneller, en de meeste bedrijven zijn er nog niet klaar voor. Banken binnen Europa Zal het waarschijnlijk de volgende keer testen.
Dit is misschien geen moment te vroeg. Verslagen van ongeoorloofde toegang kwam deze week naar voren – wat de vraag doet rijzen of een particuliere onderneming kan vertrouwen op een capaciteit als deze. Mythos doet dat niet noodzakelijkerwijs creëren een nieuwe vorm van cyberdreiging. Het verandert een latente zwakte in een systeemrisico. Hacken is van oudsher moeilijk en tijdrovend en vereist vaardigheden die maar weinig mensen bezitten. Maar AI-tools verspreiden zich snel en zorgen ervoor dat systeeminbreuken binnen het bereik van velen komen – niet alleen van experts.
Een stroper kan ook veranderen in een jager. Mozilla heeft Mythos getest in zijn Firefox-browser: het vond 10 keer meer bugs dan voorheen – en repareerde ze. Het cruciale punt was dat niemand hen was een mens kon het niet ontdekken. Wat er aan het veranderen is, is dat AI ‘cyberkwetsbaarheden’ snel, goedkoop en op grote schaal ontdekt.
De omarming van Anthropic door de Amerikaanse regering markeert een verschuiving. In februari beschouwde het Pentagon het bedrijf als een ‘veiligheidsrisico” en sloot het af van lucratieve deals nadat het weigerde toe te staan dat zijn technologie werd gebruikt voor massasurveillance of autonome wapens. OpenAI kreeg in plaats daarvan het contract. Met zijn Claude-chatbot heeft Anthropic zichzelf lange tijd gepresenteerd als het ethische alternatief onder zijn concurrenten – zelfs toen zijn imago met 1,5 miljard dollar werd aangetast. nederzetting van piraten vorig jaar.
Mythos is sterk, maar antropisch PR heeft zowel het verhaal als de technologie gevormd. Er is ook de vraag hoe geavanceerd de Mythos werkelijk is. Onderzoekers hebben aangetoond dat kleinere, goedkopere modellen die op grote schaal worden ingezet, soortgelijke prestaties kunnen leveren. Wat een doorbraak lijkt te zijn, kan een weerspiegeling zijn van een bredere verschuiving binnen het veld. Het Witte Huis is van mening dat Anthropic strategische waarde heeft – gastvrij het weer in de plooi, wat een verschuiving aangeeft van het behandelen van AI-bedrijven als aannemers naar partners. Het roept een diepere zorg op: of de controle van particuliere bedrijven op kritieke infrastructuurrisico’s verstandig is – vooral als minder verantwoordelijke actoren technische invloed krijgen.
Het is duidelijk dat degene die – staat of bedrijf – de krachtigste AI-modellen creëert, zal winnen geopolitiek voordelen in plaats van vrienden en beide vijanden. Zonder een raamwerk voor de internationale coördinatie van de cyberveiligheid bestaat echter het risico dat er niet één veilig internet is, maar een aantal concurrerende internetverbindingen – die elk hun eigen systeem ‘patchen’ en geen van de anderen volledig vertrouwen. Het zou niet langer een mondiale commons zijn. In plaats daarvan zou het web worden opgedeeld in veiligheidsallianties, die strenger bewaakt zouden worden, ook al glijdt er iets breders stilletjes weg.
