Anthropic heeft uitgesloten dat het nieuwste AI-model, Mythos, aan het publiek wordt vrijgegeven vanwege de dreiging die het vormt voor de mondiale cyberveiligheid.
De Amerikaanse tech-startup achter de Claude-chatbot bevestigde woensdag echter dat het een rapport onderzocht dat een groep mensen had ongeautoriseerde toegang heeft verkregen tot Mythos. Het vermeende incident heeft aanleiding gegeven tot bezorgdheid over het tempo van de ontwikkeling en het vermogen van technologiebedrijven om hun meest risicovolle producten buiten het publieke domein te houden. Hier onderzoeken we de Mythos en de potentiële impact ervan.
Wat is Mythos?
Mythos is een AI-model – de onderliggende technologie die tools als chatbots aandrijft – dat volgens Anthropic een ernstige potentiële bedreiging vormt voor de cyberveiligheid van elke organisatie. Antropisch kondigde het bestaan van de Mythos aan April, maar zei dat het niet publiekelijk zou worden vrijgegeven vanwege het vermogen om onbekende fouten in IT-systemen te identificeren. Deze fouten kunnen theoretisch door hackers worden uitgebuit.
Anthropic zei dat Mythos ‘zero-day’-fouten in alle grote IT-besturingssystemen en webbrowsers kon identificeren en exploiteren – als een gebruiker daarom vroeg. Zero days worden zo genoemd omdat organisaties en ontwikkelaars zich er totaal niet van bewust zijn en geen tijd hebben gehad om ze te patchen voordat een aanvaller toeslaat.
Anthropic omschreef het als een “keerpunt voor cyberveiligheid”. Sommige van de onopgemerkte gebreken bestonden al tientallen jaren, aldus het bedrijf uit San Francisco.
De startup heeft technologiebedrijven en banken, waaronder Apple en Goldman Sachs, toegang gegeven tot het model en kunnen beoordelen welke risico’s het kan opleveren voor hun bedrijven en klanten.
Waarom is dit reden tot zorg?
Mythos vertegenwoordigt volgens het Britse AI Security Institute (AISI) tastbaar bewijs van het ontwrichtende potentieel van geavanceerde AI. Sinds de komst van OpenAI’s ChatGPT in 2022 hebben experts gewaarschuwd dat kunstmatige intelligentie ernstige schade kan aanrichten in de echte wereld.
Er is ook een breder punt: dat Mythos indicatief is voor het tempo van de vooruitgang op het gebied van AI. Geavanceerde modellen worden doorgaans snel gekopieerd door andere bedrijven, waaronder ontwikkelaars van open source-modellen die gratis beschikbaar zijn voor gebruikers. In een gezamenlijke brief aan bedrijfsleiders vorige maand zeiden de Britse technologiesecretaris Liz Kendall en de veiligheidssecretaris Dan Jarvis dat bedrijven “dienovereenkomstig moeten plannen” zodat de AI-mogelijkheden het komende jaar “snel zullen toenemen”. Uiteraard kan AI ook worden ingezet ter verdediging tegen cyberaanvallen.
Een andere zorg is dat de Mythos in verkeerde handen zouden kunnen vallen, ondanks dat ze niet zijn gepubliceerd. Deze vrees werd deze week bewaarheid, toen Anthropic bevestigde dat een “handvol” gebruikers op een privé online forum toegang hadden gekregen tot het model.
Er bestaat echter ook een vraag over het belang van de duizenden kwetsbaarheden die Mythos heeft gesignaleerd. Kunnen ze ernstige schade aanrichten? Bovendien is het benadrukken van een IT-bug niet hetzelfde als het exploiteren ervan.
Is Mythos beoordeeld door experts?
AISI, het grootste AI-beveiligingsorgaan ter wereld, heb Mythos eens bekeken en zegt dat het een “stapje voorwaarts” is ten opzichte van eerdere modellen in termen van de cyberveiligheidsdreiging. Een van de rode vlaggen is het vermogen om aanvallen uit te voeren die uit meerdere stappen bestaan en IT-fouten te identificeren zonder menselijke begeleiding.
Het leverde ook een primeur op in de ogen van AISI: de succesvolle afronding van een 32-stappensimulatie van een cyberaanval in een door het Instituut opgezette test. Het kan zwakke, kleine IT-systemen aanvallen, zei AISI, hoewel het geen oordeel kan vellen over goed verdedigde systemen. Het instituut sloot zijn oordeel af met een constatering die elders vaak wordt gesteld: AI-systemen kunnen vanaf hier alleen maar beter worden.
Richard Horne, CEO van het Britse National Cyber Security Centre, zei deze week op de CyberUK-conferentie in Glasgow dat de opkomst van Mythos bedrijven zou helpen ‘verouderde technologie’ te vervangen. “Het maakt de urgentie alleen maar groter”, voegde hij eraan toe.
Andere experts hebben echter gezegd dat de Mythos meer een evolutie dan een revolutie is. Aisle, een bedrijf dat zich bezighoudt met AI-cyberbeveiliging, analyseerde de belangrijkste beweringen van Anthropic: dat het duizenden zero-day-kwetsbaarheden had gevonden in grote besturingssystemen en browsers, waaronder één in FreeBSD, een neef van UNIX. Het bleek dat andere, veel goedkopere modellen deze problemen ook konden vinden. Dit betekende niet dat de capaciteiten van Mythos niet significant waren, zeiden ze, maar dat er meer nuances waren dan de dringende toon van Anthropic deed vermoeden.
Er zijn ook waarschuwingen van experts dat de meeste inbreuken nog steeds voortkomen uit gevestigde risico’s, zoals zwakke authenticatie en reeds bekende kwetsbaarheden die nog niet zijn gepatcht.
Sommige experts suggereren dat er een element van hype heerst rond de beweringen van Anthropic over Mythos, en hoe een startup een waarde van ongeveer $ 800 miljard heeft. (£592 miljard) heeft ze gepresenteerd. De Mythos is ongetwijfeld een capabel model. De dramatische aankondiging van Anthropic heeft het bedrijf echter veel zendtijd gegeven en zijn product gecentreerd in een bredere, veldbrede discussie over hoe AI kan bijdragen aan cyberrisico’s.
Hoe zijn technologiebedrijven en banken erbij betrokken?
Ongeveer 40 bedrijven, waaronder Google, JP Morgan en Goldman, hebben vroegtijdig toegang gekregen tot Mythos via een initiatief genaamd Project Glasswing, dat bedrijven de kans geeft om het AI-model te testen als onderdeel van hun cyberverdediging. Anthropic zegt dat het wil delen wat het leert “zodat de hele industrie hiervan kan profiteren”.
De lanceringspartners hebben echter geen details gegeven over waartoe zij denken dat Mythos in staat is en hoeveel bedreiging het zou kunnen vormen.
Dat heeft banken en toezichthouders niet tegengehouden speculeren over de mogelijke impact ervan. En daar is een goede reden voor: als de waarschuwingen van Anthropic juist zijn, kan het in verkeerde handen vallen van Mythos grote schade aanrichten aan de banken en mogelijk het bredere financiële systeem in gevaar brengen.
De Britse regering modelleert een bankhack in het slechtste gevaldie al vóór de oprichting van Mythos werden geproduceerd, suggereerden dat automatische incasso’s zouden kunnen mislukken, waardoor huur, hypotheken en lonen onbetaald zouden blijven, terwijl online bankieren en geldopnames zouden kunnen worden geblokkeerd. Pendelaars zouden in het ongewisse kunnen blijven omdat bussen en benzinestations hun betalingen weigerden. Dat zou paniek kunnen veroorzaken, wat zou kunnen leiden tot een aanval op rivaliserende kredietverstrekkers, omdat klanten geld van hun rekeningen zouden halen uit angst dat de verstoring zich zou verspreiden.
Bezorgdheid over de potentiële dreigingen van Mythos was voor de Amerikaanse minister van Financiën Scott Bessent aanleiding om een ontmoeting te beleggen topbestuurders van grote Amerikaanse bankenwaaronder Goldman en Citi, eerder deze maand in Washington.
Britse toezichthouders hebben Mythos aan de agenda toegevoegd Cross-Market Operational Resilience Group bijeenkomsten deze week. Dit brengt het in discussies op hoog niveau tussen senior bankiers en functionarissen van het ministerie van Financiën, de Bank of England, de Financial Conduct Authority en het National Cyber Security Centre.
