Goldman Sachs-topman David Solomon heeft gezegd dat hij “hyperbewust” is van het potentieel van het Mythos AI-model van Anthropic en “nauw” samenwerkt met het technologiebedrijf nadat het waarschuwingen had afgegeven over het cyberveiligheidsrisico dat dit met zich meebrengt.
De Amerikaanse bank volgde de snelle vooruitgang op het gebied van kunstmatige intelligentie, inclusief grote taalmodellen (LLM’s), als onderdeel van een bredere poging om zichzelf tegen hackers te beschermen.
“Het is duidelijk dat de LLM’s snelle vooruitgang boeken, en we zijn ons zeer bewust van de verbeterde mogelijkheden van deze nieuwe modellen met de hulp van de Amerikaanse overheid en de modeluitgevers”, vertelde Solomon maandag aan analisten tijdens een winstoproep.
Daartoe behoorde ook Anthropic, het bedrijf achter de Claude-familie van AI-tools. Vorige week beweerde het bedrijf dat zijn nieuwste model, de Mythos, een ongekend risico inhield vanwege zijn vermogen om fouten in IT-systemen op te sporen.
“AI-modellen hebben een niveau van codeervermogen bereikt waarop ze beter kunnen presteren dan alle mensen, behalve de meest bekwame mensen, bij het vinden en exploiteren van softwarekwetsbaarheden”, zei Anthropic afgelopen woensdag in een blogpost. “De gevolgen – voor de economieën, de openbare veiligheid en de nationale veiligheid – kunnen ernstig zijn.”
Solomon zei maandag: “We zijn ons bewust van Mythos en zijn mogelijkheden … We hebben het model. We werken nauw samen met Anthropic en al onze beveiligingsleveranciers om waar mogelijk gebruik te maken van grensmogelijkheden. En dit zal een belangrijk aandachtspunt blijven.
“We zijn erg gefocust op het aanvullen van onze cyber- en infrastructuurveerkracht. En dit maakt deel uit van onze voortdurende capaciteiten waarin we hebben geïnvesteerd en waarin we onze investeringen versnellen.”
Het nieuws komt nadat de Amerikaanse minister van Financiën, Scott Bessent, riep Solomon en andere grote Amerikaanse bankiers bijeen vorige week naar Washington om het Mythos-model te bespreken.
Die bijeenkomst richtte zich op de hoofden van zogenaamde systeemrelevante banken – waar toezichthouders van mening zijn dat een grote verstoring van hun activiteiten of hun potentiële ineenstorting de financiële stabiliteit in gevaar zou brengen.
Maandag waarschuwde het AI Security Institute (AISI) van de Britse regering dat Mythos een “stapje voorwaarts” was ten opzichte van eerdere modellen in termen van de cyberdreiging die het vormde.
AISI zei dat Mythos aanvallen kon uitvoeren die meerdere acties vereisten en zwakheden in IT-systemen kon detecteren zonder menselijke tussenkomst. Het zei dat deze taken normaal gesproken dagen in beslag zouden nemen. Mythos was het eerste AI-model dat met succes een 32-stappensimulatie voltooide van een door AISI gecreëerde cyberaanval, waarmee de uitdaging in drie van de tien pogingen werd opgelost.
AISI zei dat Mythos in staat lijkt om autonoom kleine, zwak verdedigde IT-systemen aan te vallen, maar het kan niet met zekerheid zeggen of het goed verdedigde systemen kan aanvallen omdat de tests beveiligingsfuncties zoals defensieve hulpmiddelen missen.
De AISI-blogpost werd afgesloten met een waarschuwing dat toekomstige geavanceerde AI-modellen alleen maar zullen verbeteren op Mythos, dus “nu investeren in cyberdefensie is essentieel”.
De Britse toezichthouders zullen de kwestie van de risico’s van Mythos de komende weken aankaarten bij de chefs en functionarissen van de Britse banken. De Cross Market Operational Resilience Group (CMorg), bestaande uit topbestuurders en functionarissen van het ministerie van Financiën, de Bank of England, de Financial Conduct Authority en het National Cyber Security Centre, zal binnen de komende twee weken bijeenkomen.
De Bank of England, die de communicatie over Cmorg afhandelt, weigerde commentaar te geven.
