De Amerikaanse minister van Financiën, Scott Bessent, heeft deze week grote Amerikaanse bankchefs bijeengeroepen voor een bijeenkomst in Washington, vanwege bezorgdheid over de cyberrisico’s die het nieuwste AI-model van Anthropic met zich meebrengt, zo blijkt uit rapporten.
Jerome Powell, voorzitter van de Rederal Reserve, zou een van de aanwezigen zijn geweest op het hoofdkantoor van het ministerie van Financiën voor de bijeenkomst na de release van het AI-model van Claude Mythos, dat door Anthropic zeggen dat ze ongekende cyberveiligheidsrisico’s met zich meebrengen.
Een recent lek van Claude’s code was de aanleiding voor het opstarten om een blogpost te publiceren aan het begin van de maand en zei dat AI-modellen beter hadden gepresteerd dan “alle mensen behalve de meest bekwame mensen in het vinden en exploiteren van softwarekwetsbaarheden”, en voegde eraan toe: “De uitkomst – voor de economieën, de openbare veiligheid en de nationale veiligheid – zou ernstig kunnen zijn.”
De bijeenkomst van deze week werd naar verluidt bijeengeroepen terwijl de bankdirecteuren al in Washington waren voor een bijeenkomst van de lobbygroepen, met een gastenlijst gericht op de hoofden van zogenaamde systeemrelevante banken – wat betekent dat toezichthouders geloven dat een grote verstoring van hun activiteiten of hun potentiële ineenstorting de financiële stabiliteit in gevaar zou brengen.
Onder de aanwezigen waren onder meer David Solomon, CEO van Goldman Sachs, Brian Moynihan van Bank of America, Jane Fraser van Citigroup, Ted Pick van Morgan Stanley en Charlie Scharf, CEO van Wells Fargo. volgens Bloombergdie als eerste de details van de bijeenkomst rapporteerde. Jamie Dimon van JP Morgan was uitgenodigd, maar kon niet aanwezig zijn.
In een jaarlijkse brief aan de aandeelhouders, die deze week verschijnt, schrijft Dimon waarschuwde ervoor cyberveiligheid “een van onze grootste risico’s blijft”, en dat “AI dit risico vrijwel zeker zal verergeren”.
Anthropic heeft gezegd dat het nog uit te brengen Mythos-model duizenden kwetsbaarheden in software en populaire applicaties heeft blootgelegd, wat het ertoe heeft aangezet om limiet vrijgave van het nieuwe model aan een kleine groep bedrijven, waaronder Amazon, Apple en Microsoft.
Dit is de eerste keer dat Anthropic de release van een product beperkt. Netwerkbedrijven Cisco en Broadcom hebben ook toegang gekregen, samen met de Linux Foundation, die het gratis, open-source Linux-computerbesturingssysteem promoot.
Het nieuws komt te midden van zorgen dat hackers dergelijke tools uiteindelijk zouden kunnen gebruiken om wachtwoorden te achterhalen of encryptie te kraken die bedoeld is om gegevens veilig te houden. Het bedrijf zei dat de oudste van de door Mythos onthulde kwetsbaarheden tot 27 jaar oud waren, en dat geen van deze door de makers of technische monitoren zou zijn opgemerkt voordat ze door de AI-modus werden geïdentificeerd.
De bijeenkomst komt weken nadat de Amerikaanse regering Anthropic heeft aangewezen als een risico voor de toeleveringsketenbeweert dat Anthropic voor de rechtbank vecht.
De Federale ReserveAnthropic en de Amerikaanse banken hebben verzoeken om commentaar van Bloomberg afgewezen. Het ministerie van Financiën heeft niet gereageerd op het verzoek van de nieuwszender om commentaar.
