Britse banken zullen volgende week toegang krijgen tot een krachtig hulpmiddel voor kunstmatige intelligentie dat te gevaarlijk werd geacht om aan het publiek te worden vrijgegeven, nadat een aantal vooraanstaande financiële figuren hadden gewaarschuwd voor de impact ervan.
Antropisch, wat tot nu toe het geval is beperkte uitgave van het nieuwe model aan een kleine groep van voornamelijk Amerikaanse bedrijven, waaronder Amazon, Apple en Microsoft, zei dat het het zou uitbreiden naar Britse financiële instellingen.
“Het is van zeer korte duur, in de komende week”, zei Pip White, hoofd van Anthropic’s operaties in Groot-Brittannië, Ierland en Noord-Europa, in een Bloomberg TV-interview. “Zoals je zou verwachten, was de betrokkenheid die ik de afgelopen week heb gehad van Britse CEO’s aanzienlijk.”
Anthropic, het bedrijf achter de Claude-familie van AI-tools, heeft gezegd dat zijn nieuwste model, Mythos, een ongekend risico met zich meebrengt vanwege zijn vermogen om tekortkomingen in IT-systemen aan het licht te brengen.
“AI-modellen hebben een niveau van codeervermogen bereikt waarop ze beter kunnen presteren dan alle mensen, behalve de meest bekwame mensen, bij het vinden en exploiteren van softwarekwetsbaarheden”, zei Anthropic eerder deze maand in een blogpost. “De gevolgen – voor de economieën, de openbare veiligheid en de nationale veiligheid – kunnen ernstig zijn.”
Ministers van Financiën, leidinggevenden en toezichthouders hebben de potentiële bedreigingen besproken toen ze deze week in Washington bijeenkwamen Voorjaarsbijeenkomsten van het IMF en de Wereldbankterwijl ook aandacht wordt besteed aan de zorgen over de mondiale gevolgen van de Amerikaans-Israëlische oorlog met Iran.
De Canadese minister van Financiën François-Philippe Champagne zei tegen de BBC: “Het is zeker ernstig genoeg om de aandacht van alle ministers van Financiën te rechtvaardigen… Het verschil met Straat van Hormuz is dat we weten waar het is en hoe groot het is.
“Het probleem waarmee we worden geconfronteerd met Anthropic is dat het een onbekende onbekende is. Het vereist veel aandacht, dus we hebben waarborgen en processen om ervoor te zorgen dat we de robuustheid van ons financiële systeem waarborgen.”
Andrew Bailey, de gouverneur van de Bank of England en tevens voorzitter van de Financial Stability Board van mondiale toezichthouders, zei: “Het is een zeer serieuze uitdaging voor ons allemaal. Het herinnert ons eraan hoe snel de wereld van AI beweegt.”
Hij zei echter dat toezichthouders moeten overwegen of, en hoe hard, ze hard tegen de technologie moeten optreden nu overheden proberen de economische vruchten van AI te plukken. “Wat is het optimale moment om de verkeersregels te ontwerpen?” vroeg Bailey. “Als je te vroeg gaat, loop je het risico a) het doel te missen en b) de ontwikkeling te verstoren, en als je te laat gaat, kunnen de zaken uit de hand lopen.”
Christine Lagarde, president van de Europese Centrale Bank, zei: “De ontwikkelingen die we hebben gezien met Anthropic en Mythos zijn een goed voorbeeld van een verantwoordelijk bedrijf dat plotseling denkt: ‘Oh, dit zou heel goed kunnen zijn’ – maar als het in de verkeerde handen valt, kan het heel slecht zijn.”
“Iedereen wil graag een kader hebben om binnen te opereren”, vertelde Lagarde aan Bloomberg TV. Maar ze voegde eraan toe: “Ik denk niet dat er een bestuurskader bestaat om daadwerkelijk voor deze dingen te zorgen. Daar moeten we aan werken.”
De Amerikaanse minister van Financiën, Scott Bessent, kwam bijeen Amerikaanse bankdirecteuren vorige week naar Washington om het Mythos-model te bespreken. De bijeenkomst concentreerde zich op systeemrelevante banken – waarvan toezichthouders menen dat een grote verstoring van hun activiteiten of hun mogelijke ineenstorting de financiële stabiliteit in gevaar zou brengen.
De Britse toezichthouders zullen de kwestie van de risico’s van Mythos de komende weken aankaarten bij de bankchefs en functionarissen.
Dan Katz, plaatsvervangend hoofd van het IMF en voormalig stafchef van Bessent, zei: “De ontwikkeling van digitale technologie brengt enorme risico’s met zich mee vanuit een cyberveiligheidsperspectief… dit zal echt absoluut cruciaal zijn op de internationale agenda voor de komende paar maanden.”
