De enorme cloud computing-tak van Amazon heeft naar verluidt minstens twee storingen ervaren als gevolg van zijn eigen kunstmatige-intelligentietools, wat vragen oproept over de prestaties van het bedrijf. AI omarmen omdat het menselijke werknemers ontslaat.
Opnieuw een onderbreking van 13 uur Amazone Web Services (AWS)-operaties in december werden veroorzaakt door een AI-agent, Kiro, die er autonoom voor koos om een deel van zijn omgeving te “verwijderen en vervolgens opnieuw te creëren”, meldde de Financial Times.
AWS, dat de vitale infrastructuur voor een groot deel van het internet levert, kreeg te maken met verschillende problemen resultaat vorig jaar.
Een incident in oktober zorgde ervoor dat tientallen websites urenlang plat lagen en leidde tot discussie over de concentratie van onlinediensten op de infrastructuur die eigendom was van enkele grote bedrijven. AWS heeft 189 Britse overheidscontracten binnengehaald ter waarde van £1,7 miljard. sinds 2016. Dat meldde The Guardian in oktober.
De door AI veroorzaakte storingen waren kleine gebeurtenissen, aldus het bedrijf, en slechts één daarvan had gevolgen voor de klantgerichte diensten.
Amazone bevestigde plannen om 16.000 banen te schrappen in januari, daarna 14.000 werknemers ontslagen Oktober vorig jaar. In januari zei CEO Andy Jassy dat de bezuinigingen te maken hadden met de bedrijfscultuur en niet met het vervangen van werknemers door AI.
Jassy heeft dat echter wel gedaan vorig zei dat de efficiëntie van AI het personeelsbestand van Amazon de komende jaren zal verminderen, en dat AI-agenten het bedrijf in staat zullen stellen “zich minder te concentreren op het routinewerk en meer op strategisch nadenken over hoe de klantervaringen kunnen worden verbeterd”.
In een verklaring aan de Financial Times zei Amazon dat het toeval was dat AI-tools betrokken waren bij de storingen en dat er geen bewijs was dat dergelijke technologie tot meer fouten leidde dan menselijke ingenieurs. “In beide gevallen was dit een gebruikersfout en geen AI-fout”, aldus het rapport.
Amazon vertelde de Guardian dat er slechts één incident was dat AWS had getroffen, in plaats van twee.
Verschillende deskundigen stonden sceptisch tegenover deze beoordeling. Een beveiligingsonderzoeker, Jamieson O’Reilly, zei: “Hoewel technische fouten veroorzaakt door traditionele hulpmiddelen en mensen geen zeldzame gebeurtenis zijn, is het verschil tussen deze en ongelukken met AI dat ‘zonder’ AI een mens doorgaans handmatig een reeks instructies moet typen, en terwijl hij dat doet, heeft hij veel meer tijd om zijn eigen fout te beseffen.”
AI-agenten worden vaak ingezet in beperkte omgevingen en voor specifieke taken, zegt O’Reilly, en kunnen de bredere implicaties van bijvoorbeeld het opnieuw opstarten van een systeem of het verwijderen van een database niet begrijpen – wat mogelijk tot de mislukking bij Amazon heeft geleid.
“Ze hebben geen volledig inzicht in de context waarin ze actief zijn, hoe uw klanten hierdoor getroffen kunnen worden of wat de kosten van downtime op dinsdag om 02.00 uur kunnen zijn”, zei hij.
“Je moet deze tools voortdurend aan de context herinneren: ‘Hé, dit is serieus, prop dit niet vol’. En als je dit niet doet, begint het alle andere gevolgen te vergeten.”
Vorig jaar een AI-agent het ontwerp van technologiebedrijf Replit om een app te bouwen, heeft een hele bedrijfsdatabase verwijderd, rapporten verzonnen en vervolgens over zijn acties gelogen.
Michał Woźniak, een cybersecurity-expert, zei dat het voor Amazon vrijwel onmogelijk zou zijn om volledig te voorkomen dat interne AI-agenten in de toekomst fouten maken, omdat AI-systemen onverwachte keuzes maken en uiterst complex zijn.
“Amazon laat nooit een kans voorbijgaan om naar ‘AI’ te wijzen als dat nuttig voor hen is – zoals in het geval van massaontslagen die worden voorgesteld als vervanging van ingenieurs door AI. Maar als een slopgenerator betrokken is bij een storing, is het opeens gewoon ‘toeval’”, voegde hij eraan toe.
Een woordvoerder van Amazon zei: “Dit korte incident was het resultaat van een gebruikersfout – met name verkeerd geconfigureerde toegangscontroles – en niet van AI.”
Ze zeiden dat de “serviceverstoring vorig jaar een uiterst beperkte gebeurtenis was” toen een tool die werd gebruikt om de kosten voor zijn klanten te visualiseren in delen van China werd getroffen.
Ze voegden eraan toe: “Deze gebeurtenis had geen invloed op de computer-, opslag-, database-, AI-technologieën of andere van de honderden services die we gebruiken.
“Naar aanleiding van deze incidenten hebben we verschillende aanvullende beveiligingsmaatregelen geïmplementeerd, waaronder verplichte peer review voor productietoegang. Kiro geeft ontwikkelaars de controle: gebruikers moeten configureren welke acties Kiro kan uitvoeren, en Kiro vraagt standaard om autorisatie voordat er actie wordt ondernomen.”
