Wat gebeurt er als de software die iedereen probeert te adopteren voor niemand te riskant wordt om te verzekeren? Volgens berichtgeving uit de Financial Timeswe staan op het punt om erachter te komen.
Grote verzekeraars, waaronder AIG, Great American en WR Berkley, vragen de Amerikaanse toezichthouders om toestemming om AI-gerelateerde verplichtingen uit te sluiten van bedrijfsbeleid. Eén verzekeraar beschrijft de output van de AI-modellen aan de FT als ‘een te grote zwarte doos’.
De sector heeft goede redenen om ongerust te zijn, zo herinnert de geschiedenis ons eraan. In het AI-overzicht van Google werd ten onrechte een zonne-energiebedrijf beschuldigd van juridische problemen, wat leidde tot een 110 miljoen dollar proef in maart. Air Canada stopte vorig jaar met het toekennen van een korting chatbot uitgevonden. En fraudeurs gebruikten vorig jaar een digitaal gekloonde versie van een topbestuurder om te stelen 25 miljoen dollar van het in Londen gevestigde ontwerpingenieursbureau Arup tijdens een videogesprek dat volkomen echt leek.
Wat verzekeringsmaatschappijen echt bang maakt, is niet één enorme uitbetaling; het is het systeemrisico van duizenden gelijktijdige claims wanneer er een wijdverbreid AI-model in komt. Zoals een topman van Aon het uitdrukte: verzekeraars kunnen een verlies van $400 miljoen voor één bedrijf verwerken. Wat ze niet aankunnen is een AI-crash van een agent, waarbij in één keer 10.000 slachtoffers vallen.
