Consumenten en het Britse financiële systeem worden geconfronteerd met “ernstige schade” als gevolg van de maatregelen van de overheid Bank van Engeland om grip te krijgen op de risico’s van kunstmatige intelligentie, waarschuwde een invloedrijke parlementaire commissie.
In een nieuw rapport bekritiseren parlementsleden van de financiële commissie onder meer ministers en gemeentelijke toezichthouders Autoriteit voor financieel gedrag (FCA), om een afwachtende houding aan te nemen ten aanzien van het gebruik van kunstmatige intelligentie in de financiële sector.
Dat ondanks dreigende zorgen over hoe de opkomende technologie de toch al kwetsbare consumenten zou kunnen benadelen zelfs een financiële crisis veroorzakenals AI-geleide bedrijven uiteindelijk soortgelijke economische beslissingen zullen nemen als reactie op economische schokken.
Meer dan 75% van de bedrijven in de stad maakt nu gebruik van kunstmatige intelligentiewaarbij verzekeringsmaatschappijen en internationale banken tot de grootste gebruikers behoren. Het wordt gebruikt om administratieve taken te automatiseren of zelfs te helpen bij kernactiviteiten, waaronder het verwerken van verzekeringsclaims en het beoordelen van de kredietwaardigheid van klanten.
Maar Groot-Brittannië is er niet in geslaagd specifieke wetten of regels te ontwikkelen om het gebruik van kunstmatige intelligentie te regelen, waarbij de FCA en de Bank of England beweren dat algemene regels voldoende zijn om positieve resultaten voor consumenten te garanderen. Het betekent dat bedrijven zullen moeten beslissen hoe de bestaande richtlijnen van toepassing zijn op kunstmatige intelligentie, waardoor parlementsleden bang zijn dat dit de consumenten en de financiële stabiliteit in gevaar kan brengen.
“Het is de verantwoordelijkheid van de Bank of England, de FCA en de regering om ervoor te zorgen dat de waarborgen in het systeem gelijke tred houden”, zegt Meg Hillier, voorzitter van de financiële commissie. “Op basis van het bewijsmateriaal dat ik heb gezien, heb ik er geen vertrouwen in dat ons financiële systeem voorbereid is als er zich een groot AI-gerelateerd incident zou voordoen, en dat is zorgwekkend.”
Het rapport wees op een gebrek aan transparantie over de manier waarop kunstmatige intelligentie financiële beslissingen zou kunnen beïnvloeden, wat mogelijk de toegang van kwetsbare consumenten tot leningen of verzekeringen zou kunnen aantasten. Het zei dat het ook onduidelijk was of dataproviders, technologieontwikkelaars of financiële bedrijven aansprakelijk zouden worden gehouden als er iets mis zou gaan.
Kamerleden zeiden dat AI ook de waarschijnlijkheid en prevalentie van fraude vergroot ongereguleerd en misleidend financieel advies.
Wat de financiële stabiliteit betreft, constateerden parlementsleden dat het toenemende gebruik van kunstmatige intelligentie de cyberveiligheidsrisico’s van bedrijven vergroot, waardoor ze voor essentiële diensten te afhankelijk worden van een klein aantal Amerikaanse technologiebedrijven, zoals Google. De opname ervan zou ook het ‘kuddegedrag’ kunnen versterken, waarbij bedrijven soortgelijke financiële beslissingen nemen tijdens economische schokken en ‘een financiële crisis riskeren’.
Het ministerie van Financiën dringt er nu bij de toezichthouders op aan om actie te ondernemen, waaronder de lancering van nieuwe stresstests die zullen beoordelen of de stad klaar is voor door AI aangestuurde marktschokken. Kamerleden willen ook dat de FCA vóór het einde van het jaar ‘praktische richtlijnen’ publiceert, waarin wordt verduidelijkt hoe de regels voor consumentenbescherming van toepassing zijn op het gebruik van kunstmatige intelligentie en wie aansprakelijk wordt gehouden als consumenten schade lijden.
“Door een afwachtende houding aan te nemen ten aanzien van kunstmatige intelligentie in de financiële dienstverlening stellen de drie autoriteiten consumenten en het financiële systeem bloot aan potentieel ernstige schade”, aldus het rapport.
De FCA zei dat het al “uitgebreid werk heeft verricht om ervoor te zorgen dat bedrijven AI op een veilige en verantwoorde manier kunnen gebruiken”, maar dat het de bevindingen van het rapport “zorgvuldig” zou beoordelen.
Een woordvoerder van het ministerie van Financiën zei: “Het is ons duidelijk geworden dat we de juiste balans zullen vinden tussen het beheersen van de risico’s van AI en het ontsluiten van het enorme potentieel ervan.”
Ze voegden eraan toe dat dit inhield dat we moesten samenwerken met toezichthouders om “onze aanpak te versterken naarmate de technologie evolueert” en dat we nieuwe “AI-kampioenen” moesten benoemen op het gebied van de financiële dienstverlening “om ervoor te zorgen dat we de kansen die deze biedt op een veilige en verantwoorde manier benutten”.
Een woordvoerder van de Bank of England zei dat zij “al actieve stappen heeft ondernomen om AI-gerelateerde risico’s te beoordelen en de veerkracht van het financiële systeem te versterken, waaronder het publiceren van een gedetailleerde risicobeoordeling en het benadrukken van de mogelijke implicaties van een scherpe daling van de door AI beïnvloede activaprijzen. We zullen de aanbevelingen van de commissie zorgvuldig overwegen en te zijner tijd volledig reageren.”
