Afgelopen weekend viel bij een stroomstoring in San Francisco een aantal verkeerslichten uit, waardoor een aantal zelfrijdende Waymo-robottaxi’s in een soort gezamenlijke modus kwamen te staan. In plaats van te rijden, reageerden sommige Waymo’s op deze nu analoge kruispunten door hun alarmlichten aan te zetten, het verkeer te blokkeren en, nou ja, niets te doen. Er waren verschillende voorbeelden van Waymo-auto’s die de wegen verstopten en futuristische technologie in verheerlijkte verkeerspalen veranderden. De stad vroeg het bedrijf er snel om uitschakelen de dienst.
Het directe probleem is opgelost: de stroom is weer ingeschakeld en de Waymo-dienst is vanaf zondag hervat in San Francisco. Maar er zijn vragen over de vraag of Waymo of de stad een plan hadden voor een relatief voorspelbaar soort gemeentelijke noodsituatie – een stroomuitval die communicatienetwerken verlamt – of hoe ze zich nu aanpassen.
Een van de geweldige oplossingen voor AI mislukkingen is veel besproken mens in de lus. Het idee: op een bepaald punt in een geautomatiseerd proces – of het nu gaat om een screeningsysteem voor sollicitaties of krachtige algoritmen voor zelfrijdende auto’s – hebben mensen de mogelijkheid om tussenbeide te komen en de moeilijke dingen op te lossen die AI niet aankan. AI begrijpt niet elke complexe situatie, luidt de logica. Er zijn dus beveiligingen ingebouwd in een systeem om ervoor te zorgen dat een echt levend persoon op een gegeven moment een geautomatiseerd systeem weer op de rails kan zetten.
Het probleem is, zoals recente gebeurtenissen hebben aangetoond, dat deze betrokken mens soms niet altijd de telefoon opneemt. Of kan niet.
Het afgelopen weekend moest een team voor assistentie op afstand de auto’s helpen navigeren toen ze in een verwarrende verkeerssituatie terechtkwamen, legt een woordvoerder van Waymo uit. Maar de netwerken waren overweldigd vanwege de stroomstoring, waardoor het voor de Waymo Driver-software in sommige auto’s moeilijk was om verbinding te maken met dat team en bevestigingen te ontvangen.
Waymo-woordvoerder Ethan Teicher vertelt Snel bedrijf dat het bedrijf prioriteit geeft aan veiligheid en zijn paraatheids- en responsprotocollen regelmatig test en verfijnt. Hij verdedigt ook de reactie van het bedrijf op andere noodsituaties, waaronder orkaan Helene in Atlanta en eerdere tsunami-waarschuwingen in San Francisco.
“We streven naar voortdurende verbetering en zullen de lessen die we uit het weekend hebben geleerd gebruiken om onze veerkracht te versterken, zelfs in de meest uitdagende omstandigheden”, zegt Teicher. “Voordat we een stad binnengaan, proberen we inzicht te krijgen in de soorten problemen die de regio beïnvloeden.”
