Op 23 januari, buiten een basisschool in Santa Monica, Californië, een Waymo-voertuig raakte een kind.
Dat weten wij zeker.
Het klinkt schokkend, zelfs gruwelijk. En het geeft al voldoende groepsdekking om het in Californië te claimen Waymo’s licentie intrekken om zijn auto’s te besturen.
Maar de details zijn belangrijk. En als je eenmaal een beetje begint te graven, is de enge kop over een kind dat werd geraakt door een harteloze robot duidelijk niet het hele verhaal.
In feite bieden dit soort ongelukken een lens waardoor het rijgedrag van zowel mensen als robots kan worden verbeterd – en zelfs levens kunnen worden gered.
Remt hard
De details van het incident in Santa Monica zijn nog steeds niet bekend. Zoals bij elk mogelijk veiligheidsincident waarbij een zelfrijdende auto betrokken is, De National Highway Transportation Safety Administration doet actief onderzoek.
Die studie – ook een vrijwillige verklaring van Waymo– onthult al veel nuances.
Het lijkt erop dat het incident plaatsvond tijdens het afleveren van de SoCal-school. Een Waymo-voertuig lijkt te hebben gereden tussen voertuigen van ouders die hun kinderen afleverden.
Zoals vaak gebeurt tijdens stressvolle schooluitval (ik heb drie kinderen, dus geloof me, ik weet het!), stond een grote SUV dubbel geparkeerd en blokkeerde een deel van de rijbaan.
Toen Waymo de dubbel geparkeerde SUV naderde, rende een kind achter de SUV vandaan de rijbaan op, direct voor de Waymo.
Het volgende stuk is cruciaal. Waymo zegt dat zijn voertuig “… hard remde en de snelheid verlaagde van ongeveer 30 km / u tot minder dan 10 km / u voordat er contact werd gemaakt.”
Waymo specificeert niet de exacte afstanden. Maar als je in een fractie van een seconde 11 km/u daalt, is dat een druk op de rem, en geen zachte vertraging. Het is een agressieve zet. En misschien heeft het wel een leven gered.
Waymo zegt dat – omdat het voertuig slechts 10 km per uur reed toen het contact maakte met het kind – de voetganger ‘onmiddellijk opstond’ en ‘op eigen kracht naar het trottoir liep’.
Waymo belde 911 en meldde het incident bij de autoriteiten. Het bedrijf zei aanvankelijk dat het kind ‘lichte verwondingen’ had opgelopen, maar het is niet duidelijk wat voor verwondingen er daadwerkelijk zijn opgetreden.
Het probleem met mensen
Voor alle duidelijkheid: elke keer dat een kind door een auto wordt aangereden, is dit een gruwelijk incident. Het is goed dat NHTSA onderzoek doet. Als ouder leef ik mee met de betrokken ouders: het moet angstaanjagend zijn om te zien hoe je kind door een voertuig wordt aangereden.
Maar voordat er bredere conclusies worden getrokken over de veiligheid van zelfrijdende auto’s, is het belangrijk om na te denken over de vraag: “Zou een menselijke bestuurder deze situatie beter hebben aangepakt?”
SafeKids, een belangenorganisatie, meldt dat tussen 2013 en 2022 bijna 200 schoolgaande kinderen kwamen om bij schoolongevallen.
En dat zijn nog maar kinderen. Dagen vóór het Waymo-incident, twee ouders kwamen om op een zebrapad nadat ze hun kind hadden afgezet bij een andere school in Californië.
Waarom sterven zoveel mensen op weg naar school? Snelheid en afleiding zijn de twee grootste factoren.
Dat meldt SafeKids Maar liefst 10% van de automobilisten wordt afgeleid tijdens het rijden in schoolzones – meestal met telefoons en andere apparaten.
3% van de door de groep geobserveerde automobilisten werd zelfs gezien tegelijkertijd twee apparaten gebruiken– misschien aan het spelen met een Bluetooth-headset terwijl ze ook proberen hun kind op school aan te melden op hun mobiele telefoon.
En de meeste schoolzones, zo meldt de groep, hebben snelheidslimieten die veel te hoog zijn: minder dan 30 km/uur is ideaal, maar de meeste zijn 40 km/uur+
Niet dat automobilisten hen volgen, dat blijkt uit andere gegevens wanneer automobilisten kinderen in schoolzones aanrijden, rijden ze gemiddeld 44 kilometer per uur.
Met andere woorden: menselijke chauffeurs maken talloze fouten. Vooral met de stress van het verkeer en de druk om de gevreesde “late pass” te vermijden, is het voor ouders maar al te gemakkelijk om te hard te rijden en hun ogen van de weg te halen tijdens drop-offs.
Helaas, als er kinderen bij betrokken zijn – met hun neiging om de weg op te schieten, zoals gebeurde in Santa Monica – betekent deze combinatie van snelheid en afleiding dat mensen sterven.
Erger met een persoon?
Opnieuw roept het, in de context van het Waymo-incident, de vraag op of één persoon het beter zou hebben gedaan dan één AI-aangedreven robot.
Laten we even aannemen dat er een mens achter het stuur van het voertuig zat in Santa Monica. Wat had anders kunnen gaan?
De gemiddelde menselijke reactietijd tijdens het autorijden is ongeveer ¾ van een seconde. Toen het kind de weg op schoot, betekent dit dat hun auto – die met een snelheid van 27 km/u reed – ongeveer 6 meter zou hebben gereden voordat de bestuurder zelfs maar de aanwezigheid van een voetganger zou waarnemen.
Misschien hadden ze meteen op de rem getrapt. Maar NHTSA zegt het zelf de meeste mensen niet. Of het nu komt door een verrassing of simpelweg door een vertraging in de verwerking: chauffeurs gaan voortdurend langzamer rijden, zelfs bij potentieel dodelijke ongelukken.
Met een persoon achter het stuur is het dus waarschijnlijk dat het kind in Santa Monica met een veel hogere snelheid zou zijn aangereden.
Waymo zegt dat zijn eigen onafhankelijke modellen aantonen dat “een volledig alerte menselijke bestuurder in dezelfde situatie met een snelheid van ongeveer 24 km/uur contact zou hebben gemaakt met de voetganger.”
En nogmaals, de meeste chauffeurs in schoolzones letten niet “volledig op”. Zoals SafeKids opmerkt, zijn ze afgeleid, gehaast en te hard.
Waymos zijn zeker niet perfect. Maar zij volg consequent de snelheidslimieten – soms tot een fout.
En omdat ze voortdurend de weg scannen, reageren ze sneller dan mensen – en trappen ze hard op de rem als ze iets zien zelfs op afstand zorgwekkend. Ze controleren nooit hun telefoons of probeer te scheren terwijl hij passagiers rondvoert.
Wanneer een robot van 5.000 een kind plaatst, bestaat er een natuurlijke menselijke neiging om de robot te belasteren. Maar in dit specifieke geval is de vraag of iemand het beter had kunnen doen verre van duidelijk.
Optimaliseren voor veiligheid
Dit betekent niet dat we zelfrijdende voertuigen moeten kruisigen – en ook niet dat we ze vrij moeten laten.
Het onderzoek van de NHTSA zal waarschijnlijk neerkomen op één vraag: niet of Waymo het bij dit incident beter deed dan een mens, maar eerder of zelfrijdende auto’s meer zouden kunnen doen om kinderen veilig te houden in de buurt van scholen.
NHTSA zegt zelfs dat het specifiek onderzoekt “of de Waymo AV de nodige voorzichtigheid heeft betracht, onder meer gezien de nabijheid van de basisschool tijdens de drop-off-tijden en de aanwezigheid van jonge voetgangers en andere potentieel kwetsbare weggebruikers.”
Gegeven het feit dat Waymos kan worden geprogrammeerd om zich onder specifieke omstandigheden op een bepaalde manier te gedragen – en dit consequent zal doen zodra de parameters zijn ingesteld – bieden ze een unieke kans om nog hogere veiligheidsnormen te stellen dan we voor mensen hanteren.
Nogmaals, SafeKids zegt dat de meeste schoolzones snelheidslimieten hebben boven het ideaal van 20 km/u. Er is echter geen reden waarom Waymo hun auto’s niet zou kunnen programmeren om consequent met lagere snelheid te rijden wanneer ze zich in een schoolgebied bevinden om opgehaald of afgezet te worden.
Misschien kon Waymos altijd 24 km/uur rijden als hij een actieve schoolzone overstak.
Het kan een vergissing zijn als ouders langs de ophaallijn navigeren, maar het zou de kinderen veiliger houden in geval van een ongeluk. Waymos in de buurt van scholen zouden zelfs als transportmiddel kunnen dienen “verkeersremmend” apparaten die afgeleide, ongeduldige menselijke bestuurders achter zich dwingen om ook langzamer te gaan rijden!
Op dezelfde manier zou Waymo parameters kunnen instellen die hun voertuigen instrueren om te vertragen tot een kruipsnelheid wanneer ze een dubbel geparkeerde auto nabij een school naderen. SafeKids wijst specifiek op dubbel parkeren als een belangrijke risicofactor voor ongevallen nabij scholen.
Gelukkig – of het nu te wijten was aan Waymo’s briljante rijgedrag (volgens het bedrijf) of dom geluk – eindigde dit incident toen een kind levend wegliep. Maar dat is geen reden om te ontkennen wat er is gebeurd.
In plaats daarvan bieden incidenten als deze een unieke kans om maatschappelijke regels te definiëren voor uitdagende omstandigheden, zoals het rijden in de buurt van kinderen – en deze vervolgens te programmeren in een machine die (in tegenstelling tot mensen) deze daadwerkelijk zal volgen.
Het stellen van de moeilijke vragen die nodig zijn om deze richtlijnen vast te stellen – en vasthouden aan de realiteit dat enge gebeurtenissen ook leerervaringen zijn – is veel moeilijker dan simpelweg de robots de schuld te geven en terug te keren naar de door mensen aangedreven status quo.
Maar omdat er elk jaar kinderen sterven in schoolgebieden, is het leren van de juiste lessen uit dit soort ongelukken van cruciaal belang – zelfs levensreddend.
