Een van hen De beweerde voordelen van zelfrijdende autotechnologie zijn dat elke auto kan leren van de fouten van een voertuig. Dit is hoe je het doet Waymo zet het aan zijn website: “De Waymo-chauffeur leert van de collectieve ervaring die is opgedaan in ons wagenpark, inclusief eerdere hardwaregeneraties.”
Maar in Austin hadden de voertuigen van Waymo maandenlang moeite om te leren stoppen voor schoolbussen terwijl chauffeurs kinderen ophaalden en afzetten. Een ambtenaar van het Austin Independent School District (AISD) zogenaamd dat de voertuigen bij minstens 19 gelegenheden “illegaal en gevaarlijk” de schoolbussen van het district waren gepasseerd met knipperende rode lichten en uitgestrekte remarmen in plaats van volledig tot stilstand te zijn gekomen, zoals vereist door de wet.
Begin december vaardigde Waymo zelfs een federale terugroepactie uit met betrekking tot de incidenten, waarbij hij op zijn minst erkende 12 van hen aan federale toezichthouders bij de National Highway Traffic Safety Administration (NHTSA), die toezicht houdt op de verkeersveiligheid. Volgens federale documenten hadden ingenieurs van het zelfrijdende voertuigbedrijf weken eerder ‘softwarewijzigingen ontwikkeld om het gedrag aan te pakken’.
Maar zelfs na de terugroepactie gingen de incidenten met schoolbussen door, volgens schoolambtenaren een rapport van de National Transportation Safety Board (NTSB), een onafhankelijke federale veiligheidswaakhond die ook de situatie onderzoekt.
Nu laten e-mails en sms-berichten tussen schoolambtenaren en Waymo-vertegenwoordigers, verkregen door WIRED via een verzoek om openbare registers, zien in hoeverre het Austin Public School District en Waymo probeerden het probleem op te lossen. AISD organiseerde half december zelfs een evenement van een halve dag voor het verzamelen van gegevens op een parkeerplaats van een school, zo blijkt uit de documenten. Hierbij verzamelden verschillende medewerkers schoolbussen en stoparmsignalen uit het hele wagenpark, zodat het zelfrijdende autobedrijf informatie kon verzamelen over voertuigen en hun zwaailichten.
Nog half januari, ruim een maand later, meldde het schooldistrict dat er in Austin nog minstens vier passeerincidenten met schoolbussen hadden plaatsgevonden. “Uit de gegevens die we vanaf het begin van het schooljaar tot het einde van het semester hebben verzameld, blijkt dat ongeveer 98 procent van de mensen die de ene overtreding begaan, geen andere ontvangt”, zegt een ambtenaar bij de schoolpolitie. vertelde het lokale NBC-filiaal die maand. “Het vertelt ons dat de persoon aan het leren is, maar het lijkt er niet op dat het automatische Waymo-stuurprogramma leert via de software-updates, het terugroepen ervan, wat heb je, omdat we nog steeds overtredingen hebben.”
De situatie roept vragen op over de merkwaardige blinde vlekken van zelfrijdende technologieën en het vermogen van de industrie om deze te compenseren, zelfs nadat ze zijn ontdekt.
Zelfrijdende software heeft lange tijd moeite gehad met erkenning knipperende noodverlichting en verkeersveiligheidsapparatuur met lange, dunne armen, inclusief hekken en stoparmen, zei Missy Cummings, die onderzoek doet naar autonome voertuigen aan de George Mason University en tijdens de regering-Biden als NHTSA-veiligheidsadviseur fungeerde. “Als (het bedrijf) dit een paar jaar geleden niet heeft opgelost, hoe meer ze rijden, hoe groter het probleem zal worden”, zegt ze. “Dat is precies wat hier gebeurt.”
Waymo reageerde niet op de verzoeken van WIRED om commentaar. Een woordvoerder van het Austin Independent School District verwees WIRED naar de NTSB terwijl de incidenten worden onderzocht. Een NTSB-woordvoerder weigerde de vragen van WIRED te beantwoorden terwijl het onderzoek voortduurt.
Illegaal passeren
Halverwege de winter van 2025 waren AISD-functionarissen gefrustreerd. In een van de 19 incidenten die door een advocaat van het district worden beweerd in een brief later vrijgegeven door federale verkeersveiligheidsfunctionarissen, passeerde een Waymo een schoolbus en zette kinderen af ”slechts enkele ogenblikken nadat een student voor het voertuig was overgestoken en terwijl de student nog onderweg was.”
“Alarmerend”, schreef de advocaat, vonden vijf van de vermeende incidenten plaats nadat Waymo het district had verzekerd dat het zijn software had bijgewerkt om het probleem op te lossen. Federale toezichthouders met NHTSA hadden dat wel al een onderzoek gestart in het gedrag. “Austin ISD evalueert alle mogelijke rechtsmiddelen waarover het beschikt en is van plan alle noodzakelijke stappen te ondernemen om de veiligheid van zijn studenten te beschermen, indien nodig”, waarschuwde de advocaat.
