Een nieuw onderzoek door senator Ed Markey heeft de schijnwerpers gezet op de menselijke werknemers die achter de schermen opereren bij zelfrijdende autobedrijven als Waymo, Tesla en Zoox. Hoewel veel van deze bedrijven benadrukken dat ze de meeste aspecten van het autorijden willen automatiseren, vertrouwen ze nog steeds op mensen om deze auto’s te helpen wanneer hun software in verwarrende situaties terechtkomt – of faalt.
Het onderzoek begon begin februari en werd geleid door Markey, die bijzondere belangstelling heeft getoond voor de zelfrijdende auto-industrie. Het onderzoek omvatte het sturen van brieven naar zeven bedrijven die aan autonome voertuigen werken – Aurora, May Mobility, Motional, Nuro, Tesla, Waymo en Zoox – met gedetailleerde vragen over wanneer en hoe zij menselijke afstandsbedieningen of assistenten inzetten.
Geen van de zeven bedrijven waarmee het kantoor van Markey contact heeft opgenomen, was bereid te vertellen hoe vaak menselijke werknemers hun autonome voertuigen moeten helpen zichzelf te heroriënteren, zo bleek uit het onderzoek van Markey. Uit het onderzoek van het bureau bleek ook dat Waymo het enige zelfrijdende voertuigbedrijf is dat afhankelijk is van werknemers buiten de Verenigde Staten om het aandrijfsysteem te ondersteunen, en dat het het enige bedrijf is dat een groot deel van de werknemers in dienst heeft die deze rol vervullen zonder een Amerikaans rijbewijs.
“Mijn onderzoek bracht een breed scala aan problematische praktijken aan het licht”, zei Markey in een verklaring, “van werknemers die voertuigen uit het buitenland assisteren tot grote variaties in communicatievertragingen tussen voertuigen en menselijke operators.”
Het gebruik van voertuigassistenten op afstand roept verschillende zorgen op, waaronder problemen met de latentie en het gebrek aan consistente normen in de opkomende zelfrijdende industrie. Een ander punt van zorg is de vermoeidheid van operators op afstand en het risico dat zij een robotas kunnen misleiden of gevaarlijk gedrag kunnen laten vertonen. Stadsbestuurders in steden als San Francisco maken zich ook zorgen over ongeplande stops en de impact daarvan op het lokale verkeer en noodsituaties.
Een recente Snel bedrijf inspectiedat tientallen rapporten analyseerde die waren ingediend door exploitanten van openbaar vervoer in San Francisco, benadrukte ook de bezorgdheid over de kwaliteit van de callcenters die door overheidsfunctionarissen worden gebruikt om die bedrijven te bereiken, inclusief externe teams die geacht worden te reageren op noodsituaties wanneer hun technologie een probleem heeft. De Snel bedrijf Het onderzoek bracht ook het probleem van ongeplande stops aan het licht, waarvoor mogelijk de tussenkomst van een Waymo-afstandsbediening, iemand van het incidentteam van het bedrijf of zelfs een eerstehulpverlener van de stad nodig is.
Belangrijk is dat deze bedrijven vaak benadrukken dat hun software niet is ontworpen voor het op afstand besturen van voertuigen. In plaats daarvan beweren bedrijven dat teams voor hulp op afstand slechts softwareadvies geven, en zij benadrukken dat dit voor voertuigen ook mogelijk is negeren context of suggesties van externe teams. In hun brieven aan het kantoor van Markey, die de basis vormden van het onderzoek, verdedigden velen hun benadering van operaties op afstand of gingen terug op Markey’s karakterisering van de risico’s.
Toch schreef Markey dinsdag een brief aan de National Highway Traffic Safety Administration (NHTSA) waarin hij er bij de dienst op aandrong een verder onderzoek in te stellen. In zijn brief erkende Markey dat operators op afstand inderdaad AV’s kunnen helpen veilig te werken, maar dat ze onvoldoende toezicht en waarborgen ontberen. “Deze bevindingen laten een industrie zien die zeer ondoorzichtig is over haar afhankelijkheid van menselijke operators, die resistent is tegen zinvolle verantwoordelijkheid en dringend behoefte heeft aan federaal toezicht”, schreef hij, verwijzend naar zijn onderzoek.
Hij is van plan binnenkort wetgeving voor te stellen die zich richt op de menselijke operators die betrokken zijn bij de zelfrijdende auto-industrie. Markey was eerder mede-sponsor van wetsvoorstellen die zouden beperken waar zelfrijdende auto’s kunnen opereren, en bekritiseerde deze bedrijven tijdens een recente hoorzitting over autonome voertuigen.
