Cruise "muistuttaa" Robotaxist onnettomuuden jälkeen, mutta takaisinkutsu on väärä mekanismi

Kesäkuussa San Franciscossa miehittämätöntä robottaksia liikennöivä ja palvelua laajentamassa oleva General Motorin ”Cruise”-yksikkö joutui kesäkuussa lievästi loukkaantuneeseen onnettomuuteen, kun se pysähtyi keskellä vasempaan käännöstä ja kiihtyi vastaantuleva auto. lyödä sitä kylkeen. Tämä on mielenkiintoista sekä sen suhteen, mikä meni pieleen onnettomuudessa, että myös siinä mielessä, että ohjelmistokorjaus kutsuttiin "Recall" -nimiselle kansallisen tieliikenteen turvallisuusviraston pyynnöstä.

Cruise ilmoitti tällä viikolla, että he olisivat laajentaa palveluaan San Franciscossa ja avata myös Phoenixissa ja Austinissa 2022in loppuun mennessä.

On todennäköistä, että tämä on ensimmäinen kolari, jossa ei ole mukana turvakuljettajaa, ajojärjestelmässä on jonkin verran vikaa ja kolmansien osapuolien vammoja (sekä matkustajat että toisessa ajoneuvossa olleet). Tapahtumasta on äskettäin paljastettu uusia yksityiskohtia.

Tietoja Onnettomuudesta

Cruisen ajoneuvo teki virheen, mutta toinen ajoneuvo todettiin Cruisen mukaan "syyllisimmin", koska se kulki 40 vyöhykkeellä 25 ja koska se lähestyi oikeaa kääntökaistaa, mutta ei kääntynyt. oikea siirtyi läpikulkukaistalle ja meni risteyksen läpi nopeudella. Jotkut yksityiskohdat löytyvät CA DMV -raportti. Mitään lainauksia ei annettu, mutta tapahtuma saattaa olla edelleen tutkinnan alla.

Tapahtuman rekonstruktiot viittaavat siihen, että risteilyauto toivoi kääntyvänsä vasemmalle – kuuluisa "suojaamaton vasen", jolle monet joukkueet ovat löytäneet haasteen. Prius lähestyi kaistalla, joka vaatii linja-autoja ja takseja vasempaan käännökseen, ja Risteilyauto oletti auton todella kääntyvän oikealle ja että se voisi tehdä käännöksen ensin ennen kuin Prius ehti paikalle. Prius ei ollut taksi, mutta ei tiedetä, oliko Cruise siitä varma vai perustuiko päätökset siihen. Näyttää todennäköiseltä, että risteily ennusti auton hidastuvan, jättäen aikaa kääntyä, ja aloitti vuoronsa.

Prius ei hidastanut, joten Cruisen ennustemoottori arvioi, että jos Cruise-auto jatkaisi vuoroaan ja nopea Prius myös kääntyisi, Prius törmäisi risteilyyn. Joten risteily teki sen, mitä se tuntui konservatiiviselta oikealta, eli pysähtyi jyrkästi risteyksessä, mikä salli Priuksen tehdä oikean.

Prius ei tehnyt niin. Itse asiassa se siirtyi takaisin läpikulkukaistalle ja jatkoi risteykseen. Voisi olettaa, että sen tarkoituksena oli aina mennä suoraan ja nyt on ehkä yritetty välttää risteykseen pysähtynyt auto. Se ei osunut Cruise-ajoneuvon takaosaan aiheuttaen lieviä vammoja molempiin autoihin.

Cruise myönsi heidän ohjelmistonsa toimineen väärin a ilmoitus NHTSA:lle, vaikka syyttikin onnettomuudesta Priusta sen suuresta nopeudesta ja väärästä kaistasta. Cruise Bolt olisi voinut estää onnettomuuden joko olemalla pysähtymättä ja suorittamatta vuoroaan tai olemalla yrittämättä kääntyä. Useimmat roboautot ovat konservatiivisia eivätkä ole aivan valmiita välttämään onnettomuuksia nopeuttamalla, koska se voi johtaa muihin ongelmiin.

Cruise kieltäytyi vastaamasta useimpiin tätä tapahtumaa koskeviin kysymyksiin sen lisäksi, mitä heidän ilmoituksissaan on. Kuten hakemuksessa sanotaan, että auto oli "kuljettamattomassa autonomisessa tilassa" ja risteily vahvistaa, että kyydissä ei ollut turvakuljettajaa. Poliisiraporttien mukaan Boltin takaosassa oli 3 matkustajaa (ratsastamassa ilmaiseksi), ja yksi joutui hetkeksi sairaalaan lievästi loukkaantuneena. Priuksessa oli kaksi, joita hoidettiin paikalla. Koska tämä matkustaja ei ole ilmoittanut lehdistölle, voi olla, että Cruise tarjosi tälle henkilölle kannustimia olla tekemättä niin. Risteily ei vaadi kuljettajilta lupaa.

Cruise totesi, että tämä ongelma oli hyvin harvinainen, ja se tapahtui vain kerran yli 120,000 3 suojaamattomassa vasemmassa käännöksessä. (Mutta katso alta, onko se hyvä.) XNUMX päivää myöhemmin he julkaisivat ohjelmistopäivityksen, jonka he uskovat korjaavan ongelman. He myöntävät, että heidän velvollisuutensa on tehdä enemmän onnettomuuden välttämiseksi, vaikka muut tienkäyttäjät käyttäytyisivät huonosti, ja se on hyvä filosofia. Useimmat itse ajavat tiimit yrittävät luoda tilanteita epävakaiden muiden kuljettajien kanssa simulaattorissa ja yrittää löytää niistä kaikki mahdolliset muunnelmat. Tämä tilanne on varmasti nyt Cruisen simulaattorissa ja myös kaikkien muiden uutisia lukevien isojen tiimien simulaattoreissa, jos heillä ei sitä jo ole.

Tietoja muistamisesta

Kummallista kyllä, Cruise kuvaili tätä ohjelmistopäivitystä "palautukseksi" ja teki todellisen palautusilmoituksen NHTSA:lle. Cruise ja kaikki muut toimivat tiimit tekevät jatkuvasti ohjelmistopäivityksiä ongelmien korjaamiseksi, vaikka onnettomuuden aiheuttaneen ongelman korjaaminen on tietysti hyvin harvinaista - onneksi. He eivät laita tätä takaisinkutsumekanismin läpi. Palautusmekanismi vaikuttaa huonosti sopivalta monista syistä:

1. Cruise ei varsinaisesti muistanut ajoneuvoja, ts. pyydä ne palautettavaksi huoltokeskukseen korjattavaksi. Se käytti vain säännöllistä ohjelmistopäivitysprosessiaan langattomasti.
2. GM/Cruise ei koskaan myynyt näitä ajoneuvoja, se omistaa ja käyttää niitä, joten asiakkaalta niitä ei todellakaan voi vetää takaisin.
3. Palautusprosessi on monimutkainen ja byrokraattinen, eikä sitä todellakaan voida käyttää jokaiseen ohjelmistopäivitykseen, edes päivityksiin, jotka korjaavat turvallisuusongelman. Melkein kaikki ohjelmistopäivitykset korjaavat jonkin turvallisuusongelman, ei vain sellaista, joka todella aiheutti (eikä voisi aiheuttaa) kaatumisen.

On järkevää, että näistä onnettomuuksista ja niiden korjauksista ilmoitetaan, ja tästä onnettomuudesta ilmoitettiin Kalifornian DMV:lle, poliisille ja NHTSA:lle kauan ennen takaisinkutsua. NHTSA on pyytänyt tai hyväksynyt joidenkin muiden ohjelmistomuutosten takaisinkutsuja, ja sen on tarkistettava ja tehostettava tätä prosessia. Vaikka NHTSA:lla on valtuudet säännellä Yhdysvalloissa myytävien autojen turvallisuutta, ei ole yhtä selvää, mikä toimivalta niillä on autoihin, joita ei myydä. On syytä huomata, että juuri päivää ennen tätä onnettomuutta Cruiselle myönnettiin lupa – mutta se ei ollut vielä alkanut – myydä kyytiä autoissaan, ja voisi olla järkevää säännellä autoja, joissa kyytiä myydään (vaikka tämä voi olla enemmän valtion asia, jos ne eivät ylitä valtion rajoja.)

Aiemmin, kun Pony.AI joutui onnettomuuteen yhdessä miehittämättömistä ajoneuvoistaan, DMV veti heidän lupansa toimia tässä tilassa. Ponyn tapauksessa se oli yksin autokolari, selvästi heidän ajoneuvonsa vika. Erilaiset olosuhteet ovat saattaneet johtaa DMV:n erilaisiin toimiin tai toimimatta jättämiseen.

Robocar-onnettomuudet ovat erilaisia

Tämä törmäys kertoo meille jotain roboautojen onnettomuuksien erilaisista malleista. Alkureaktiot osoittavat, että Cruise voi olla vähemmän kypsä kuin toivotaan. Waymo joutui onnettomuuteen, jossa se oli vika vuonna 2016, 7 vuotta heidän projektissaan, mutta ilman vammoja. Heillä on ollut hyvin vähän sen jälkeen, vaikka he ovat vasta äskettäin ajaneet raskaasti San Franciscon kaltaisella alueella. Risteilyllä on ollut viime aikoina useita kiusallisia bugeja, mukaan lukien epätavallinen poliisipysähdys, autoryhmät, jotka pysähtyvät palvelimen viestintävirheen vuoksi, paloauton kanssa sattunut tapaus, valitukset noudon/pudotuksen tekemisestä keskellä kadulla, ja jäätymisen alkaessa toimittajan Tänään Show. Tämä on enemmän kuin olemme kuulleet Waymon ja muiden kanssa, ja sellaisena toivomme, että nämä ovat vain hammaskipuja. Jokaisella joukkueella on häiriötekijöitä, ja itse asiassa jokaisella joukkueella on kaatumisia, ja tärkeintä on niiden esiintymistiheys.

Cruise ilmoitti 12. syyskuuta, että he ovat tehneet noin 300,000 250,000 mailia robotaksipalvelua ilman turvakuljettajaa San Franciscossa, ja he olisivat tehneet vähemmän kesäkuussa. Se ei ole hienoa, koska ihmiskuljettajat loukkaantuvat yleensä jokaista miljoonaa ajomailia kohden. Vaikka Cruisen voidaan arvioida olevan vähemmän vikoja kuin Prius-kuljettajassa, tämä ei ole niin hyvä ennätys kuin haluaisimme. (Onnettomuus esimerkiksi 4 4 mailin jälkeen ei tarkoita, että he eivät ajaisi miljoonaa mailia ennen seuraavaa, mutta se ei ole hyvä merkki.) Toisaalta he ovat ajaneet yleensä XNUMX miljoonaa mailia (turvakuljettajien kanssa Koska turvakuljettajat puuttuivat ongelmiin XNUMX miljoonan mailin aikana, emme tiedä kuinka todellinen onnettomuuksien määrä oli kyseisessä järjestelmässä – joka oli myös vanhempi ja huonompi järjestelmä verrattuna viimeisimpään. Vertailun vuoksi turvallista ajamista tekee hyvää TeslalleTSLA
raportoi, että asiakkaat ovat ajaneet turvallisesti 30 miljoonaa mailia erittäin huonolaatuisella Tesla FSD:llä, eikä mistään vakavasta onnettomuudesta, erityisesti loukkaantumisista, ole raportoitu.

Robottien ainutlaatuinen piirre kuitenkin mainittiin edellä. Cruise korjasi tämän ongelman 3 päivässä, eikä se toistu, ainakaan tällä tavalla. Muut yritykset ovat todennäköisesti laittaneet tämän simulaattoreihinsa, eikä se tapahdu heillekään. Yritykset rakentavat valtavia kirjastoja simulaatioskenaarioista (ja jopa, projektissa, jota auttelin käynnistämään, vaihtamaan niitä.) Kun he tekevät tämän, niillä on algoritmeja, jotka "sumuttavat" skenaarion, mikä tarkoittaa kaikkien parametrien säätämistä eri tavoilla. He kokeilevat tätä toisen auton kanssa vaihtelevilla nopeuksilla tai vaihtamalla kaistaa eri aikoina. He kokeilevat sitä Cruise-autolla, joka toimii eri tavalla. He kokeilevat sitä jalankulkijoiden kanssa, jotka tekevät erilaisia ​​​​asioita risteyksessä testatakseen, ettei ongelmia esiinny tuhansissa muunnelmissa.

Tämä ei ole kuin ihmiset. Jos henkilö joutui tällaiseen onnettomuuteen – ja niin tapahtuu – hänen oppitunnit eivät opeta muita. Parhaimmillaan kaupunki saattaa ajan mittaan parantaa kaista- tai nopeussääntöjä, mutta se vaatii monia onnettomuuksia. Mitä tahansa virheitä robotit tekevätkin, ne yleensä paranevat.

Ihmiset pahenevat. Vaikka useimmat ihmiset odottavat, että nuoret kuljettajat ovat villeimmät ja joutuvat eniten onnettomuuksiin, 80-vuotiaat kuljettajat tappavat itsensä eniten – kaaviossa on traaginen U-muoto. Tämä johtuu osittain siitä, että vanhemmat kuljettajat ovat hauraampia, mutta on myös havaittu, että he joutuvat useampaan onnettomuuteen, kun heidän kykynsä heikkenevät. Erityisesti ja oudolla tavalla he joutuvat useampaan onnettomuuteen, jossa he ovat törmänneet autoon, sen sijaan, että auto osuu, vaikka se on silti heidän vikansa, johtuen tällaisista tilanteista suojaamattomissa vasemmanpuoleisissa käännöksissä. Robottien pitäisi olla erinomaisia ​​arvioimaan näiden tilanteiden fysiikkaa, mutta Cruisen järjestelmä teki liian monia oletuksia.

Tämä on myös klassinen esimerkki ennustusongelmasta. Vaikka puhumme antureista koko ajan roboautomaailmassa, tunnistus ei ole päämäärä, se on keino kohti todellista päämäärää, joka on ennustaminen. Sillä ei ole väliä missä kaikki on nyt, tärkeintä on se, missä se on lähitulevaisuudessa. Cruise arvioi väärin, minne Prius saattaa mennä, ja myös mitä tehdä sille tilanteen muuttuessa. Epäilen, että Cruisen autoa ei ole ohjelmoitu ajamaan esimerkiksi eteenpäin onnettomuuden välttämiseksi tai edes perääntymään. Meillä ei ole tietoa, oliko Cruise Boltin takana auto, mutta yksi asia, jonka robotit tekevät, on katsoa kaikkiin suuntiin kerralla, ja jos se olisi selvästi takana, auto olisi voinut toimia paljon nopeammin kuin ihminen, joka täytyy tarkastaa peili ja mennä vaihteistoon. Sähköauto ja kiihtyvyys erittäin nopeasti ja ajallaan, robotti-sähköautojen tulisi olla erittäin ketteriä välttämään onnettomuuksia - jos he uskaltavat.

Sanon, jos he uskaltavat, koska useimmat yritykset ovat hyvin konservatiivisia. He eivät halua tehdä äkillisiä liikkeitä, jotka voisivat pahentaa tilannetta, edes 360 asteen näkökyvyllä. Erityisesti monet tämänkaltaiset äkilliset liikkeet ovat teknisesti laittomia, eivätkä ne halua tarkoituksella rikkoa lakia, varsinkaan jos se saattaa mennä pieleen. Esimerkiksi jalankulkijat voivat tulla ulos asioiden takaa yllättäen milloin tahansa. Jos he hyppäävät edessäsi, se ei ole sinun vikasi, mutta jos olet jalkakäytävällä välttääksesi onnettomuuden, se on toinen tarina. (Ei, autot eivät koskaan yritä valita, keneen osuvat, jos heidän on valittava kahden ihmisen välillä, se on yleinen myytti ja ärsyttävä kysymys, ei jotain mitä todella tapahtuu.)

Ajan myötä robottien pitäisi tulla paremmaksi kuin ihmiset tässä tilanteessa. He pystyvät paremmin ennustamaan muiden autojen tekemiä asioita. Auton olisi pitänyt jatkuvasti sanoa: "Mitä teen, jos tämä kaveri ei käänny sääntöjen edellyttämällä tavalla" ja varmistaa, että on olemassa toimenpiteitä, joihin voidaan ryhtyä - mukaan lukien nopeuttaminen käännöksessä tai peruuttaminen. Jos ei ole olemassa toimintoa, joka voisi toimia, ja riskin todennäköisyys on riittävän suuri, auto odottaisi, mutta ihannetapauksessa mahdollinen toimenpide on olemassa. On välttämätöntä sietää jonkin verran onnettomuusriskiä, ​​kun muut toimivat epäsäännöllisesti. Puolustava ajo on hyvä, mutta täysin puolustava kuljettaja tukkii tiet varoen, mikä ei ratkaise ongelmaa.

Lue / jätä kommentit täältä