首例自動駕駛致死事件:疑點重重,誰的危局?
鉅亨網新聞中心 2018-04-02 13:54
「避免闖紅燈與撞行人,原本是無人車最值得驕傲的地方,因為機器反應比人快,但 Uber 把這兩件事都幹了。」一位網友評價稱。Uber 無人駕駛車撞人影音公布以後,它的真實技術水平立刻成為技術圈的輿論焦點。
美國東部時間 3 月 18 日晚 10 點,49 歲的 Elaine Herzberg 在推着她的自行車橫穿馬路時,被 Uber 正在測試的無人駕駛車撞傷,不治身亡。
(「安全第三」,這句 Uber 內部自嘲式的玩笑,流露出對安全不以為然的態度。圖 / AFP)
與此前特斯拉自動駕駛模式失靈不同,這次事故中 Uber 的測試車處於完全無人駕駛模式,被認為是世界上首起汽車機器人致死事故。
由於受害者並未行走人行橫道,亞利桑那警局局長 Sylvia Moir 在公開報告中表示,責任可能不在 Uber 而是行人。隨著調查影音的公開,Uber 在事故發生前毫無剎車跡象,技術專家幾乎一致認為,這是 Uber 自動駕駛技術失靈所致。
受此事故影響,Uber 全面停止了在美國與加拿大的自動駕駛車輛測試,此前,它在亞利桑那、匹茲堡、多倫多與其他地區均有測試基地。
由於擔憂對安全駕駛員的心理影響,豐田汽車在事故後宣布暫停美國的無人駕駛測試。輝達創始人黃仁勛稱事故原因還不明朗,無法保證駕駛員安全,暫停輝達無人駕駛道路測試。
「安全第三」,一位 Otto 員工曾將寫有這種字樣的一張橙色貼紙貼在舊金山總部里,這家公司後來被 Uber 收購,創始人安東尼 · 萊萬多夫斯基(Anthony Levandowski)成為 Uber 無人駕駛的領導者。這句 Uber 內部自嘲式的玩笑,流露出對安全不以為然的態度。
自 2017 年以來,無人駕駛公司開始重金增加測試車輛,但伴隨撞人案引發的法律與監管爭議、公眾牴觸等一系列問題,Uber 無人駕駛系統失靈成為千夫所指的矛頭。
從問責行人到開始質疑和追責自動駕駛技術,這次交通事故正在激發整個行業對無人駕駛汽車是否過早推入市場的爭議復甦。
疑點重重,自動駕駛界集體質疑
Uber 像一個新參與者,經過多年發展還沒有確保基礎的車輛安全
警方報告顯示,在行人出現之後,自動駕駛汽車毫無減速反應;測試駕駛員(未進行人工干預)稱受害人突然出現在前方,收到的第一個交通事故警報是碰撞的聲音。無人車在事故之前毫無剎車跡象是這起事故最大的技術迷點。
Uber 肇事車輛的行車日誌尚未公開,警方公布的事故影音成為該公司自動駕駛技術被質疑的關鍵依據。目前看來,感知、決策和控制等環節都可能存在問題。
對感知層面的質疑聲音是最集中的。Navigant 自動駕駛資深研究員 Sam Abuelsamid 告訴《財經》記者,如果自動駕駛的傳感器沒有失靈,雷達與激光雷達可以在黑暗中提前 50 米-100 米識別到行人,汽車以 38 英里的時速前進時,完全有可能在行人前方的 25 米-30 米之內停穩。
Brad Templeton 是谷歌團隊設計無人駕駛汽車的顧問之一,他聽到一種未經證實的說法是 Uber 的內部人士透露當時該車輛關閉了激光雷達,以測試只使用攝影機和雷達的運行情況。
這樣的操作在自動駕駛技術的測試中並不罕見。即使關閉了激光雷達,Abuelsamid 認為,至少還有一種或者兩種傳感器,可以輕鬆識別橫穿馬路的行人。他獲取的一份更高質量的影音顯示,在車禍同樣的位置,當天的視線情況遠好於 Uber 提供的影音,僅僅靠攝影機就可以識別到行人。「警方最早的描述是錯誤的,他們是基於一個質量很爛的影音,受害者 Herzberg 女士只在影音中出現了 1.5 秒。」Sam 告訴《財經》記者,如果三個傳感器同時失靈,這似乎預示着 Uber 這套系統沒有在公共道路上測試過。
能否夜間識別行人,除了取決於使用什麼樣的傳感器,還得依靠算法。
「合適的傳感器和好的算法,在夜晚的環境中也可以檢測到穿過馬路的行人。」百度矽谷資深軟體工程師 Calvin Miao 對《財經》記者說。
除了傳感器問題,第二個可能性就是 Uber 的感知與預測算法不足夠好。如果軟體不知道如何解釋數據,即使傳感器檢測到行人,激光雷達和攝影機獲取的有效資訊就可能被認為是噪聲而過濾掉,導致測試系統「看不到」行人,這些數據也失去了意義。
如果傳感器以及融合都正常,第三種可能性是決策算法檢測到行人後,車輛並不知道應該做什麼。
最後一種可能是控制層的通路中斷或者底層控制器故障。馭勢科技聯合創始人兼 CEO 吳甘沙告訴《財經》記者,「即使感知發現了,決策算法也下達了轉向或剎車的指令,但進程崩潰了,底層邏輯出問題,車輛還是無法避讓。」
高級駕駛輔助公司 Mobileye 的模擬系統中顯示,使用警方公布的並不清晰的影音測試,在行人出現的第一幀就已經檢測到人與自行車。也就是說,如果影音質量高或者肉眼可見比影音清晰,還會進一步提早檢測到行人。
即使夜間疲勞時間段,也能比人眼更快探測到行人,這原本是無人駕駛技術的優勢,卻釀下一場血案。Mobileye 首席執行官 AmnonShashua 批評 Uber 的表現像一個新參與者,經過多年發展還沒有確保基礎的車輛安全。
人禍?第二道安全閘的崩塌
在和谷歌的比拼中,Uber 是只爭朝夕
自動駕駛技術的安全性應該從兩個角度來看,一個是技術本身的安全性,另一個是安全管理的有效性。在技術不成熟的情況下,需要測試駕駛員來保證安全。
安全駕駛員的失責也被視為 Uber 發生事故的重要原因。
美國對於駕駛員的規定相對寬鬆,而根據北京與上海公布的自動駕駛路測辦法,測試駕駛員需具備三年以上安全駕駛經歷,無酒駕、毒駕等違法行為,有 50 小時以上的自動駕駛系統操作經驗,其中 40 小時以上是相應申請測試項目。在自動駕駛系統運行時,測試駕駛員應實時監督系統運行,並在系統出現故障或發出警告提醒時立即接管並操控車輛。如無法接管,應立即啟動緊急制動功能。
在企業層面,在和安全駕駛員簽訂合約時,公司都會明確要求其在工作時需保持一個良好的狀態,比如全神貫注地觀察道路狀況,隨時準備接管。
大多數無人駕駛測試車會有兩名工作人員,一名安全駕駛員負責觀察路面狀況並在緊急情況下接管控制車輛,而副駕駛座上會坐一名工程師,從更底層的數據層面觀察車輛的運行狀態。
案發時 Uber 的測試車裡只坐了一名駕駛員,這並非業內進行測試的通行做法。只有在某套自動駕駛功能已經相當完備的情況下進行測試,會允許副駕駛不坐測試員。但致死這一結果也說明 Uber 的系統可能還沒成熟到單駕駛員上路的水準。
而在警方公布的影音中,司機也並未全心關注路面,事發前幾秒正在低頭,疑似看手機。這名司機曾經兩次犯重罪,在 2001 年搶劫被判入獄五年。根據網約車條例,Uber 不得聘用重刑犯做司機,公司曾因此被巨額罰款。當然,重刑犯與這次事故無必然聯繫,但這名安全員並未在這起事故中起到任何作用。
研究了十多年車禍事故分析的司法鑑定高級工程師 Zachary Moore 認為:正常的人類司機,可以在乾燥路面上看到行人,並在行人前方 2.5 米處完全停下。但無人駕駛系統更容易讓人分神,司機反應速度可能並沒有普通駕駛員快。
另一個讓業內人士普遍感到困惑的點是,Uber 晚上 10 點還在進行測試。一位國內領先的無人駕駛企業高管告訴《財經》記者,雖然美國對於測試時間沒有限制,但他們公司如果要測試夜間場景,最遲到晚上 8 點。在時間問題上,還需要查證這個安全員在測試車上待了多久。「在車上一般不用動手開,司機如果一直坐着工作到晚上 10 點,就是疲勞測試,極有可能出現注意力的分散。」這位企業高管曾聽聞,在和谷歌的比拼中,Uber 是只爭朝夕。
一波三折,激進的 Uber 與事故機率
安全第一、平穩推進,還是發展技術為先?
「近期發生的自動駕駛汽車致死事件提醒我們,無論汽車技術如何發展,安全是任何時候都不能忽視的問題。」3 月 28 日,吉利控股集團董事長李書福在 2018 年智能汽車國際研討會上說。
在發展自動駕駛技術方面,傳統車企們顯然更重視安全可靠性,換種說法,是更為保守。在 10 億美元收購創業公司 Cruise Automation 研發完全自動駕駛技術的同時,通用汽車自己的研發團隊推出了 L2 級別的無人駕駛輔助技術 Super Cruise,將其使用場景限定在經過測繪的設有明確上 / 下匝道的高速公路上,並且通過駕駛員注意力保持系統來監測司機的行為,要求司機保持專注,並能提醒司機接管車輛。
被業界公認為自動駕駛技術落後的豐田汽車以事故可能對安全駕駛員的心理產生負面影響為由,暫停了在美的測試。但過去同樣落後的 Uber 則是更激進的冒險者。
(避免公司在技術領先與商業利益面前,以生命為代價跨越式前進。圖 / 視覺中國)
2016 年 10 月,Uber 在匹茲堡測試時逆行進入單行道;同年冬天,Uber 開始在總部舊金山測試,但沒有向加州交管局申請路測牌照;測試的第一天,一輛測試車就闖了紅燈,這段影音在網上風靡一時;此後,Uber 的測試被加州政府禁止。今年 2 月,Uber 在匹茲堡發生交通事故;3 月,轉戰亞利桑那州後,又與當地人類駕駛汽車發生撞擊,所幸沒有人員傷亡。直到這次撞人致死,開始引起輿論的關注。
美國車輛管理局的資料顯示,Waymo 在加州無人車的接管次數為每 5600 英里安全員接管一次,Uber 在加州測試時間較短,尚未公開接管次數。根據《紐約時報》最近獲取的一份內部資料以及兩名熟悉業務人士佐證,Uber 正在亞利桑那州掙扎着達到每 13 英里接管一次。整整一年以前,科技媒體 Recode 曾經爆料,Uber 無人駕駛每隔 0.8 英里就要接管一次,這幾乎是無人車剛剛起步的水平。
在特斯拉交通事故發生後,萊萬曾在公司內部說:「第一起自動駕駛撞人不是我們引發的,我很惱火。」一語成讖。這位 Uber 曾經無人駕駛的領導者以激進與蔑視規則出名,他曾多次要求團隊大範圍投入車輛,找到捷徑,並在不申請測試牌照的情況下強行上路。
Uber 的核心業務網約車剛剛起步時,曾經依靠類似的激進策略迅速擴張,層層突破監管時,成就了今天的 Uber。急於求成,忽視安全,這些「毒文化」成為 Uber 在自動駕駛業務一波三折的深層原因。
2016 年 8 月,Uber 以 6.8 億美元的價格收購萊萬創建的公司 Otto,這是 Uber 無人駕駛起步的標誌性事件。兩個月以後,Uber 的無人駕駛車就開始路測了。萊萬此前是谷歌無人駕駛的工程師,他所創建的新公司被 Waymo 認為在自動駕駛方面涉嫌侵權。
2017 年 2 月 Waymo 起訴,在自動駕駛發展的黃金時期,Uber 開始了長達一年的官司。之後,Uber 無人駕駛節節敗退——去年 5 月,靈魂人物萊萬因起訴被迫離開,一時間自動駕駛部門出現大量離職;性騷擾、移民禁令、董事會內鬥,大力支持自動駕駛的創始人卡蘭尼克也被迫離開公司。
今年 2 月,Uber 與 Waymo 之間的官司剛剛和解,這讓停滯一年的 Uber 無人駕駛技術得到了一次喘息機會,然而,3 月就發生了這起交通事故並引起輿論大風波。
誰該為無人駕駛事故負責
事故早已先於規則出現,各國的立法應該加速推進
「Uber 在研發過程中做過事發時這樣的場景模擬嗎?在結構化道路上做過這樣的場景試驗嗎?」在上汽集團北美公司總經理黃文華看來,在封閉場地內進行規範試驗是極其重要的,應該從模擬,到封閉,再到半封閉,最後進入公共開放道路,循序漸進。
問題是,如何避免公司在技術領先與商業利益面前,以生命安危為代價跨越式前進?當一個新行業產生時,必然伴隨著各種不規範現象。而當這種傷害可能擴大時,引導性的監管就顯得尤為重要。
美國西南部的亞利桑那州,氣候乾燥少雨,陽光明媚,被看作是最適合自動駕駛測試之處,幾乎成為各大無人駕駛公司的樂園。
在美國,幾乎沒有州對自動駕駛行業有嚴格的監管策略,只有加州需要特別的許可證和提交年度測試報告。達到何種標準可以進行無人測試,加州在政策上也含糊不清,這意味著這項報告在事故預防上沒多大意義。
Abuelsamid 認為,必須為傳感系統制定基本的性能要求。當車輛在公共道路測試之前,傳感器可以在陽光、暮光以及夜間可靠檢測到行人、騎車人和其他車輛,測試程序的具體細節應由 SAE International 等標準組織制定。
聯邦政府制定安全標準,但現實狀況是美國各州各自負責車輛與駕駛員的註冊資訊。目前加州駕駛員獲取駕照要求視力檢查,確保司機可以看到路面標誌;Abuelsamid 稱,無人車在上路之前,也應進行「虛擬視力檢查」,如果車不能看到行人,或者看到不知道如何處理,這些車就不應該出現在路測中。
在國內,京滬兩地的路測法規要求企業在封閉場地內「考駕照」,通過第三方機構和專家評估後才能拿牌上路,一定程度避免太不成熟的系統在公開道路上測試。
事故責任的界定也會影響無人駕駛的發展進程。美國法律採用判例法。根據美國法律,如果行人橫穿馬路且不在人行橫道處,事故責任主要由行人負責。但如果受害者家庭起訴 Uber 無人駕駛技術不完善,則有可能影響 Uber 在當地的測試以及未來的法律法規。
目前中國的相關法律法規也仍處於醞釀階段。
事故已先於規則出現,各國的立法應該加速推進,上海交通大學凱原法學院教授鄭戈對《財經》記者表示,立法可以起到穩定人心的作用。雖然法律不能消除事故,但可以讓人們覺得有安全保障。
公眾尤其是法律界人士對責任如何劃分疑慮重重。L0-L2 階段被認為是輔助駕駛,駕駛員是主導者,而 L4 和 L5 是以機器為主導的無人駕駛階段,責任相對明晰。而 L3 階段是一個尷尬的過渡階段,司機和機器都需要參與其中,難分責任。在測試時,安全員受僱於企業,可以看成是一體的,等到消費者開始使用,一旦發生事故,更難以分清權責。在 L3 階段,車企和消費者之間簽訂免責協議是大機率事件,而且肯定不會隱藏在產品或服務說明書中,會非常明顯地告知,甚至需要消費者簽字。
但生活中大多數人是風險規避者,一家產品已開始落地的自動駕駛企業創始人表達了他的擔心,「如果簽免責協議,消費者可能就會對安全產生疑慮,不敢買了。」
行業反思,謹慎前行
Uber 給行業澆下一盆冷水,但無人駕駛前景仍被看好
在首例無人車致死案之後,更讓行業緊張的是公眾對無人車技術牴觸情緒的復甦。一名 Uber 司機告訴《財經》記者,她曾經接到 Uber 的無人車測試邀請,而她對無人駕駛車感到恐懼。
皮尤研究中心調查顯示,如果有選擇權的話,一半美國人不願意乘坐無人駕駛汽車,並對它表示擔憂。這種情緒有所蔓延。「錄像令人不安和擔憂,3·18 事故毫無疑問是一次安全上的大失敗。」亞利桑那州州長 Doug Ducey 公開表態。他曾經在 Uber 被加州政府趕走時熱情迎接,意欲把無人駕駛打造成亞利桑那州經濟增長主要驅動力,事故發生一周後才向 Uber 發去暫停測試的行政令。
不過民眾的擔憂並未因 Uber 事件轉化為恐慌,投資人也依然看好自動駕駛產業。華創資本合夥人熊偉銘對《財經》記者表示,最近大家都比較敏感,但「這一波負面情緒不會持續太久,大的資金還在繼續進入這個行業」。
「希望儘管可能從這次事故中吸取教訓,觀察是否需要改變自己的測試汽車。」黃仁勛在 GTC 會後採訪中強調。儘管事故原因還沒有查明,但是他堅持自動駕駛是未來,並認為 2020 年之前,所有上路的電動車都會有一定的自動駕駛功能。
英偉達正在與包括 Uber 在內的 370 家自動駕駛公司合作,新發布了 Drive Constellation 平台。現場,一位工程師展示了如何在虛擬現實環境中測試自動駕駛汽車,使得測試員在訓練軟體時不必再冒生命危險。
從各大自動駕駛公司公開路測、試水商業化以來,行業正在集體給公眾灌輸一種觀念:無人車不會有酒駕、情緒、分神等問題,比人類駕駛員更安全。
「無論自動駕駛技術多麼的先進,總是會有一些物理客觀因素存在,可能使得一些事故無法避免。」戴姆勒股份公司董事會主席、梅賽德斯 - 奔馳汽車集團全球總裁蔡澈(Dieter Zetsche)在接受《財經》等媒體採訪時表示,這個事故不會改變他們繼續研發自動駕駛的初衷——負責任地交給客戶一個成熟的自動駕駛系統。
百度公司董事長兼 CEO 李彥宏在今年的中國高層發展論壇上也公開表示,自動駕駛會是更加安全的出行方式,完全自動駕駛的車輛 3 年-5 年內就會真正進入開放道路運行的狀態。
多位接受《財經》記者採訪的業內專家表示,要做完全自動化的無人駕駛,得有完整全面的冗餘備份,如 Waymo 和通用進行了真正的場景化設計。「我們做自動駕駛一定要有敬畏之心,一定要堅持冗餘的多傳感器融合方案。以目前的計算機視覺技術,任何狂吹自己深度學習多麼牛逼,只用攝影機就可以低成本做自動駕駛的,都是『耍流氓』。討好車廠前,先摸摸自己的良心。」景馳 CEO 韓旭在微信朋友圈說。
因此,很多從業者認為封閉環境的無人車是可以最早落地的應用場景,通過增加環境的可控性和可預測性,減少昂貴傳感器的配置和冗餘。「在封閉環境的低速自動駕駛是需要最早實現的,以車的速度撞到人,不至於致死。」上汽矽谷投資前負責人齊蕾說。
吳甘沙表示,這次 Uber 的致死案對行業的影響更多是敲響警鐘,讓企業在設計、研發和測試產品時更加小心謹慎,安全第一,畢竟「出一起事故,對一家公司的聲譽就是致命的」。
『新聞來源/華爾街見聞』
- 2025這樣投資AI最穩健!
- 掌握全球財經資訊點我下載APP
文章標籤
延伸閱讀
上一篇
下一篇