致命的“自動駕駛”：車禍事故頻發，最大的挑戰在於將常識構建到計算機中

{"type":"doc","content":[{"type":"blockquote","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"“自動駕駛”引發的車禍事件屢見報端，企業高調宣傳自動駕駛安全性的背後，誰來爲車主的安全買單？"}]}]},{"type":"heading","attrs":{"align":null,"level":2},"content":[{"type":"text","text":"31 歲蔚來車主因“自動駕駛”車禍去世"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"蔚來車禍事件仍在持續發酵。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"8 月 14 日，“美一好”公衆號發佈訃告稱，2021 年 8 月 12 日下午 2 時，上善若水投資管理公司創始人、意統天下餐飲管理公司創始人、美一好品牌管理公司創始人林文欽（暱稱“萌劍客”），駕駛蔚來 ES8 汽車啓用自動駕駛功能（NOP 領航狀態）後，在瀋海高速涵江段發生交通事故，不幸逝世，終年 31 歲。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"根據網上流傳的事故現場圖來看，這臺 ES8 先後與高速公路放置的錐桶和公路養護車發生了碰撞，公路養護車被撞翻。而在今年 7 月份發生的長深高速蔚來汽車事故中，車輛也與錐桶發生了碰撞。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"這則消息很快將蔚來推至風口浪尖，網友紛紛質疑自動駕駛的安全性。8 月 15 日，蔚來汽車迴應稱，蔚來 ES8 上所應用的技術是領航輔助功能（Navigate on Pilot 即NOP），不是自動駕駛功能。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"8 月 16 日，林文欽治喪小組成員鄭先生表示，蔚來技術人員未經交警同意，私自接觸涉案車輛進行操作，交警昨日已傳喚該蔚來技術人員做筆錄，若調查結果是車輛數據被篡改或毀滅，涉嫌刑事犯罪，蔚來公司需要對本起事故承擔全部責任。16 日晚間，蔚來針對“蔚來技術人員被警方傳喚”的消息作出迴應，稱公司沒有刪改任何數據的行爲，也沒有員工被警方傳喚。事發當天下午，蔚來服務人員在事故車停車場進行了斷電作業，該作業本身不會造成數據丟失。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"8 月 17 日，林文欽好友林偉偉表示：“林文欽認爲自動駕駛是電動車和油車的區別，自動駕駛是他買這輛車的核心。”他表示：“我是第一批蔚來用戶，當時購車宣傳時，蔚來聲稱自動駕駛比人要更安全，車內安裝攝像頭和激光雷達，聽起來很高端。我很信任蔚來，所以推薦給林文欽。”"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"從林偉偉提供的聊天記錄來看，林文欽在購車前曾多次詢問“自動駕駛”，這也是他購買蔚來的理由之一。不過林文欽沒有想到的是，眼前的“自動駕駛”實際上不是真正的自動駕駛，而是輔助駕駛。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"對於這起車禍事件，警方目前尚未發佈最終調查結果。不過業內已將矛頭指向了對自動駕駛的過度宣傳和概念混淆。"}]},{"type":"heading","attrs":{"align":null,"level":2},"content":[{"type":"text","text":"自動駕駛與輔助駕駛"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"自動駕駛和輔助駕駛只有兩字之差，但卻存在"},{"type":"link","attrs":{"href":"https:\/\/finance.sina.com.cn\/tech\/2021-08-17\/doc-ikqcfncc3399467.shtml","title":"xxx","type":null},"content":[{"type":"text","text":"本質的區別"}]},{"type":"text","text":"。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"知名汽車博主"},{"type":"link","attrs":{"href":"https:\/\/weibo.com\/ttarticle\/p\/show?id=2309404670947105046748#_0","title":"xxx","type":null},"content":[{"type":"text","text":"常巖"}]},{"type":"text","text":"在微博中表示，這兩種技術範疇的區別，就在於主導權到底在人還是在車。如果是輔助駕駛，人就得時時刻刻擔負責任，無論技術承諾的實力有多麼強。而如果是自動駕駛，車就永遠是駕駛的責任方，即便開得再爛也是負全責。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"受技術水平所限，當前要想實現完全解放司機雙手的自動駕駛還不現實，因此目前量產車上的自動駕駛實際都只能實現輔助駕駛功能。而把輔助駕駛送上神壇的，正是廠商與媒體的過度宣傳和概念混淆。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"事實上，美國汽車工程學會（SAE）曾將自動駕駛等級分爲 L0-L5 的 6 個等級。對於普通消費者而言，理解這些行業術語本就不易，在某些廠商的宣傳下，已然出現了 L2.5、L2+ 這樣模棱兩可的自動駕駛等級，事實上按照 SAE 的標準，根本沒有這些分級。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"image","attrs":{"src":"https:\/\/static001.geekbang.org\/resource\/image\/22\/4c\/22b9cfa67ba0fb791fb286aa783a914c.png","alt":null,"title":null,"style":[{"key":"width","value":"75%"},{"key":"bordertype","value":"none"}],"href":null,"fromPaste":true,"pastePass":true}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"8 月 16 日，理想汽車創始人、CEO 李想發朋友圈表示，“呼籲媒體和行業機構統一自動駕駛的中文名詞的標準，L2 和 L3 什麼的用戶聽不懂，都是專業話術。建議統一名稱：L2=輔助駕駛；L3=自動輔助駕駛；L4=自動駕駛；L5=無人駕駛。一個多餘的中文字也不要有，避免誇張的宣傳造成用戶使用的誤解。在推廣上剋制，在技術上投入，對用戶、行業、企業都長期有利。”"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"隨後，360 公司創始人周鴻禕在朋友圈轉發該言論表示贊同：“人工智能不是營銷話術，沒有那麼神奇，自動駕駛無人駕駛還有很多路要走很多坑要填，不能爲了營銷誤導用戶，李想的建議我大部分贊同，L2 到 L5 都是行業黑話自娛自樂，應該變成普通用戶可以望文生義的簡單概念，但是 L3=自動輔助駕駛容易混淆誤解，還是 L3=高級輔助駕駛比較好，你覺得叫什麼比較好”。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"image","attrs":{"src":"https:\/\/static001.geekbang.org\/resource\/image\/48\/a0\/484b8703134284663487a65eb1b7bfa0.png","alt":null,"title":null,"style":[{"key":"width","value":"75%"},{"key":"bordertype","value":"none"}],"href":null,"fromPaste":true,"pastePass":true}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"對於自動駕駛和輔助駕駛，北京晚報評論稱，“自動”與“輔助”顯然存在質的區別，但一些新能源車企爲了營造自己的科技範兒，在營銷時故意模糊處之，暗示消費者可以依賴這套系統。更有甚者，將“軟件邏輯”套用在造車上，希望通過不斷的升級迭代來完善輔助駕駛，這無疑是拿消費者當“小白鼠”，把社會當試驗場，是極其不負責任的行爲。"}]},{"type":"heading","attrs":{"align":null,"level":2},"content":[{"type":"text","text":"自動駕駛安全挑戰來自於如何將常識構建到計算機中"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"此前提到，根據 SAE 的劃分，自動駕駛一共被分爲 6 個等級。其中 L3-5 被視爲自動駕駛系統（ADS），其中司機無需注意道路。在第 3 級別，司機可以看書或看電影，但如果車輛要求，司機必須能夠在 10-60 秒內接管車輛操控。3 級車輛的一個大問題是，在司機接管的 10 秒過渡期內可能會發生碰撞，因此 3 級車輛可能需要包含一個操作設計域（ODD），不會因爲 10 秒交接而出事故（例如低速公路交通擁堵場景）。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"第 4 級和第 5 級之間的區別在於，第 4 級車輛僅限在 ODD 開啓自動駕駛模式，這個 ODD 通常包括受限制的地理區域（例如城市中的一組指定街道），並且可能包括基於天氣、當日時間、降水、道路坡度和曲率等因素的限制。5 級車輛可以不受限制地在任何地域行駛，理論上是消費級車輛和商用卡車的有效替代品。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"如今道路上的許多消費級車輛，例如特斯拉，都具有駕駛輔助功能。它們可以讓車輛保持在車道中央，並且可以自動加速和制動。然而，司機在駕駛這些車輛時看書或看電影是不安全的。司機必須不斷監控道路並準備好隨時接管控制。因爲這些都是 2 級車輛，不被視爲 ADS。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"雖然我們有充分的理由假設 ADS 將比人類司機更安全，畢竟它們從不疲倦，不會在開車時發短信，或酒後駕車。但也同樣有充分的理由假設它們不會更安全，因爲沒有人知道"},{"type":"link","attrs":{"href":"https:\/\/www.infoq.cn\/article\/93Grsdkqw5ikQtik8KJZ","title":"xxx","type":null},"content":[{"type":"text","text":"如何將常識構建到計算機中"}]},{"type":"text","text":"。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"ADS 需要常識推理來處理它可能遇到的所有意外情況，比如一頭鹿飛奔到高速公路上，洪水讓道路難以通行或無法通行等邊緣情況。在沒有常識推理能力的情況下，ADS 只能處理已明確編碼到 ADS 軟件中的邊緣情況，或 ADS 已被訓練處理的邊緣情況。當遇到 ADS 工程師未預料到的邊緣情況時，可能會發生事故和交通擁堵。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"ADS 的另一個問題是計算機視覺系統很容易出錯，因爲它們可能會被一些人類能正常識別的情況愚弄。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"例如，研究人員證明，限速標誌的微小變化可能會讓機器學習系統認爲該標誌顯示的是 85 英里\/小時而不是 35 英里\/小時。類似地，一些黑客使用鮮豔的貼紙製造出假車道，欺騙特斯拉的自動駕駛改變車道。在這兩種情況下，這些變化都愚弄了汽車，但愚弄不了人。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"自動駕駛汽車看待世界的方式與人類存在很多差異，如何讓自動駕駛更安全，纔是廠商應該持續深思的課題。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}}]}