0
3 月 18 日，49 歲的 Elaine Herzberg 在亞利桑那州坦佩市以北的公路 Mill Avenue 上騎著自行車，被一輛迎面駛來的沃爾沃 SUV 撞倒，當時車速為 40 英里/小時，Herzberg 當場死亡。
看起來，這只是一場普通悲劇。去年，僅在美國就有 6000 名行人因交通事故而死。但 Herzberg 的事故，有其特別之處：撞到她的“司機”，是 Uber 開發的一款軟件。這是無人駕駛汽車引起的第一起死亡事故。Uber 及其主要芯片供應商英偉達停止了自動駕駛測試，美國國家運輸安全委員會（ U.S. National Transportation Safety Board ）宣布進行調查，Uber 也正在配合。
做自動駕駛汽車的眼睛
在耶路撒冷，Amnon Shashua 開始了自己的測試。現年 57 歲的以色列人 Shashua 是耶路撒冷希伯來大學教授，同時也是 Mobileye CEO。Mobileye 創立于 1999 年，專注于自動駕駛視覺系統，開發了一款鼠標大小的輔助駕駛系統。該設備的攝像頭和定制芯片卡在汽車后視鏡后面，提供的算法和計算機芯片能夠根據圖像（由汽車上的攝像頭拍攝）預測潛在碰撞事故。
Mobileye 以單價約 55 美元的價格向汽車供應商銷售芯片，但用戶要在經銷商那支付約 1000 美元。現在，他們在全球已經搭載了 2700 萬輛汽車。
2017 年 3 月 13 日，英特爾宣布以每股 63.54 美元現金收購 Mobileye，股權價值約 153 億美元。這是以色列有史以來金額最大的一筆交易，也是英特爾發展史上的重大一步。英特爾 CEO Brian Krzanich 表示：“我們會盡力贏得（自動駕駛的）勝利。”
Mobileye 的另一個獨特之處，在于其對安全問題的直言不諱。大多數自動駕駛汽車的“推銷者”往往回避討論可能存在的技術缺陷，因為害怕引起客戶和監管機構恐慌從而影響購買，但 Shashua 回答了這個大多數公司避而不談的問題。
回到 Herzberg 事件，3 月底，坦佩警察局發布了一段攝像頭視頻，記錄了 Herzberg 被撞前的情況。Shashua 將視頻放入了 Mobileye 系統中，來了解 Mobileye 計算機視覺系統的反應，并將記錄撰寫成《Experience Counts》一文，發布在了英特爾官網上。
該文章表示，Mobileye 軟件正確地將 Herzberg 識別為了行人。一個月后，在 Mobileye 總部接受采訪時，Shashua 表示，Uber 及其主要競爭對手 Waymo 正在“做出一些有用的東西”，但 Herzberg 的死是“可以避免的”。
“任何人都可以擁有一輛無人駕駛汽車”
Mobileye 在輔助駕駛市場占據約 70％ 份額，2016 年，美國國家公路交通安全管理局（National Highway Traffic Safety Administration）與各行業組織達成協議，將在 2022 年前將系統作為在美銷售所有新車的標配。由此，至 2025 年，將可以避免 28,000 次撞車事故和 12,000 起車禍。
當然，Shashua 希望更進一步。2015 年，Mobileye 開始銷售更復雜的系統，其能在高速公路上運行，類似于特斯拉公司的 Autopilot。該系統已為凱迪拉克 Super Cruise、日產 ProPilot 和奧迪 Traffic Jam Assist 提供硬軟件支持，目前，Mobileye 還在開發完全自動駕駛系統套件，并將在明年為寶馬、菲亞特·克萊斯勒和蔚來等汽車制造商提供支持。
4 月下旬，Shashua 邀請《彭博商業周刊（Bloomberg Businessweek）》的一位記者進行了一次完全自動駕駛原型車體驗， 這也是 Mobileye 首次向記者展示該車。對于 Waymo 和 Uber，Shashua 持否定態度，他認為這兩家公司的傳感器、服務器和芯片都過于昂貴。
但 Waymo 和 Uber 表示，他們的成本正在下降，同時，昂貴的車型也是可行的，因為將來大多數自動駕駛汽車都將成為共享汽車，私有汽車會成為一種過時概念。
不過，Shashua 還是決定以相對便宜的價格為無人駕駛汽車提供支持。他們的福特原型車現在正在耶路撒冷測試，并計劃今年晚些時候在加州進行 30 輛車的自動駕駛車隊測試。
耶路撒冷的測試車沒有安裝雷達或激光雷達，唯一的傳感器是隱藏在車身周圍的 12 個攝像頭。Mobileye 最后計劃添加一些低成本雷達和激光雷達，但只是作為相機故障時的冗余。該原型車不依賴服務器和芯片組，而是依靠 Mobileye 目前的駕駛輔助系統中 4 個低成本的定制處理器。Shashua 表示，消費者只需支付 8000 美元，就能買到整套系統，“這意味著任何人都可以擁有一輛無人駕駛汽車。”不過，他可能高估了普通買車者的預算。
駕駛員“編寫故事”
競爭對手們通常在郊區測試，選用的道路寬廣，交通有序，有清晰路標，但 Mobileye 的測試地點在耶路撒冷，街道狹窄老舊，交通也不及美國郊區有序。
無人駕駛汽車必須做兩件基本的事情：看清路上發生了什么，然后對這些信息作出反應。20 世紀 80 年代以來，Shashua 一直致力于解決第一個問題：計算機視覺問題。他出生于以色列特拉維夫，在成為 MIT 人工智能博士之前，在以色列名校魏茨曼科學研究院（Weizmann Institute of Science ）學習計算機科學。
1998 年，也就是 Shashua 讀博后的第五年，他在日本名古屋創辦了一家叫做 CogniTens 的公司，主要通過視覺技術測量保險杠，一直為豐田服務。在一次會議中，Shashua 提出，可以使用車內的單個攝像頭警示人們是否會碰到障礙物或偏離車道，豐田對此表示懷疑，但同意投資幾十萬美元做相關研究。
今天，海量的數據集可以教軟件在幾周內區分障礙物，但那時，開發一款具備視覺系統的電腦還非常困難。 Mobileye 的工程師大多是 Shashua 在希伯來大學和 MIT 的學生，他們首先列出了汽車需要識別的道路特征清單，然后細化研究，這需要花上好幾年時間。
現在，Mobileye 的一些早期代碼仍然作為新的計算機視覺類型備份被用在距離測量中，但深度學習算法已經接管了大部分重要工作。在斯里蘭卡，有 2000 多名員工組成的團隊在開闊道路上收集數十萬英里的視頻，在電腦上對每一個識別結果（汽車、卡車、自行車、行人）進行標注，然后將這些數據輸入到神經網絡中訓練，如此系統就能準確識別之前未見過的類似物體，即使汽車飛速行駛在高速公路上，這些物體只是一晃而過。
其團隊面臨的巨大挑戰，是如何提高軟件讀取路標和其它物體的能力。工作人員對車輛標志、人行道、自行車道以及禁區內其它區域進行標注，然后在道路上繪制出車輛可以走和走不通的路線。每個場景都有很多元素，標注一個長達數分鐘的剪輯視頻可能需要一整天，Mobileye 研究執行官 Gaby Hayon 稱：“這就像寫一本大型詞匯書。”
Hayon 說，駕駛員無意識地“編寫了一個故事”，其中不僅包括數據（比如：汽車，右側車道，45 英里/小時），還包括對過去和未來的感知。人類駕駛車輛時，可以看到右側車道有一輛車，這輛車因為要右轉而放慢了速度，它的速度可能會降下很多，這就要求你也要踩剎車或者大幅度轉彎。
如果以人類類比自動駕駛系統，那么后者面臨的挑戰是如何提供足夠數據，以確保計算機做出相同猜測。Hayon 表示：“我們正在做的，就是運用傳感模型來為你的故事編寫單詞。”
*大多數自動駕駛汽車依靠復雜的激光和雷達陣列，Mobileye 目前的原型車只使用了相機。
深度學習的局限
在一個溫暖的春日，一輛名為 Clara 的 Mobileye 原型車亮起了左轉信號燈，準備并入耶路撒冷的南北主干高速公路——Begin Boulevard。這次旅途的安全員是 Shai Shalev-Shwartz，他也是 Mobileye 的技術副總裁，他打造了一款軟件，可以監控計算機收集到的數據，并決定如何處理。此時，Shashua 也坐在汽車后座上。
Shalev-Shwartz 稱：“計算機處理匯流和變道是非常復雜的”。汽車和卡車駛過時，會以每小時 50 英里的速度與自動駕駛汽車“擦肩而過”，對人類來說，這其實是一種危險狀況。因此，要看出 Clara 如何準確完成這一過程非常困難。Shalev-Shwartz 表示：“我們等待著合適時機，抓住機會觀察記錄。“
自相矛盾的是，無人駕駛汽車未來會很容易變成一種危險的死亡機器，這其實也是一個隱患。現在，汽車制造商們都急于研究如何避免碰撞，細心設計和編寫程序，這意味著打造 AI 司機要比培育人類司機耗費更多時間，而且可能會因各種狀況進度遲緩。
據雷鋒網了解，今年 4 月，推特上發布了一段視頻：一輛 Waymo 汽車正艱難地駛入高速公路，另一輛改裝過的克萊斯勒小貨車向其發出信號，并緩緩減速。之后，Waymo 汽車徑直穿過出口匝道，駛離了高速公路，像一個慌亂的少年在駕駛。
駕校教練和我們的父母總是強調高速公路上果斷決策的重要性，但在某些情況下，沒有多少教練能夠幫到我們。例如，當考慮到雙合并時，兩條高速公路相交，汽車都是從相反方向來的，沒有明確的通行條例或規則來規定你應該做什么，而且也不能只考慮安全通過，駕駛員們要觀察道路，根據直覺解決問題。
這也使自動駕駛成為深度學習的良好應用領域。工程師設計出一種人工智能軟件，可以訓練它在一個場景中可能運行的路徑，從而找出最有效的方法。其實，這種方法類似于游戲開發者提出的“發放獎勵給計算機”方法：獎勵計算機，然后作出改進。
然而，游戲比道路更廣泛。2016 年，Shalev-Shwartz 為一臺計算機提供了 10 萬左右的雙合并方案，推出了一個處理雙合并的函數，并設置了一個模型進行功能測試。第一天，大約 10 萬次模擬之后，只出現了一次事故，他調整了“獎勵”，使事故不再發生；第二天，他又發現了一場虛擬車禍，之后把這個問題修復了，但又發生了第三次事故，然后是第四次、第五次......
這個實驗讓 Shalev-Shwartz 很不安，因為模擬本身比實際駕駛更容易預測。如果這個算法應用到真正的高速公路上，那么會發生什么? Shalev-Shwartz 承認：“深度學習很好地概括了典型數據，這與它所預測的十分相似，但根據從未見過的東西來概括規律真的很困難。”
自動駕駛的概率安全
Herzberg 的事故是一場意外，因為在大量自動駕駛汽車中，出現事故的幾率只有百萬分之一，比如，自動駕駛汽車在長距離慢速行駛，在一個電腦預測不到的地方，公路上出現了一只袋鼠或者一位推著自行車走路的女士。
據科技新聞網站 The Information 報道，Uber 的軟件正確識別出了 Herzberg，但沒能識別出她的自行車。文章引用匿名人士的話，稱 Uber 的高管們認為其原因是系統不恰當地“調整”了算法，Uber 發言人則表示公司正在進行一次“自上而下的安全評估”。
AI 算法不能告訴我們為什么它選擇了一種特定方法來解決給定的問題，也不能告訴編程人員為什么一個特定案例會導致模型失敗。Shalev-Shwartz 解釋稱：“機器學習提供的是統計上的保證。它們告訴你，在概率為 99% 的情況下，你所學的函數接近于最優函數。”但不可避免的是，即使是最好的系統，也會有故障。
Mobileye 比任何公司都更清楚這一點。2013 年，Shashua 與 Elon Musk 達成協議，在每輛新的特斯拉上安裝 Mobileye 輔助駕駛系統，使汽車能夠在高速公路上自動駕駛。Elon Musk 并不是第一個與 Shashua 合作的人，但是 Shashua 首個認可的人。Shashua 在 Clara 測試之后表示：“Elon Musk 推動了行業發展，他把一切都推得很快。”
為了確保特斯拉沒有過分吹噓該系統的能力，Shashua 在位于 Fremont 的工廠里訪問了 Musk，并敦促他確保駕駛員把手放在方向盤上，以保證安全。
兩個月后，在 2015 年末，Musk 發布了特斯拉 Autopilot 輔助駕駛系統。他告訴駕駛員要把手放在方向盤上，一旦發生撞車事故，司機將對此負責，但似乎沒有人聽，系統在發現司機沒有手持方向盤時也不一定總會阻止他們。因此，幾個月內，YouTube 上就出現了很多特斯拉駕駛員睡著、玩 Jenga 或坐在后座的視頻。
2016 年 5 月，一名駕駛著特斯拉的司機在佛羅里達州高速公路上打開了 Autopilot，一輛卡車從相反的方向開過來，在陽光直射下，Mobileye 的攝像頭無法準確識別路況，車輛沒能剎車，而當時，駕駛員正走神。這輛車以每小時近 75 英里的速度撞上了卡車，駕駛員當場死亡。
此后，特斯拉調整了輔助駕駛系統，駕駛員必須把手放在方向盤上，無視警告的駕駛員將無法繼續使用該功能。而特斯拉發言人公開指責 Mobileye 的攝像頭激怒了 Shashua，因為該系統從來沒有被設計用來檢測交叉車流。不久，Shashua 表示與特斯拉終止合作，并表示，對于特斯拉來說，自動駕駛“只是一個小故事，但對我們來說，自動駕駛就是一切。”特斯拉表示，是自己首先提出取消合作，而不是 Mobileye，并拒絕對此發表評論。
事后，Mobileye 創建了一套“做”和“不做”的基本系統，取代了軟件的即時決定功能，努力確保汽車不會做出魯莽決策，即使以前沒有遇到過同類情況。去年，Mobileye 在一份研究報告中首次提出了“責任敏感安全（Responsibility-Sensitive Safety）”概念，試圖將人類駕駛員通過經驗所獲得的基本規則規范化，例如什么是安全跟隨車距。
Mobileye 稱這是保證安全性的數學模型，但正如 Shalev-Shwartz 所說，沒有哪個系統可以絕對萬無一失。的確，“責任敏感安全”是為了在事故發生時，對責任方作出裁決：是汽車傳感器出了問題，還是司機的錯？而這個問題的答案，對整個自動駕駛行業都至關重要。
Via：Bloomburg
雷鋒網注：6 項會員專享特權，全年 100 期精華內容，帶你深入淺出看懂自動駕駛。如果想加入雷鋒網「新智駕會員計劃」，歡迎點擊鏈接 ：http://www.qcxyk.com/aidrive/vip 或掃描海報下方二維碼了解詳情。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
