0
| 本文作者： 利榮 | 2020-08-16 08:45 | 專題：CCF-GAIR 2020 全球人工智能與機器人峰會 |
雷鋒網按：2020 年 8 月 7 日，全球人工智能和機器人峰會（CCF-GAIR 2020）正式開幕。CCF-GAIR 2020 峰會由中國計算機學會（CCF）主辦，香港中文大學（深圳）、雷鋒網(公眾號：雷鋒網)聯合承辦，鵬城實驗室、深圳市人工智能與機器人研究院協辦。
8月8日，本次峰會智能駕駛專場上，是騰訊產業安全運營部總經理呂一平為與線上線下的會者們帶來了一場“安全左移，智能網聯安全從研發做起”的精彩報告。
呂一平強調，信息安全應該成為智能網聯汽車安全管理非常重要的一個部分。
呂一平提到，汽車信息安全領域現在還沒有很好的測評體系，對車的安全來講，一個維度是設計安全，整個選型的時候需有必要的安全考量。如果設計階段就可以考慮更多安全因素的話，就可以規避很多安全問題，而且解決安全問題的成本會比較低。
以下是呂一平的演講全文，雷鋒網新智駕進行了不改變原意的編輯：
大家如果對我們了解不是很深入的話，電影《速度與激情8》可以給大家更直觀的感受，其中很多車輛可以被黑客控制，這就是未來的信息安全。當我們把汽車的控制權交給系統以后，信息安全就給車輛帶來了挑戰。
過去我們分享了很多信息安全對車輛的重要性的觀點，今天就不重復了。首先我要明確一個觀點：汽車是對質量、品質等把控非常嚴謹的行業，新技術在汽車上的應用情況一定是技術先行，然后國家相關的規范、標準才緊隨其后，最后才是合規性的認證等流程。
簡言之，技術應用一定是比規范、標準和認證更超前。
對信息安全、或者對網絡安全來講，在汽車領域又是一個新領域，因此其技術也會比規范更超前。
那么，我們如何把信息安全作為質量控制的一部分納入質量管理體系里面？
我認為信息安全是整車、甚至是智能駕駛的一個體系。剛剛滴滴也提到，在滴滴整個自動駕駛框架里面，信息安全也是很重要的一部分。
我今天的演講主題為什么是 “安全左移”？
很多汽車專家都在問同樣的問題—如何用更小的代價、更可控的成本和投入來解決信息安全問題、從而確保車聯網引入自動駕駛之后是安全的。
所以，我今天帶來了我們自己的一些觀點和大家分享。
目前在汽車信息安全領域還沒有很好的測評體系，我們再做了大量研究和實踐以后總結出了自己的體會和心得：對于汽車的安全來講，一個維度是設計安全，整個選型的時候要有安全的考量。另一個維度是汽車研發。
值得一提的是，現在汽車研發分兩個部分，越來越多OEM團隊做自己軟件的代碼，以及目前很火的軟件定義汽車。
無論是國際車廠和國內車廠，他們都成立了軟件公司或者軟件開發子公司，目前已經形成了這樣的趨勢，就是Tir1的研發工作逐漸轉移到OEM身上。
那么，我們在和他們合作的過程中發現，很多問題和設計相關，也與工程實踐相關。
如何提升智能網聯的設計和工程實踐呢？
從上圖可以看出，如果在設計層面、實踐層面做的好的話，車輛的信息安全方面就會更安全一些。
更重要的是，安全領域有一個理念，如果設計階段就可以考慮更多安全因素的話，就可以規避很多安全問題，同時解決安全問題的成本會比較低。
對于一輛汽車而言，不管是車端、云端還是移動端，都存在大量入口。以前汽車沒有這些問題，因為汽車最開始跟互聯網沒有任何聯系，也沒有接口可以跟世界做交互。
為什么汽車現在成為了我們的關注點呢？
因為現在一輛車上有太多的接口，不管是遠距的接口，還是物理的接口，都會跟世界產生聯系。
比如說從WIFI到藍牙、很多遠距的接口和物理的接口，以及通過充電樁進行交互，甚至包括L2、L2+自動駕駛系統，以及現場專家提到的車路協同，目前都跟車有了很多交互。
其實，上述這些“點”也成為攻擊車輛、讓車輛產生信息安全問題的入口。騰訊安全科恩實驗室在過去幾年通過大量接口，比如在3G、4G網絡上和ADAS上，都證明了這些對外交互的接口可以對車輛信息安全造成影響。
例如，2016年我們第一次研究了特斯拉并公布了成果，這也是一系列安全問題造成的結果。
因為特斯拉是比較早引入了軟件定義汽車架構的OEM，其絕大部分代碼都是自研，但特斯拉在2016年出現的設計問題偏多。
具體包括，在未經通過授權的遠程控制當中可以看到瀏覽器的版本很低，以及系統內核也存在了很多系統漏洞等問題。
值得一提的是，OTA對固件完整性和安全性的校驗是非常重要的，但是2016年特斯拉沒有加入這個強校驗，導致最后我們可以替換特斯拉車聯網關的物件，最終我們可以向特斯拉總線發送各種控制命令，導致了特斯拉的問題。
這些問題如果在設計階段就考慮的話，其實是可以規避的。
當然特斯拉有一個好處，他們比較早的考慮到了可以通過設計技術來升級軟件，同時他們都是自研大部分軟件。
2016年我們向特斯拉報告這些問題以后，他們快速的把這些缺陷都彌補了，比如把瀏覽器升級到了最新、內核也進行了升級，以及在網關OTA也進行了代碼簽名，以此能夠保證在任何一個OTA的時候有一個強安全校驗來保證安全性。
在我們安全領域有句俗語，“道高一尺、魔高一丈”。意思是安全圈子里面各有各的能力和手段。
因此，我們接下來繼續對特斯拉進行深入分析以后，在其代碼實現層面上又發現了新的問題，并且發現了特斯拉自己都沒有發現的漏洞。
特斯拉在網關上雖然增加了簽名校驗，但是在工程實踐上的邏輯是有問題的。
更有意思的是，特斯拉在2016年和2017年最大的區別就是，2016年沒有考慮到設計層面的問題，到了2017年，其在設計層面已經做的非常好了，但是在工程實踐上又有小問題出現。
2020年，特斯拉的整體能力與2017年相比又有了很大的進步。現在他們是不僅在安全設計角度已經做的很好，在工程實踐角度也做得很好，這是值得中國汽車從業人員參考的。
總結可以發現，一方面是軟件定義汽車的比重越來越高，另一方面是隨著自動駕駛體系的引入，當真正要把駕駛決策交給系統的時候，期待的是它要比人更安全。但如果信息安全沒有做好的話，不一定會比人的決策更安全。
2019年我們做了一個和自動駕駛相關的研究，如果自動駕駛系統出現問題的話，會有什么危害？
看了視頻之后大家就有比較直觀的感覺，里面涉及兩類問題，一類是自動駕駛與人工智能算法對抗，另一類是車道識別。
當然特斯拉也有炫技部分，其中前置攝像頭可以感知車道線，此外特斯拉全視覺的高級輔助駕駛方案沒有涉及到毫米波雷達、激光雷達等傳感器。
不過，我們研究了他們的算法和神經網絡以后，在地面上布置了幾個干擾點，就可以引領他們進入錯誤的車道。這也涉及到人工智能算法決策的對抗技術。
日前，一輛特斯拉Model 3在臺灣高速公路上直接撞向了一輛側翻在地的廂式貨車。事故發生當時前方的白色卡車是橫向插入特斯拉所在車道。事故發生前，這輛特斯拉Model 3開啟了自動輔助駕駛，但駕駛員沒有專注前方道路，因此造成事故發生。也就是說，特斯拉自動駕駛的傳感器并沒有發現前方有一輛側翻的貨車。
通過對特斯拉的研究發現，在安全領域又有一個新的攻擊角度，就是特斯拉上面的APE模塊，這本身是跟互聯網發生交互的。因為車輛是聯網的，如果我們把自動駕駛的角色搞定之后，通過一個游戲機的手柄就可以控制車輛。
那么，我們在算法層面上如何更安全、又如何規避更多的樣本對抗問題？如何保證自動駕駛系統安全可以做的更好？
當我們把這些問題報給特斯拉以后，比如系統安全的問題，特斯拉很快給了回應，稱很好解決。在我們報告問題一個月之后，特斯拉官網就做了調整，他們就自動駕駛算法、樣本對抗修復的過程與我們進行了溝通。
與此同時，特斯拉也給了一種說法，啟動L2級自動駕駛時，駕駛員的手不能脫離方向盤，要高度保持關注度。當然，這是他們看到我們報告的問題之后進行的策略調整。
當自動駕駛引入以后，特別是算法層面的問題，其修復成本和代價會變高。因為，調整算法意味著要重新采集數據、重新做數據訓練、重新做仿真、路測，最后再做驗證算法。
剛才滴滴也提到了安全問題，但是他們關注的是行駛安全，我們把駕駛交給系統以后，對算法進行任何的調整，都要進行大量的實踐。
所以，在自動駕駛系統設計階段，安全性的考量會變的更加重要，如果在設計階段我們不去考慮這些問題，應用之后再做修復和調整的話，代價會比系統級帶來的安全問題更高。
對于智能網聯汽車而言，常見的問題有：
如上圖所示，越往左邊，整個設計架構能夠解決的問題，大家在設計的時候就盡量要考慮這些問題、并且解決掉。右邊的是比較困難的，可以選擇在工程實踐階段解決這些問題。
簡言之，在設計方面解決的問題越多，成本就會越低。
如果在設計層面把安全做好，對于自動駕駛而言就是原生安全。
對于汽車而言，是一個碎片化非常嚴重的行業。面對價格體系千差萬別的汽車行業，要把重點要放在人身安全上。
那么，如何保證人身安全？
目前的自動駕駛汽車操作系統不統一，硬件也不統一，整個供應鏈也處于非常碎片化、甚至非常復雜的階段。此外，它不可能像PC和移動一樣有通用的操作系統。
在我們看來，如果在設計階段，自動駕駛系統本身安全性做的很好的話，就可以解決該問題。
針對上述問題，如何應對和實踐就變得非常重要。
首先，在研發階段引入更多的工具來解決這個問題，該措施在互聯網領域已經使用很多了，比如可以通過監控來解決這個問題。
未來，自動駕駛算法的研發和迭代的速度與原來都會不同，包括OTA功能引入以后，很多軟件迭代的速度也會越來越快。
所以從安全角度來講，需要考慮當原來傳統的V Model逐步轉向快速迭代的軟件定義汽車的時候，如何在研發過程當中考慮到安全實踐是非常重要的。
其實，我們也有一些實踐方法來保證軟件快速迭代當中的安全。但是汽車行業有自己的特殊性，很多方法需要在汽車行業里面做深入的實踐，同時要契合汽車行業的實際情況。
騰訊作為汽車快速數字化轉型的助手，有以下建議：
人的層面：先做到“有專門團隊負責信息安全”，再考慮“信息安全是每個人的責任”；找專業的人做專業的事情；
技術層面：將PC、、移動端已經成熟的完全技術、結合具體業務場景定制、按優先級順序應用到自能網聯中；選擇合適的自動化工具，應用到安全開發流程中。
流程層面：安全左移，大多數安全隱患可以在需求設計階段層面解決，低成本高回報；通過測試驗證需求是否滿足，發現實現安全問題。
總之，強調一個觀點就是信息安全應該成為智能網聯汽車安全管理非常重要的一個部分。
雷鋒網 雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
專題
