0
雷鋒網編者按：人工智能在 2017 年中的表現是不平凡的，國務院關于印發《新一代人工智能發展規劃》的通知、工業和信息化部關于印發《促進新一代人工智能產業發展三年行動計劃（2018-2020）》的通知，明確我國新一代人工智能發展的指導思想、戰略目標、重點任務和重點支持行業、重點應用。業內信息技術發展趨勢的指向標 Gartner 發布2017新興技術成熟度曲線，認為未來10年，人工智能將成為最具顛覆性的技術。DeepMind發布最新成果 AlphaGo Zero將 AlphaGo、Master 遠遠甩在身后，讓人工智能在大眾心中也留下了濃重的一筆。
AI 也攪動了安全行業的“一池春水”。不過，在啟明星辰集團助理總裁、核心研究院院長周濤看來，對AI 的一些誤解也可能讓人工智能攪亂網絡安全。以下內容為周濤在北向峰會上的演講精要。
人工智能的前景很大，現在政策已開始推動，相關分析機構的行業預測都給了市場信心，但在刨除火熱的概念，從應用場景的角度出發，業內對人工智能的理解是存在一些誤區。
目前行業對人工智能理解上主要有三大類誤區，第一大誤區是認為人工智能等于深度學習，好像深度學習能夠一統江湖，而傳統機器學習應用不算人工智能。事實上深度學習并不適合所有的應用場景，深度學習只是人工智能領域分支之一。
第二大誤區——削足適履，放棄安全領域的經驗積累，生搬 NLP、圖像識別領域的成功用例。但實際上攻防對抗會導致檢測對象的統計特征失效，NLP等領域算法完備性不強，與此同時深度學習的黑箱特性導致檢測結論可解釋性低。
對網絡安全應用環境的復雜性估計不足是第三大誤區，某些時候人們往往會以AlphaGo、圖片識別、機器翻譯等其他領域的成功經驗，樂觀預測網絡安全領域的應用前景，而忽略了同圖片識別、機器翻譯等典型人工智能應用相比，網絡安全分析的人工智能應用環境復雜度更高。
首先，要認清上限。以深度學習為例，其本質上是一種基于統計的學習方法，可適用的場景是相對模糊、非精確匹配，比如垃圾郵件識別、惡意域名識別、異常行為檢測。相反像二進制級惡意代碼識別和數據包特征識別這類需精確匹配的場景就不太可能適用。
其次，了解局限。學習類算法對于判斷結果往往無法給出精確解釋，傳統特征匹配雖然對未知威脅幾乎沒有檢測能力，但對已知威脅的檢測結果的解釋性最強。深度學習對未知威脅的檢測能力較強，但檢測結果的可解釋性最差，因此不同的場景、不同的業務，要用適合的檢測方法。
最后，要跳出深度學習的束縛，考慮人工智能領域其他的技術流派。深度學習適合的是解決“知其然，不知其所以然”的問題，但現階段對于網絡攻擊，我們是可以通過了解攻擊手段，而了解如何預防的。即對于網絡安全分析，一旦“知其然”，就基本“知其所以然”。人工智能領域符號主義的技術流派，在網絡安全分析中的價值可能會更大。
雷鋒網注：所謂北向，是指在網絡安全技術和方法領域，比較務虛的、總體的、架構式、戰略性等方面的方法，統稱為“北向方法”或“北向技術”。這一理念由啟明星辰首席戰略官潘柱廷首先提出，潘以其個人名義，邀請安全圈內大牛打造了北向峰會，是一場“神秘的”閉門會議。今年，雷鋒網宅客頻道作為10位“媒人”之一受邀參與北向峰會。
雷峰網版權文章，未經授權禁止轉載。詳情見轉載須知。
