0
“馮·諾伊曼架構存儲和計算分離的模型，已無法滿足人工智能應用的需求，計算存儲一體化將突破AI算力瓶頸?！边@是達摩院2020十大科技趨勢中的技術趨勢之一。
外界未預料到的是，早在這一趨勢誕生之前，達摩院就已經在存算一體領域排兵布陣，暗自發力。
近日，達摩院宣布在存算一體芯片的研究上取得新突破，成功研發全球首款基于DRAM的3D鍵合堆疊存算一體芯片。作為一條嶄新的技術分支，這顆芯片也許是芯片行業的一道曙光，但70年的馮·諾依曼攻計算體系幾乎已成為行業鐵律，要攻克技術和應用難題是持久戰，達摩院能否破局？
計算機領域的阿克琉斯之踵
二戰爆發期間，美國軍方要求彈道研究實驗室為陸軍炮彈部隊每天提供6張射表，按照當時的計算工具，需要雇傭200多名計算員至少2個月才能算完一張射表。
為此，美國集結了一群科學家，投資48萬美元，最終于1946年建造完成世界上第一臺通用電子計算機ENICA，實現每秒5000次加法或400次乘法的算力。這臺計算機若龐然大物，功耗也在千瓦級別。
ENICA建造完成后，團隊工程師馮·諾依曼寫了一份報告作為反思，報告明確提到，未來的計算機應該包括控制器、存儲器和運算器等組成部分，馮·諾依曼體系結構由此誕生。
馮·諾依曼體系結構意義重大，存儲與計算分離的設計，不僅簡化了計算機的設計，也讓編程和控制變得更簡單。
此后，馮·諾依曼體系結構、晶體管和布爾邏輯計算共同組成傳統計算機的三大基石，和硬件之上的軟件、匯編語言、編譯器、應用軟件共同推動計算系統向前發展。
時至今日，計算機經歷半個多世紀的迭代，雖然架構上也有不少改動，但始終沒能擺脫馮氏架構的束縛。
使用馮·諾依曼體系結構本身沒有問題，問題在于，AI技術的長足進步，對算力需求呈爆炸式增長，雖然多核并行加速技術提升算力的有效途徑之一，但在后摩爾時代，晶體管微縮逼近物理極限，芯片算力增長步履維艱。
最終，算力需求與實際增長之間的矛盾將根源指向馮·諾依曼架構存算分離的局限性。
計算與內存分離，在計算的過程中需要不斷通過總線交換數據，將數據從內存讀進CPU，計算完成后再寫回存儲。這一運轉方式讓馮·諾依曼架構成為計算機領域的阿克琉斯之踵。
一方面，內存發展的速度嚴重滯后于處理器的發展速度，處理器的算力以每兩年3.1倍的速度增長，而內存的性能每兩年只有1.4倍的提升，處理器和存儲器如同漏斗組合，狹窄的存儲器一端極大的影響了數據傳輸的速度。
另一方面，數據搬運對能量消耗巨大。數據顯示，數據從內存單元傳輸到計算單元需要的功耗大約是計算本身的200倍，真正用于計算的時間和功耗占比大大降低。
于是，業界學界在降低數據搬運開銷方面下功夫，高帶寬內存、高帶寬數據通信、提高存儲器的速度，增加片上存儲等方法一一涌現，不過這些方法都沒有改變數據存儲和處理的方式，只是某種程度上的緩解，不能從根本上解決馮·諾依曼架構瓶頸。為此，將計算和存儲合二為一的存算一體技術誕生。
實際上，這一技術早在90年代就已經被提出，但受限于技術的復雜度、高昂的設計成本以及應用場景的匱乏，過去幾十年，業界對存算一體芯片的研究進展緩慢。直至近幾年，英特爾、三星、美光等傳統半導體公司，Facebook、谷歌等都互聯網公司開始積極布局并逐漸誕生成果，也有諸如Mythic、Syntiant、知存科技、閃億半導體等初創公司涌入這一賽道，但如今尚未有一家公司的存算一體技術解決方案受到廣泛的市場認可。
面對這一現狀，阿里巴巴希望通過自研創新技術解決業界難題。
破技術局：達摩院走出新道路
眾所周知，平頭哥是阿里巴巴旗下的半導體公司，但雷峰網了解到，這顆存算一體芯片的研發來自達摩院。
阿里巴巴達摩院下設面向5個領域的16個實驗室，包括機器智能、數據計算、機器人、金融科技和X實驗室，其中計算技術實驗室是一支前沿芯片技術研究的精銳，由國內外名校畢業且擁有半導體大廠經驗研究人員組成，致力于計算、存儲和互聯芯片的前沿技術研究，研究方向涵蓋系統架構、計算機體系結構、芯片設計優化等領域。
達摩院成立的四年里，計算技術實驗室一直保持低調，但團隊出手就是精品，與產業鏈合作伙伴聯合研發出全球首款基于DRAM的3D鍵合堆疊存算一體芯片，這意味著，在存算一體技術領域達摩院走出了一條全新的路。
從全球來看，盡管存算一體技術的布局者眾多，但仍未有企業交出優秀的答卷，沒有成功的經驗借鑒，達摩院投入必須走一條自己的路！
2019年5月，項目啟動之初，達摩院計算技術實驗室科學家、該項目研發負責人鄭宏忠帶領團隊成員反復調研對比已有技術路線，例如近存儲、內存計算和內存執行計算，不同的技術路線都指向同樣的終極目標，即像人腦一樣，實現存儲和計算的完全融合。
在眾多方案中，達摩院走上了近存計算這條路，并且進一步選擇3D鍵合堆疊技術來實現。
“工藝成熟度和成本是我們選擇使用存儲邏輯鍵合的主要原因，盡管研發之路坎坷，但我們也一直沒有動搖?！编嵑曛冶硎?。
在鄭宏忠看來，很多存算一體的技術方案對整個系統架構的破壞性較強，對外部工藝、工具鏈以及應用的要求更苛刻，而通過鍵合的方式將計算和存儲相融合，既可以分開設計，又可以將其鍵合在一起。
而在此之前的設計工作，更是決定這場戰役成敗的關鍵。達摩院與其上下游合作伙伴深度合作，研發多個創新性技術。
例如其中內存單元采用了異質集成嵌入式DRAM（SeDRAM），擁有超大帶寬、超大容量等特點。計算芯片方面，達摩院研發設計了基于流的定制化加速器架構，對推薦系統端到端進行加速，包括匹配、粗排序、神經網絡計算、細排序等任務。
經達摩院實驗證明，這顆芯片與數據中心的推薦系統對于帶寬/存儲的需求完美匹配。大幅提升帶寬的同時還實現了超低功耗，展示了近存計算在數據中心場景的潛力。
測試顯示，在實際推薦系統應用中，該芯片相對于傳統CPU計算系統可以達到10倍以上性能提升和300倍的能效提升。這一成果很快也被國際頂級機構認可，相關論文已被ISSCC2022收錄。
“研發這顆芯片需要把技術路線的選擇與產品定義緊密結合，合適的技術才能解決真正的問題?！编嵑曛艺f道。
破應用局：三五年后見分曉
目前，全球范圍內布局存算一體技術的企業主要有存儲基因和計算基因兩類。例如，以三星為代表的存儲芯片廠商，研發的存算一體芯片偏存儲而輕計算，另一部分是以英特爾為代表的計算芯片廠商，偏計算而輕存儲。
阿里作為半導體領域的新人，依然擁有巨大的機會，其在實現存算平衡和計算架構設計上優勢明顯。
過去幾年，達摩院計算技術實驗室已有幾次創新性成果，這是團隊研發存算一體技術的硬實力。但不容忽視的是，阿里巴巴廣闊的應用場景是讓阿里成為存算一體從技術走向商業落地“破局者”的重要推力。
“豐富的應用場景是存算架構落地的關鍵推力。”鄭宏忠說道。
以搜索推薦為例，這一場景對內存帶寬、功耗、時延等方面有很高的要求，如果用傳統計算來實現，成本耗費高，但用存算的方式就能解決這些問題，同時降低成本。在前期的測試中，達摩院這顆存算一體芯片已經被證明能夠在推薦系統中展現了極大的應用價值。
瞄準真正的需求再做針對性的設計研發，正是達摩院區別于其他存算一體技術研發團隊的特點。
當然，達摩院并不會止步于此。達摩院表示，未來會逐步攻克技術難題，在三維堆疊的近存芯片后會進一步攻克存內計算技術。
另一方面，也會和阿里內部業務保持更緊密的合作，讓這一技術更快速地落地應用。
這是一項浩大的工程，也許需要3到5年的等待時間?！拔覀冄鐾强眨残枰_踏實地，對于一項全新的芯片技術來說，我們需要有足夠的耐心和定力?！?/p>
對于已誕生70年之久的馮·諾依曼計算機體系架構而言，這樣的等待時間并不算久，前期各大研究機構和企業的堅持投入是人類對極致算力追求的必然選擇，一旦這一技術走向市場，AI、VR/AR、天文探索這些場景終將迎來翻天覆地的變化，而存儲和計算芯片產業也將迎來新的格局！
雷峰網(公眾號：雷峰網)
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
