0
| 本文作者： 我在思考中 | 2021-08-31 11:28 |
作者 | 吳彤
編輯 | 青暮
買了Colab pro級會員，就一定能用上V100和P100？不，也有可能會分配到Tesla T4！
半個月前，谷歌推出pro+級會員，pro級會員“一臉懵逼”，在昨天的Reddit論壇上，網友“炸了鍋”。
目前，谷歌Colab的GPU主要有4種：K80、T4、P100 和 V100 ，按照基準測試結果，它們的性能排序是：K80<T4<P100<V100。
對于Colab用戶來說，充錢買Pro本身就是想要更好的算力，T4顯然不符合他們對于GPU的期待。
Colab 免費版、Pro 、Pro + 有啥不同？
對于學生黨和科研黨來說，能用到谷歌Colab訓練服務器的網站，即便是9.99 美元一個月（幾乎60元人民幣）的會員費，總比自己買或租 一個GPU 要劃算得多。
但Colab 又上線一款新的會員服務——Colab Pro+，一個月 49.99 美元（幾乎一個月300元人民幣），對于習慣了 9.99 美元的用戶來說，49.99 美元屬實有點貴了。而且，這樣一來，pro會員就處于尷尬的境地，“會員之上還有會員，四舍五入等于沒買？”
至于這一個月 50 刀的花費，究竟升級了什么，谷歌在“常見問題解答”里寫得非常清楚。總結一下就是：
免費的就只能用老古董 K80，Pro 和 Pro+ 用戶可以使用 T4 和 P100 GPU，還可以優先使用 TPU；
Colab Pro+ 訂閱者能享受更高的連接穩定性，即使關閉計算機或瀏覽器標簽頁后，筆記本也能繼續執行，上限是 24 小時。
但是，在幾乎所有服務中，資源供應還是沒有保證，并且依然存在用量限額。
以下是問題解答的詳細內容：
Colab Pro 和 Pro+ 提供哪些類型的 GPU？
訂閱 Colab Pro 后，用戶可以優先使用谷歌最快的 GPU；訂閱 Pro+ 后，還可獲享更多福利。例如，有時，當非訂閱者只能使用 K80 GPU 時，訂閱者卻可以使用 T4 和 P100 GPU。此外，用戶還可以優先使用 TPU。但是 Colab Pro 和 Pro+ 依然存在用量限額，并且可用的 GPU 和 TPU 類型可能會不時變化。
在免費版 Colab 中，用戶對較快 GPU 和 TPU 的使用權限非常有限，用量額度也比 Colab Pro 和 Pro+ 低很多。
Colab Pro 和 Pro+ 中的筆記本可以運行多久？
在 Colab Pro 中，筆記本可以保持連接長達 24 小時，空閑超時設置相對寬松。但實際連接時長并沒有保證，空閑超時設置有時會變化。Colab Pro+ 訂閱者還可獲享更高的連接穩定性。
在免費版 Colab 中，筆記本最長可以運行 12 小時，空閑超時設置比 Colab Pro 或 Pro+ 嚴格很多。
Colab Pro 和 Pro+ 提供多大內存？
訂閱 Colab Pro 后，用戶可以優先使用高內存虛擬機。訂閱 Pro+ 后，還可獲享更多福利。這些虛擬機的磁盤空間通常比標準 Colab 虛擬機大很多，訂閱后可以通過一項筆記本設置啟用高內存虛擬機。此外，當 Colab 檢測到用戶可能需要高內存虛擬機時，有時可能還會自動分配這樣的虛擬機。
Colab Pro 和 Pro+ 虛擬機的磁盤空間通常也比標準 Colab 虛擬機大很多。不過，并不能保證資源供應，高內存虛擬機也存在用量限額。
免費版 Colab 不提供高內存偏好設置，也很少向用戶自動分配高內存虛擬機。
什么是“后臺執行”？
訂閱 Colab Pro+ 后即可使用后臺執行功能，當用戶關閉計算機或瀏覽器標簽頁后，筆記本也能繼續執行，并且執行時間可達虛擬機的生命周期上限，即 24 小時。在執行完每個單元格后，輸出將保存到云端硬盤。和往常一樣，資源供應并沒有保證，并且依然存在用量限額。
Colab Pro 用戶的執行時間更久，并且如果供應情況允許，用戶可以將輸出保存到云端硬盤。
如果用戶沒有訂閱付費服務，則不能依賴于后臺執行功能，當用戶互動停止時，執行就會中斷，接著系統很快就會刪除虛擬機。
為什么 Colab Pro 或 Pro+ 不能就資源供應做出保證？
為了在 Colab 中以相對較低的價格提供更快的 GPU、更長的運行時和更大的內存，Colab 需要保持即時調整用量限額和硬件供應情況的靈活性。雖然無法做出保證，但預計只要將 Colab Pro 和 Pro+ 用于預定用途（即交互式計算），大多數訂閱者遇到的用量限額問題會少之又少。
如何才能充分利用 Colab Pro 和 Pro+？
Colab Pro 和 Pro+ 中的資源會優先提供給最近資源用量較少的訂閱者，以防少數用戶獨占有限的資源。為充分利用 Colab Pro 和 Pro+，請在完成工作后關閉 Colab 標簽頁，并在沒有實際需求時避免選用 GPU 或額外內存。這樣，用戶在 Colab Pro 和 Pro+ 中遇到用量限額的情況就會減少。
Colab Pro 和 Pro+ 已在哪些地區推出？
Colab Pro 和 Pro+ 目前僅在以下國家 / 地區推出：美國、加拿大、日本、巴西、德國、法國、印度、英國和泰國。
網友：Pro + 是來擠占 Pro 資源的？
在國外Reddit 論壇上，一些網友對谷歌新上線的付費模式展開了討論：49.99 刀的 Pro + 用戶突然出現，Pro 用戶可能不再擁有那樣的優先權了……
“Colab Pro+ 看起來像幾個月前的 Colab Pro，免費 Colab 用戶以后豈不是要卑微到塵埃里？”
也有網友表示認同：谷歌該賺點錢了
相當于你付了會員費，但享受著約等于原來免費用戶的權益。谷歌是下決心要用 Colab 賺點錢了？
谷歌Colab近年來動作不斷，或許早已計劃付費
去年有人發現，自己在運行 Colab 時獲得的 GPU 是 Tesla V100：“是 V100，而不是 P100。因為我是 Colab pro版用戶。”
但其實近三年來，Colab 的硬件歷經幾次升級。
先是19年 4 月，谷歌將 Colab 的 GPU 從古董級別的 K80 升級到了更加適合做低精度的推斷的 Tesla T4，訓練比 K80 快了很多。
19年 11 月，Colab 又一次開放了 P100，一年之內兩次硬件升級。
要知道，Tesla V100 是英偉達上一代處理器架構 Volta 的首款設備，發布于 2017 年 5 月，其核心 GV100 GPU 包含 211 億個晶體管，是上代 Tesla P100 的 1.37 倍，芯片面積則達到了 815 平方毫米，采用臺積電 12nm FFN 專屬工藝打造。
從薅羊毛的角度來說，P100 的性能已經足夠優秀，但 V100 顯然更加強大。
如今谷歌推出pro+會員，網友們在登錄Colab后發現，事情沒有想象得這么糟糕。
不少人去試了試，發現對于pro會員，搞到一個P100 GPU還是很容易的，應該不是想象中的“官方Pro降級”。“Pro會員拿到T4”的具體原因，可能只是恰好趕上了使用高峰期；此外，如果經常在高峰期大量使用GPU，會員的優先級也會下降。
但這并不意味著某個會員就一定能用上某個型號的顯卡。
從這幾年來看，谷歌Colab一直是采用免費的商業策略：先通過免費的東西把用戶吸引過來，再挑選合適的商品賣給一部分用戶。免費背后，本質是一種交叉補貼。
于是，靠補貼吸引用戶就成為前期標準動作，之后再找商戶就容易了。這也能解釋谷歌從不斷升級硬件時，就已經埋下了付費的注腳。
資料來源：
https://twitter.com/slashML/status/1432004668557709320
https://mp.weixin.qq.com/s/FiG3ZhKYnKOdq7BUiafmPQ
https://www.microway.com/hpc-tech-tips/nvidia-turing-tesla-t4-hpc-performance-benchmarks/tesla_comparison_t4-p100-v100/
贈書福利
AI科技評論本次聯合Springer為大家帶來5本周志華教授親筆簽名的《Machine Learning》正版新書。
在AI科技評論8月28日頭條文章“周志華《西瓜書》上線英文版！”（注意不是本文，僅限AI科技評論微信公眾號端）留言區留言，歡迎大家暢所欲言，談一談你對本書的看法和期待。在綜合留言質量（留言是敷衍還是走心）和留言點贊最高（注：點贊最高的前5不意味著一定會中獎）的讀者中選出5位讀者獲得贈書。獲得贈書的讀者請聯系 AI 科技評論客服（aitechreview）。
留言內容會有篩選，例如“選我上去”、“這書寫的很棒（僅僅幾個字）”等內容將不會被篩選，亦不會中獎。
留言送書活動時間為2021年8月28日 - 2021年9月01日（23:00），活動推送時間內僅允許贈書福利中獎一次。
雷鋒網雷鋒網雷鋒網
雷峰網特約稿件，未經授權禁止轉載。詳情見轉載須知。
