0
| 本文作者： 李揚霞 | 2021-12-13 23:42 | 專題：GAIR 2021 |
自疫情以來，全球數字經濟迎來爆發式增長機遇。數字經濟成為促進中國經濟發展的關鍵力量，數據也成為我國第五大生產要素。
在大力推進數字經濟建設的背景下，我們究竟該如何平衡隱私安全監管和數據產業發展之間的關系？在這個問題上，隱私計算正被政策界、產業界、投資界寄予厚望。
實際上，已經有不少互聯網平臺因數據安全和隱私泄露問題頻頻上話題熱搜。各國政府對隱私和數據安全問題越來越重視。
在經歷了2019年技術普及和市場教育、2020年大規模概念驗證和試點部署階段，2021年隱私計算嘗試進入規模化應用階段。
此前，IT咨詢與研究機構Gartner更是將隱私增強技術列為2021年9項重要的戰略科技趨勢之一。據其分析，限于分析能力、隱私安全性等原因，大約有97%的數據尚未被利用起來；到2025年，將有一半的大型企業機構使用隱私計算在不受信任的環境和多方數據分析用例中處理數據。
2021年即將接近尾聲，隨著《數據安全法》和《個人信息保護法》的相繼落地，這個因監管而生又迎政策紅利的技術，這一年來發展狀況如何？未來發展趨勢怎樣？這一技術又如何幫助企業應對法律對于數據安全和隱私保護合規挑戰？
雷峰網作為國內前沿的科技媒體，持續關注“智能與未來”，對全球前沿的技術和趨勢進行深入觀察和調研。因此關于數據安全與隱私計算技術對于行業、領域以及社會發展所帶來的影響，也是我們所關注的和報道的，從而希望能夠引起社會各界的思考。
2021·年12月9日至10日，由粵港澳大灣區人工智能與機器人聯合會、雷峰網(公眾號：雷峰網)聯合主辦，深圳市人工智能與機器人研究院、深圳市機器人協會、深圳市人工智能學會支持的第六屆GAIR全球人工智能與機器人大會，成功舉辦。
其中《數據安全與隱私計算》分論壇，作為今年新增分論壇也備受矚目。本次論壇以《直面數據安全風險和挑戰；挖掘隱私計算的100%可為》為主題，共話數據安全和隱私計算的當下與未來。會議現場我們邀請到了七位演講嘉賓和六位圓桌論壇嘉賓暢所欲言。
信通院云大所副所長 魏凱；
加拿大工程院院士、加拿大皇家科學院院士、微眾銀行首席人工智能官 楊強；
小米集團副總裁、安全與隱私委員會主席、集團技術委員會主席 崔寶秋；
騰訊云安全總經理 李濱；
中國電信聯邦學習發起人、研究院終端技術與標準研究員 潘碧瑩；
瑞萊智慧RealA首席架構師 徐世真
同盾科技合伙人兼人工智能研究院院長，中科院醫學所首席教授 李曉林；
論壇最后，信工所研究員、博導、信息安全國家重點實驗室副主任侯銳作為主持人與星云CTO張駿雪；洞見科技創始人、董事長姚明；上海富數科技有限公司智能決策分析部負責人吳海斌；瑞萊智慧RealAI首席架構師徐世真；基石資本、天使基金合伙人黃依群；沸點資本董事總經理馬蘭從創業公司、學術、以及投資人三種不同的角度就數據安全和隱私計算這一話題展開激烈討論，不同嘉賓的觀點碰撞，以及深入淺出的分析，令人眼界大開、思維震蕩！
以下是本次大會精彩回顧：
一、魏凱：數據流通的從1.0階段到3.0階段，隱私計算技術是關鍵
會議現場，信通院云大所副所長魏凱發表了《隱私計算發展現狀與趨勢》的主題演講，
首先分享了數據流通從1.0時代到3.0時代，隱私計算技術發揮的重要的支撐作用，和國內外發展概況；其次從隱私計算解決了什么問題、隱私計算產品的成熟度、可用性、安全性評判、隱私計算的使用與合規以及隱私計算發展趨勢進行了深入分析；最后點出了隱私計算面臨的三大問題，以及信通院為推動隱私計算更好的應用從政策研究、標準制定、成立了隱私計算聯盟等進行的實踐。
隨著國家數據戰略的深化推進，大數據本身的基礎設施建設和數據資源的建設，在賦能數字經濟的作用價值被人們所看到。如何保障數據在不同主體之間安全可信的共享，隱私計算成為關鍵技術。
魏凱表示：“數據流通在1.0階段蘊含了很多的風險，裸數據交付較多，一旦流通出去安全風險不可預估。如今數據流通模式發生改變，隱私計算讓數據變成融合后的結果，因此升級進入了數據流通的3.0階段。”
我們之所以能夠跨越到數據流通的3.0階段，很重要的一個技術前提就是隱私計算這一類技術的支撐。他認為，“雖然隱私計算改變了數據交互與融合的模式，提出了一種新的形態，保障了從數據源、數據傳輸渠道、數據匯聚通道和使用方等數據流通環節的安全。但實際上沒有辦法解決數據在流通之前和之后的權屬爭議，因此也不能成為一種豁免法律義務的擋箭牌，這是毫無疑問的。”
隱私計算產品的成熟度、可用性，也是我們所關注的。考察隱私計算產品的技術水平應該從綜合的角度來去評判，包括性能、安全性和準確程度，這三者缺一不可。
“隱私計算的使用和合規不能劃等號”。首先，法律法規不會對技術的應用做非常確切的判斷，無論是隱私計算技術還是人工智能技術的使用，法律上不會從條文上判斷使用是否合法，從合法性給出確切的定義。法律只看是否侵犯相關的利益。因此在實踐中要趨近于法律的最小化原則，除了技術之外還要考慮商業模式是否合規、數據來源以及授權是否合法、數據使用的目的是否正當等問題。我們要持續性的看待技術的演進和法律合規落地之間的關系。
最后魏凱指出，目前隱私計算這類產品還面臨安全性挑戰、性能的瓶頸、互聯互通三座大山。未來隱私計算發展趨勢會是外部的互聯互通和內部融合的發展方向。類似與云計算、大數據平臺、數據庫、區塊鏈、AI等技術融合發展，平臺產品間互聯互通，打破隱私計算孤島。
二、楊強：人工智能建設離不開數據，聯邦學習讓數據發揮價值
加拿大工程院院士、加拿大皇家科學院院士，微眾銀行首席人工智能官楊強，帶來了主題為《數據要素與聯邦學習》的演講。
他以“人工智能離不開數據”引入，指明人工智能模型的建設需要數據，但是數據維度、樣本數都非常少、數據所屬和來源各不相同以及數據安全合規越來越嚴，因此亟需一個更強的工程和科學發展來應對這種需求，因此提出了聯邦學習。聯邦學習可以讓數據可用而不可見。
他表示從時間上來看隱私計算基本經歷了四個發展階段：安全多方計算（MPC）、差分隱私（DP）、集中加密計算（TEE）、聯邦學習（FL）。其實在數據可用而不可見的范疇內，我們可以用各種各樣的技術手段來解決問題，進而隨著技術不斷發展，形成大數據流通和隱私計算的行業生態。
而聯邦學習的方法是讓“數據不動、模型動”，模型參數加密以不暴露原始數據和各方模型。楊強還介紹了橫向聯邦學習和縱向聯邦學習帶來的作用。其中有一個典型的場景：“互聯網公司可以提供用戶畫像的信息，但它卻沒有銀行風險控制的信息。銀行有用戶借款的信息以及逾期率，但卻不知道用戶平時上網的行為、看視頻的喜好等等。如果能把兩種信息聚合起來，那么風險模型就會更靠譜，壞賬率也會變低，這就是縱向聯邦學習的作用。”
據介紹聯邦學習目前國內國外也都在建立相關標準，國內楊強團隊領導IEEE建立全球首個聯邦學習標準，同時也做了世界上第一個開源平臺FATE，貢獻給Linux Foundation，聯邦學習還被納入Gartner技術成熟度曲線，成為下一代隱私計算發展的關鍵。
此外聯邦學習還可以應用在人工智能模型上一是語音識別，二是圖像識別。具體來看主要有裝備制造業、物聯網AIoT、智慧安防等行業還有智能推薦、銀行反洗錢、企業之間大數據合作、醫療健康、無人車、風控、等領域。
楊強表示：“微眾銀行FATE軟件除了開源版還有商業版，可以應用于營銷、保險、企業服務、物聯網、智慧城市、KYC（安全保障）、投資理財等。大家可以放心的加入到生態中，讓數據發揮價值。”
三、崔寶秋，安全隱私為美好生活保駕護航
隨后，小米集團副總裁、安全與隱私委員會主席崔寶秋，發表了主題為《“手機x AIoT”隱私保護技術》的演講。他分享了小米在信息安全和隱私保護領域所做的工作和發展歷程，帶來了小米的安全隱私實踐。
“作為一家互聯網公司，如果沒有自己的信息安全團隊，那么就像裸奔。”崔寶秋在2012年加入小米，就主推成立小米信息安全與隱私保護委員會。后來2016年小米的MIUI操作系統拿到了TRUSTe的隱私認證，之后陸陸續續拿到了更多的隱私和安全認證，因此2018年GDPR正式生效，沒有對小米產生影響。
他總結了小米的隱私合規體系，主要圍繞組織保障與隱私意識、管理體系與流程、信息安全與隱私保護權威驗證三大方面。并沉淀了五大隱私保護原則：分別是公開透明、用戶可控、企業責任、安全保障和法律合規。
他認為：“雖然行業內認為安全和隱私三分靠技術，七分靠管理。但是今天應該反過來，三分靠管理，七分靠技術，甚至更多分的要靠技術。”
接下來他分享了小米在安全隱私領域做的事情。首先在頂層，小米有一個強大的組織架構的保障，一套成熟的隱私合規體系。其次是下層全部靠技術，包括手機的全鏈路安全隱私防護、IoT平臺化的安全隱私保護技術，以及AI算法中的各種安全隱私應用。
其中小米手機團隊基于開源技術自研了小米的可信執行環境MiTee，并在手機端廣泛使用差分隱私技術，同時還有米家安全芯片等硬件安全方案以及軟件安全方案，像MACE移動端深度學習框架，可以把用戶的隱私數據留在端上，不傳到云端。用實踐證明了沒有技術就沒有小米的安全隱私保護能力。
最后，崔寶秋表示就安全與隱私來說，小米的使命是“安全隱私為美好生活保駕護航”。
四、李濱：“新時代”數據安全與隱私計算如何破局
新時代下，我們處于百年未有之大變局，對于數據安全和隱私保護的要求也有所不同。會議現場，騰訊云安全總經理李濱發表了題為《“新時代”數據安全與隱私計算的挑戰和實踐》的演講。
他表示新時代下，我們面臨新環境、新技術以及全新的產業時代。數據成為新的生產要素，數據安全和網絡空間安全也成為制約企業發展的關鍵命題。
在過去幾年，針對用戶數據以及用戶個人信息的攻擊是愈演愈烈的。2018年左右全球公開數據泄露的總量在20多億條，2019年達到50億條，2020年已經超過了100億條。今年前兩個月，在國內公布的一例案件里，查獲涉及我國公民的數據侵權達到56億條。
李濱表示：“我國近年來在數據安全和隱私保護的監管和合規要求越來越嚴格，各項技術、標準、實踐落地越來越清晰，今天面臨的是“五法共治”的數據安全合規體系，包括原來的《網絡安全法》，以及比較今年的《數據安全法》、《個人信息保護法》、《密碼法》等等，都對今后的數據安全和個人信息保護提出了綱領性指引。”
他總結了數據安全的五大風險：
一是外部攻擊威脅。包括黑客攻擊，數據泄露事件，以及這幾年愈演愈烈的勒索軟件、挖礦等攻擊事件，與日俱增；
二是內部安全風險。對于企業來說，擁有大量高價值的數據，因此要考慮內部控制和反舞弊風險，防止內部對數據的濫用、誤用及竊取；
三是數據第三方風險。企業數據面臨大量的交換、共享以及不可控的數據邊界，比如端側App等，這其實不屬于企業業務本身所屬的資產范圍，但是在非受控的三方環境中怎樣保證數據安全，也是比較大的挑戰；
四是合規/治理風險。對于諸多設施、應用、服務，如何清晰地了解數據分布的全景圖，制定合理的解決方案和治理策略，也是一個挑戰；
五是供應鏈風險。在數據供應鏈以及軟件供應鏈等方面都面臨一定風險。
面對如此多的風險，在數據的產生/獲取、傳輸、存儲、使用的過程中，每一個環節都需要做安全防護，數據如何安全有效治理。李濱認為，“如此多的數據安全環節都需要安全防護，每個環節涉及的產品技術都有好幾種，那么這個解決方案本身就是問題所在。因此我們在數據安全和隱私保護時不僅要強調過去的安全性還要注重高效率、高性能、可靠性以及經濟性。”
最后他分享了騰訊的云原生數據安全實踐，講述了騰訊云在數據安全領域的實踐和探索。
五、潘碧瑩：AI隱私終端安全與實踐
中國電信聯邦學習發起人，研究院終端技術與標準研究員潘碧瑩，帶來了主題是《AI隱私安全研究與實踐》的演講。主要介紹了AI數據隱私安全的背景和現狀以及關鍵技術，還有中國電信在AI數據隱私安全的實踐工作。
從2018年開始，手機開始具備AI算法的計算加速能力。隨著計算能力提升和能效大幅度的提升，催生出了一波圖象優化、生物特征識別、智能問答、語音合成、文本識別等等的AI應用在終端上面的廣泛使用。但隨之而來也引導出了AI隱私終端的安全問題。
潘碧瑩從終端隱私和AI應用隱私兩個方面揭露了數據安全所面臨的問題，一是自動化決策的合規問題，二是數據采集和訪問的合規問題。比如個人信息采集更便利、權限管理等問題，在AI應用隱私方面，存在錯誤授權過渡索權、超范圍收集個人隱私以及在用戶不知情的情況下收集個人隱私等問題。這讓用戶產生擔憂。
目前國際主要組織，例如歐盟，還有中國、英國、美國等都在制訂AI隱私安全方面的政策法規。
隨著標準的完善，AI數據隱私安全相關的關鍵技術也逐漸成為重要支撐。但是差分隱私、多方安全計算以及聯邦學習在AI終端上面的應用，還存在一些難點。比方，差分隱私是一種以損失精度為代價的隱私保護機制；多方安全計算需要各參與方在交互通信來實現加法和乘法的操作，所以如何設計協議，降低通信開銷成為應用難點；聯邦學習的終端的算力與模型訓練的算力需求還有一定的差距以及用戶數據分布的問題，導致聯邦協定在AI終端上面成為一個應用難點。
潘碧瑩表示：“中國電信積極參與主導標準制定，以及構建平臺產品來助推AI數據隱私安全保護。”
中國電信在GSMA成立了TSGAI工作組，促進人工智能在移動設備上的實施。在今年的時候也發布了業界第一份AI終端規范。以及在今年三月份，中國電信在IEEE成立了P2986工作組，主導聯邦學習隱私安全要求標準，目前有18家公司和研究機構參與。同時構建諸葛AI平臺，這一平臺是具備中國電信特色可商用的聯邦學習平臺。
最后，潘碧瑩表明，目前中國電信已經在營銷領域開展實踐，合作伙伴可以通過中國電信諸葛AI平臺，結合中國電信海量數據，在不交換原始數據和標簽的前提下，進行更精確的定位營銷。未來還會在更多的領域進行實踐探索。
六、徐世真：隱私計算與AI互為補充，助力AI新基建
瑞萊智慧RealAI首席架構師徐世真博士發表了《隱私計算助力AI新基建》的主題演講。他表示：“AI和隱私計算息息相關，隱私計算是AI能力的重要補充，AI是隱私計算
的核心需求。從場景角度來看，隱私計算通常和AI緊密相關，AI可以看成隱私計算的上層應用與核心技術。”
隨著人工智能被納入新基建的范疇，瑞萊智慧提出，要做一個安全AI的基礎設施，其中包括數據安全、算法可靠、應用可控。
徐世真指出，目前隱私計算計算還面臨著四大問題，第一，生態壁壘。第二，計算性能。第三，安全性。第四，可用性。
他表示；“AI發展趨勢與隱私計算技術發展趨勢有著極大的相似性，或許可以從AI的發展趨勢中映射隱私計算的發展。比如采用數據流圖層面的編譯兼容路線，是AI提出的解決機器學習框架之間互聯互通問題的方案，這對解決隱私計算的互聯互通提供了有力借鑒。”同時在性能優化、算法升級以及AI自身安全性等方面，隱私計算與AI發展也有共通之處。
同時隱私計算要賦能產業，要結合具體場景和產業需求。徐世真認為，隱私計算的產業路徑需要逐場景落地，并根據不同的場景選擇不同的技術路線。
徐世真也強調，隱私計算雖然解決了數據流通安全性的問題，分離了數據所有權和使用權，能夠避免流通過程中的資產損失，但沒辦法解決端到端的安全問題，很多企業更希望獲得的是端到端安全保證，比如數據存儲、數據采集以及流通前后的數據權屬等怎么做。
目前來看，數據交易的意愿和市場還不成熟。很多企業把隱私計算當成安全合規的成本項建設。徐世真認為：“只有深度結合AI，使業務方從隱私計算中獲益，才能把隱私計算從成本項變成營收項，保證企業有可持續的意愿度，保證數據價值閉環操作。”
他也指出，隱私計算的產品化，一是盡量從規范成熟、少定制化的需求場景切入，二是將隱私計算嵌入現有的成熟產品，比如在原有機器學習平臺中添加隱私計算功能模塊。“這是用戶理想的產品形式，對外依舊輸出AI建模能力，用戶操作層面幾乎無感，在使用原有機器學習建模技術的同時，底層已經通過密碼學、MPC技術實現了隱私保護功能。”徐世真表示。
最后，徐世真還介紹了瑞萊智慧開發的首個編譯級隱私保護計算平臺RealSecure，底層以編譯器架構與全同態加密技術為核心突破，實現與傳統算法的自動編譯和一鍵適配，性能領先業內平均水平數十倍。同時瑞萊智慧也打造了“平臺+數據+服務+場景”的一體化解決方案，通過引入運營商、支付等數十種外部數據源，推動隱私計算從功能論證階段邁向業務落地閉環，實現對金融、政務等不同業務場景的快速賦能。
七、李曉林：知識聯邦“新物種”，打造基于隱私計算的共享智能平臺
同盾科技合伙人兼人工智能研究院院長，中科院醫學所首席教授李曉林，進行了《知識聯邦：打造基于隱私計算的共享智能平臺》的主題演講。
李曉林表示：“數據作為生產要素，和其他生產要素有非常大的區別，數據容易失控，保護更難，而且數據的復制幾乎是零成本。同時因為這些困難和挑戰，導致數據共享的程度比較低，數據生命力在各個孤島上面，數據的價值沒有充分發揮。”
同時數據的時間和空間價值也是有差別的，今年的價值和未來一年的數據價值也是有差別的。數據要實現它的價值就必須通過時間和空間上的安全合規的流通。而聯邦學習、MPC安全計算、TEE等，通過打破數據孤島來增強數據的流通價值。但是與此同時，隨著各家隱私計算平臺的推出，又形成了新的數據群島。
對于以上問題，李曉林認為，要想真正的實現知識的共享互通，互聯互通的機制來充分發揮數據的價值，首要問題是要保障一致性：一個方面是連接上的一致性，另一方面是流通的數據、內容的一致性。
同盾科技打造了基于隱私計算的開放共享平臺。核心是同盾智邦平臺iBond，下面是智邦的內核iCore。
同時同盾提出：知識聯邦是一個統一的多層次的框架，融合了多種安全多方功能，基于數據安全交換協議等等，有效利用多個參與方的協議，真正實現數據可用不可見，知識共創和共享。
李曉林表示，有了互聯互通，有了iBond，有了智邦平臺的支撐和知識聯邦的理論框架，我們就可以進一步打通數據流通，從而形成智邦iData。
在智邦iData可以從數據的提供方、數據使用方和應用開發者、應用的提供方、使用方，把數據、應用發布在上面，使用者可以按使用收費，實現價值變現。
最后，李曉林闡述了同盾的目標是做一個連接器，通過聯防聯控的獨立第三方角色，聯邦安全交換和充分互聯互通，來幫助各個行業充分發揮數據的價值，通過人工智能持續強化學習，通過前沿算法來支撐智能，并且開源、開放聯盟，合作共贏。
八、學者、創業家、投資人三方對話：一場關于“隱私計算”的頭腦風暴
在長達一個小時的圓桌對話中，信工所研究員、博導，信息安全國家重點實驗室副主任侯銳從隱私計算的未來是什么？什么時候這一風口能夠真正的把大家都吹起來？這兩個問題引入。
接著楊強老師也參與到討論中并發出兩個問題：一、投資人最關心的是什么問題？在過去，投資人可能最關心的是技術和人才，但是在現在和未來的一年后、兩年后，投資人怎么看這個領域的發展？二、現在的業務狀態、商業狀態有點“僧多粥少”的局面，業務一個需求出現就蜂擁而上，這個情況怎么破局？
針對相關問題，各位嘉賓展開了深入的交流，預知詳細內容，請關注雷峰網后續報道！
總的來說，隱私計算這一新興的技術賽道，正吸引不少企業的大力布局。這背后是數據合規監管壓力的使然，更是搶占先機的發展需求。從投資角度看，目前隱私計算尚處于技術提升期，還未形成新的商業模式，但是未來可期。
與普通人而言，未來隨著隱私計算應用在多種業務場景中不斷推廣，自己的個人信息也會得到更有效的保護。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
專題
