0
作者：郭思
編輯：陳彩嫻
在大模型不斷成熟的背景下，企業也日益傾向于在云端大規模應用AI技術。這一進程中，以往可能忽視的數據資源，突顯出了前所未有的戰略意義，數據的價值評估隨之動態調整。與此同時，企業上云后，其安全架構與業務運作模式同步轉型升級，由此衍生出一系列全新的安全需求。
猶如“健康乃一切之本”的生活哲學，對于企業而言，數字安全同樣扮演著基石角色——無安全，則萬業皆空。構建強大的數字安全免疫系統并非臨時起意，而是企業長遠發展的必要工程。
1月17日，由工業和信息化部新聞宣傳中心（人民郵電報社）指導，騰訊安全、騰訊研究院、中國信息安全聯合三十余位業內專家、學者、企業領袖共同編制的《數字安全免疫力建設指南》正式發布。
正如最高決策層所指出：“安全是發展的前提，發展是安全的保障”。鑒于大模型等先進技術在企業運營中的普及應用，騰訊安全提出“數字安全免疫力”框架，致力于為企業構建一套立足于數據與業務雙核心、兼顧安全與發展策略的整合型理論與工具平臺。
在本次行業研討會上最新出爐的《數字安全免疫力建設指南》，便是這一框架在實踐層面的具體實施工具，如同探險者手中的導航圖，幫助企業穿越復雜多變的數字安全叢林，確保前進道路明晰，有效抵御各種安全風險。
隨著數字化進程在全球范圍內以前所未有的速度推進，各行各業都在享受著信息技術帶來的便利與效率提升，但同時也面臨著日趨嚴峻的安全隱患和挑戰。
數字化的快速發展不僅極大地拓展了數據的疆界，使得海量信息在網絡空間中高速流轉，而且為潛在的惡意攻擊者提供了更多的切入點和隱蔽途徑，這無疑對企業現有的安全防護機制構成了巨大的壓力。
傳統的安全建設思路主要依賴于物理邊界的“嚴防死守”和對已知安全事件的事后響應機制。
然而，在企業資產快速數字化的階段，邊界的概念正在淡化與模糊。這種靜態的、基于邊界防護的方法，已經不能有效應對組織內部的信息泄露和外部發起的復雜攻擊。黑客通過高級持續性威脅（APT）等方式，能夠繞過傳統防火墻，潛入企業網絡核心區域，竊取敏感信息或者破壞關鍵業務流程。
無論是2017年爆發的NotPetya勒索軟件事件以及2020年爆發的SolarWinds供應鏈攻擊事件都是基于APT手段影響力非常之大的攻擊事件，2021年，針對Microsoft Exchange Server的零日漏洞攻擊更是震動全球，影響了至少十個國家的數千家機構。
如今，隨著AIGC技術的演進，數字安全更是面臨著非常多動態、未知的威脅。首先，數據規?？涨褒嫶螅┝γ缹W般的數據投喂模式，本身就構成了巨大的審核難題；其次，隨著AI處理內容的復雜性不斷提升，在模型搭建環節，不僅需要對基礎特征進行精細化標注，而且對于生成文本的連貫性、邏輯合理性和整體一致性有了前所未有的高標準要求。
在內容創作應用階段，先進的AI技術加速了各類違規內容的滋生，比如深度偽造產物、虛假新聞、違背倫理道德的素材，尤其是數據泄露事故發生的頻次正急劇增長。
與此同時，AI驅動的問答系統能生成高度專業化的文本內容，這進一步擴大了傳統內容風控的范疇，使得現有風控機制面臨嚴峻考驗，亟需擴展應對能力以覆蓋這些新興的風險領域。
此前，Cyberhaven 就曾針對160萬名員工使用ChatGPT的情況進行了統計分析，結果顯示有3.1%的員工選擇將企業內部數據直接輸入ChatGPT以提升工作效率或尋求解決方案。在此背景下，曾發生過一起典型事件：三星公司的員工因試圖借助ChatGPT提高工作效能，不慎將包含敏感代碼資料與內部會議詳情的信息提交給了該AI模型，在短短幾周內即導致了三起機密數據泄露事故。
另一方面，在業內人士看來，不同規模、行業、數字化程度企業遭遇的個性化安全挑戰不一而同，同時伴隨著外部威脅和市場環境的快速變化，能動態掌握自身的安全水位的數字安全免疫力成為了重中之重。
在AIGC迅速席卷市場的同時，接踵而至的數據安全問題引發了公眾的深切關注。除了我們所提及的AIGC 技術被惡意用來進行安全攻擊外。
還有另一個維度的問題也很自然地引發了大眾的思考，AIGC技術能否用于安全防護？在研討《數字安全免疫力建設指南》過程中，多位專家對AIGC引發的安全攻防變革做了深度思考。
東華軟件集團高級副總裁、東華云計算有限公司董事長兼CEO 郭浩哲指出，業界無法坐等大模型發展至全球普及時才采取行動。相反，在這一轉型初期，就應該積極地將業務系統的構建與大模型技術緊密結合。盡管在此過程中可能出現的安全隱患與漏洞監管是一項不容忽視的挑戰，但關鍵在于勇于實踐和探索。需要有漏洞監管，這是另外一個問題，關鍵是要去做。
這也預示著未來擺在行業面前的其實只有做與不做兩種抉擇。而企業如果選擇了全力以赴，其所面臨的困難其實也可想而知。
AIGC在攻防層面及其在廣義開放性網絡安全的應用，由于其極高的開放性特點，導致其在策略指向性上的表現相對較弱。不論是傳統AI技術還是大模型，目前在精確度和訓練優化方面尚存在一定的不成熟之處。
這意味著，在較窄領域的數據安全方面，由于攻防對抗具有高度不確定性，如攻擊來源、目標、行為和特征均未知，大模型在此類開放性攻防場景下應用頗具挑戰。
攻擊來源的不確定性意味著攻擊者可能來自任何一個角落：可能是內部員工的意外操作、可能是外部黑客的蓄意襲擊，甚至可能是國家級的APT（高級持續性威脅）行動。由于攻擊者可能采取各種方法隱藏真實身份和位置，追蹤和預防變得異常艱難。
另一方面，攻擊者可能針對不同的數據類型、不同的系統組件或不同的業務流程發起攻擊，這使得防護措施難以面面俱到，大模型在預測和防范未知目標時可能存在盲區。
此外，攻擊行為的多樣性與復雜性也是挑戰之一。攻擊者可能采取多種新穎且難以識別的攻擊手段，如零日漏洞利用、社會工程學攻擊等，這些手段在大模型尚未接觸到的樣本集中并無體現，因此難以通過歷史數據訓練出精準的防御策略。
攻擊特征的未知性則意味著即便是最先進的大模型，也無法完全預見所有可能的攻擊模式。尤其是在數據安全領域，許多攻擊手法和漏洞利用都是首次出現，傳統的特征匹配方法難以奏效，大模型需要具備更強的學習能力和泛化性能才能適應這種不斷變化的威脅環境。
盡管大模型在特定情境下展現出了卓越的性能，但在面對高度動態且充滿不確定性的攻防對抗環境時，仍需持續研發與優化，以期更好地結合專家智慧、實時威脅情報及高效異常檢測機制，這樣才能有效地破解一系列安全挑戰，充分釋放大模型在數據安全領域的潛能。
不過在研討會現場，現任騰訊云安全總經理李濱也指出，在數據安全應用場景中，當訪問主體、客體及行為規律具備足夠的可理解性和預見性時，會為大模型技術的落地應用創造極其有利的前提。目前，騰訊已經在這一領域取得實質性的突破，利用大模型對數據進行細致的分類與分級優化工作，特別是在語義識別維度上，顯著提升了分類準確率。這項已經趨于成熟的技術已被成功地整合進騰訊的產品安全服務體系，有力推動了數據安全保障能力的進步與發展。
針對數據安全與數據流通性之間的平衡問題，傳統的應對策略通常依賴于插裝技術配合大規模標簽庫進行數據對比，但這無疑加重了系統的負荷。相較之下，騰訊通過運用大模型對數據語義屬性進行深度解析，成功實現了近實時的無需標簽、無需插件的數據關系抽取，極大地提升了數據安全保障工作的效能。
在聚焦于有限可控范圍內的數據安全事件分析時，由于數據領域中的合法主體與客體相對明確，騰訊通過融合多元技術手段，在該特定范圍內實現了數據安全分析準確度的大幅躍升。
在數據安全方面，數字安全免疫力建設指南提出數據分類、分級是數據安全建設的關鍵。同時要建立數據安全防護基線、建立統一化運營體系；業務安全方面，指南提出缺乏安全能力護航的業務可能成為黑灰產的“提款機”，人機識別、風控引擎、內容安全、業務安全合規等是必要的投入。
在數據安全領域，盡管大模型的應用正在帶來顯著效果，但在高度不確定的攻防對抗場景中，依然需要不斷深化研發與優化，結合專家知識、實時威脅情報以及高效的異常檢測機制，以應對新的安全挑戰，最大化挖掘大模型在數據安全領域的潛力。
《數字安全免疫力建設指南》就好比醫生為病人定制了一套健康保養計劃。這套體系鼓勵企業構建起一個能自動偵測、快速抵抗和從攻擊中恢復的“數字護盾”。一旦遇到內外部的“數字病菌”（即安全威脅），企業就能如同人體免疫系統般，迅速作出反應，不僅能及時修復損害，還能從中吸取教訓，不斷提升自身的安全防御力，確保企業在數字化旅程中穩步前行，健康壯大。
風會熄滅蠟燭，卻能使火越燒越旺。對隨機性、不確定性和混沌也是一樣：要利用它們，而不是躲避它們。要成為火，渴望得到風的吹拂，大模型技術帶給數據安全防護的除了效率極大提升之外，更多的是對未知風險的不確定性，在這個交匯點上，騰訊以其獨特的方法論和工具集，帶給了行業一個絕佳啟示，無論是人還是企業遇到危險，真正的安全從本質上而言，其實是自己擁有的自發免疫力，面對不確定性，人人皆害怕，但從不確定性中獲益，或許才是騰訊安全的真正的競爭力。
雷峰網 雷峰網 雷峰網(公眾號：雷峰網)
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
