0
| 本文作者： 楊鯉萍 | 2019-09-09 17:57 |
雷鋒網(wǎng) AI 開發(fā)者按：在 AI 換臉技術(shù)飽受各界質(zhì)疑當兒，社交巨頭 Facebook 宣布投入超過1000萬美元打造deepfake （一種流行的AI換臉技術(shù)）檢測競賽，以便創(chuàng)建能用于“打假”模型訓(xùn)練的數(shù)據(jù)集。據(jù)官網(wǎng)介紹，競賽結(jié)果與完整數(shù)據(jù)集將于今年12月份舉行的 NeurIPS 會議上公布。
雷鋒網(wǎng) AI 開發(fā)者將賽事介紹編譯如下。
目前，競賽官網(wǎng)已正式上線：https://deepfakedetectionchallenge.ai/
數(shù)據(jù)集和基準是加速人工智能發(fā)展的最有效工具。我們目前在深度學(xué)習(xí)方面的復(fù)興在一定程度上是由ImageNet benchmark所推動的。GLUE 和SuperGLUE benchmark加速了自然語言處理的進展。
“deepfake”技術(shù)能夠呈現(xiàn)人工智能生成的逼真視頻，用虛構(gòu)出來的人做和說看起來真實的事情，對確定網(wǎng)上呈現(xiàn)的信息的合法性具有重要意義。然而，這個行業(yè)并沒有一個很好的數(shù)據(jù)集或benchmark來檢測它們。我們希望促進這一領(lǐng)域的研究和開發(fā)，并確保有更好的開源工具來檢測deepfake。這就是為什么Facebook，微軟，以及來自康奈爾科技，麻省理工，牛津大學(xué)，加州大學(xué)伯克利分校，馬里蘭大學(xué)，學(xué)院公園，和奧爾巴尼大學(xué)蘇尼分校的學(xué)者們一起建立了“deepfake檢測挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC）。
這項挑戰(zhàn)的目標是開發(fā)出一種每個人都可以使用的技術(shù)，它可以更好地檢測人工智能何時被用來篡改視頻，誤導(dǎo)觀眾。DFDC將包括一個數(shù)據(jù)集和排行榜，同時還會有撥款和獎勵，以刺激行業(yè)創(chuàng)造新的方式來檢測出并防止被人工智能操縱的媒體用來誤導(dǎo)他人。人工智能和媒體誠信指導(dǎo)委員會的伙伴將促進和監(jiān)督這一挑戰(zhàn)賽，該委員會由一個廣泛的跨部門組織聯(lián)盟組成，包括Facebook、Witness、Microsoft和民間、技術(shù)界的其他組織、媒體和學(xué)術(shù)團體。
最重要的是要有可供社區(qū)免費使用的數(shù)據(jù)，并有足夠的參與者，而且在使用上不能有很多限制。這就是為什么Facebook正在構(gòu)建一個現(xiàn)實的數(shù)據(jù)集，參與者將可以免費使用，并為這一挑戰(zhàn)做出貢獻。此數(shù)據(jù)集中不會使用Facebook用戶數(shù)據(jù)。為了鼓勵更多參與，我們還設(shè)立了研究合作和挑戰(zhàn)獎。總的來說，我們將投入超過1000萬美元來支持這項全行業(yè)的努力。
為了確保數(shù)據(jù)集和挑戰(zhàn)參數(shù)的質(zhì)量，這些參數(shù)將在今年10月的國際計算機視覺會議（ICCV）上，通過有專業(yè)的技術(shù)工作會議進行初步測試。完整的數(shù)據(jù)集和DFDC的發(fā)布將在今年12月的NeurIPS會議上進行。Facebook也將參與挑戰(zhàn)賽，但不接受任何經(jīng)濟獎勵。請訪問我們的網(wǎng)站（https://deepfakedetectionchallenge.ai/）以獲取定期更新。
和垃圾郵件以及其他挑戰(zhàn)一樣，這是一個不斷演變的問題，我們希望將行業(yè)和人工智能社區(qū)的力量結(jié)合在一起，取得更快的進展。
（via https://ai.facebook.com/blog/deepfake-detection-challenge/）
9 月 4 日，據(jù)國外媒體報道，F(xiàn)acebook 宣布整改，將停止在用戶的照片和標簽建議中默認使用面部識別功能。在本周發(fā)表的一篇博客文章中，F(xiàn)acebook 表示，注冊的新用戶和那些開啟了標簽建議設(shè)置的用戶將會收到一份關(guān)于該平臺如何使用人臉識別這項技術(shù)的通知。
Facebook 這一舉動的背后，反應(yīng)出的正是大眾對個人隱私的重視；類似的還有近來的「zao」事件、人臉識別課堂考勤、換臉 FakeSwap 開源等。不斷革新的技術(shù)就像一把雙刃劍，它們給生活帶來便利的同時，也為個人隱私帶來了一定困擾。
不過可喜的是，從大眾對這些事件的回應(yīng)來看，我們能感受國民隱私意識的覺醒。那么，針對隱私保護，個人、企業(yè)、國家能做什么呢？特此，雷鋒網(wǎng) AI 開發(fā)者將隱私保護相關(guān)事件以及技術(shù)防范措施整理編輯如下。
前幾天的「ZAO」一經(jīng)發(fā)布，就得到了超高的反響，朋友圈到處都是「歡樂的換臉生活」。這款 APP 可以將用戶上傳的人臉，和影視作品里的明星臉無縫切換。可沒過多久，便有人發(fā)現(xiàn)「ZAO」背后的重重隱患。
首先是「ZAO」的霸王條款。在 APP 使用協(xié)議中，「ZAO」規(guī)定：
在您上傳及/或發(fā)布用戶內(nèi)容之前，您同意或者確保實際權(quán)利人同意授予「ZAO」及其關(guān)聯(lián)公司以及「ZAO」用戶全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對用戶內(nèi)容進行全部或部分的修改與編輯。
如果您把用戶內(nèi)容中的人臉換成您或者其他人的臉，您同意或確保肖像權(quán)利人同意授予「ZAO」及其關(guān)聯(lián)公司以及「ZAO」用戶全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于：人臉照片、圖片、視頻資料等。
總之就是一經(jīng)上傳，照片中的人立即失去肖像權(quán)；不僅可供「ZAO」免費使用，而且還能無條件任意修改。要是你用的是別人的臉，比如明星什么的，那還都是你的責(zé)任，「ZAO」依舊可以無條件免費使用與修改，甚至是隨意授權(quán)給第三方，作為信息販賣。
而「ZAO」這一設(shè)定，正是抓住了我們通常因為嫌麻煩，而不會仔細閱讀「協(xié)議條款」的心理，才讓它抱著一種僥幸心理，大肆侵犯我們的個人隱私。不過也正是因為關(guān)乎隱私，「ZAO」因該用戶協(xié)議涉嫌過度收集用戶信息、及隱私安全爭議，被工業(yè)和信息化部網(wǎng)絡(luò)安全管理局約談，并要求其嚴格按照國家法律法規(guī)以及相關(guān)主管部門要求，組織開展自查整改，依法依規(guī)手機使用用戶個人信息，規(guī)范協(xié)議條款。
「ZAO」運營團隊隨即也發(fā)布了致歉聲明，并表示「ZAO」不會存儲個人面部生物識別特征信息；并且用戶刪除信息或注銷賬號，「ZAO」均會依據(jù)相關(guān)法律法規(guī)的規(guī)定刪除相應(yīng)信息。
由數(shù)據(jù)引發(fā)的隱私問題還有人臉識別監(jiān)管、瀏覽器記錄數(shù)據(jù)、數(shù)據(jù)人肉等等，甚至現(xiàn)在連逛淘寶店，都可能泄露我們的電話信息，而收到垃圾短信。因此有部分人調(diào)侃到：大數(shù)據(jù)時代無隱私。
政府部門的強有力監(jiān)管，企業(yè)的積極配合，個人的道德規(guī)范；都能夠在一定程度上加強對個人隱私的保護。
Fecebook此次重金投入換臉技術(shù)檢測競賽，無非也是想讓我們在數(shù)據(jù)隱私上能夠掌握更多的主動權(quán)。
當然除此之外，我們也可以從技術(shù)方面來有意識規(guī)避隱私侵犯，從而維護個人的安全。
比如大數(shù)據(jù)分析共享方面，我們不要忽視隱私基準評估、隱私數(shù)據(jù)識別、數(shù)據(jù)監(jiān)控掃描、數(shù)據(jù)加密、安全存儲，通道加密、傳輸行為審計，數(shù)據(jù)脫敏，數(shù)據(jù)鎖等多方面工作，從而可以從隱私數(shù)據(jù)的紅線、網(wǎng)絡(luò)行為模型、實時監(jiān)測等方式來更好地維護隱私安全。而在數(shù)據(jù)加密上，目前也有多種技術(shù)，包括：傳統(tǒng)的 DES/AES 對稱加密技術(shù)、同態(tài)加密隱私保護技術(shù)、差分隱私保護技術(shù)等。
其中，同態(tài)加密的核心是能夠直接在密文上做運算，在機器學(xué)習(xí)和深度學(xué)習(xí)過程中使用同態(tài)加密對數(shù)據(jù)加密然后分析計算，能夠很好地解決許多領(lǐng)域要求數(shù)據(jù)保密、安全的問題。差分隱私的任務(wù)則是提供一種關(guān)于輸出的概率分布的機制或者協(xié)議，允許用戶對數(shù)據(jù)進行一定程度的修改，但不影響總體輸出，從而使得攻擊者無法知道數(shù)據(jù)集中關(guān)于個人的信息，達到隱私保護的作用。
在這個「沒有秘密」的時代，盡管我們無法左右數(shù)據(jù)革新浪潮；但是我們可以更加謹慎地去維護屬于我們的合法隱私權(quán)益。
雷鋒網(wǎng) AI 開發(fā)者
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
