0
Deepfake的興起，讓視頻和音頻不再是記錄歷史的可靠證據！
近日一則電影片段在YouTube爆火，影片中兩位主演分別是好萊塢兩位頂級流量巨星西爾維斯特·史泰龍（Sylvester Stallone）和阿諾·施瓦辛格（Arnold Schwarzenegger）
然而，短片爆火的原因不是兩位巨星，而是它逼真的視頻合成效果。
事實上，這部名為《Step Brothers》的電影主演是兩位小眾演員，短片創作者利用Deepfake將面部替換成了兩位巨型。
短片中，人臉自然、毫無痕跡的融合效果，讓不少網友們驚嘆：太恐怖。
但事實上，更讓人恐怖的是短片背后，Deepfake愈演愈烈的負面應用。自2017年，某Reddit用戶首次將其用來偽造色情視頻開始，Deepfake造假已逐漸滲透到政治、媒體等多個領域，甚至還威脅到了今年的美國總統大選。
與此同時，偽造品的數量也在逐年增長，特別是在2020年再次創下歷史新高，達到49081個。
那么，快速增長的Deepfake有哪些特點，背后有哪些應對措施？
近些年，計算機視覺技術得到飛速發展。
尤其是2014年生成式對抗網絡GAN的提出，讓圖像和視頻合成不斷取得驚人的效果。
2017年，這項技術被不良分子用來偽造了一段色情視頻，由此該技術被人們稱為“Deepfake”，后來Deepfake的負面應用不斷發酵，并逐漸覆蓋到更廣泛的圖像、視頻，乃至音頻領域。
具體來說，Deepfake主要是對人臉進行篡改和重新編輯，包括表情修改，換臉、換口型、合成新人臉四種模式。其中，換臉和對口型是Deepfake最主要的應用模式，其破壞性和殺傷力也最強。如篡改政客公開演講以及偽造色情視頻。
值得注意的是，造假者無需了解這些修改模式背后的技術原理，諸多開源軟件，已經可以讓他們輕松地制造虛假內容。比如DeepFaceLab之類的工具，任何人都可以拍攝一張圖片或視頻，并替換或操縱人臉。
技術的普及和便捷性，讓造假品數量成指數級增長。根據安全分析公司Sensity最新結果顯示，
自2018年12月以來，Deepfake在線造假品的數量大約每六個月翻一番。
2019年7月Deepfake的總數達到14,678，相比于2018年12月的7964部造假視頻增加了近100％。而截至今年6月，造假視頻已多達49081個，比2019年7月增長了330％以上。
2019年，在14678個公開發布的Deepfakes作品中，假色情視頻占據了96%。
另外，根據Sensity調查分析顯示，Deepfake用來制作色情作品的目標對象超過95%全部來自影視娛樂業，只有剩下的一小部分來自商業、新聞媒體以及政治領域。
而今年，影視娛樂仍然是覆蓋最廣的行業，占據了62.7％，加上時尚類別（21.7％）和運動類別（4.4％），總計占所有目標的88.9％。
其中，在娛樂行業62.7％的占比中，來自Instagram，Twitch以及Youtube等社交媒體的目標對象數量顯著增加。同時，來自商業（4.1％）和政治（4％）背景的目標對象也有所增加。
值得注意的是，上述4%政治背景的目標對象，主要集中在一些知名政客身上，如特朗普、奧巴馬等。信息時代，利用這些政客身份偽造虛假政治言論，可能會造成災難性成果。
尤其是隨著技術的提升，偽造品越來越難以用肉眼分辨。去年，一名馬來西亞政治家就因涉嫌從事同性戀活動的視頻而被判入獄（在馬來西亞同性戀是非法的），但后來證實該視頻是Deepfake偽造的。
另外，比利時政治團體也曾利用Deepfake偽造了一段特朗普關于巴黎氣候協定的演講視頻，在當時產生了不小的轟動。
不過，總體來看，大部分有關政客的虛假作品還多以諷刺為目的。
另外，這些虛假作品有明顯的地區分別特點。從Sensity的統計結果來看，政客偽造品主要集中在西方國家，尤其是美國和英國。同時，韓國和印度在今年也成為了主要目標。
圖中，美國和英國在整體中占據了61%，超過了一半。韓國（9.6%），印度（5.0）和日本（4.0）也構成了很大一部分。總體來看，說明亞洲的政治造假活動在持續增長。
Deepfake的危害無需再多說。
為了應對日益泛濫的偽造品，學、政界和各大企業也在聯合發力，研發反Deepfake技術。
值得一提的是，Kaggle和Facebook已經舉辦了多場Deepfake探測器研發競賽，并收集了大量用于訓練的數據集。
Deepfake檢測器，主要通過對大量圖像和視頻進行訓練，并從中查找不同的Deepfake標識符來鑒別內容真偽。目前最先進的監測手段，分為以下幾種：
人臉X射線（ Face X-ray）檢測：它是一種將假臉重新混入目標圖像或視頻，以從中尋找邊界的方法。經過FaceForensics 數據集上測試，精準度可達99%以上。（https://arxiv.org/abs/1912.13458）
背景差異檢測：該方法通過將人臉區域與背景區域進行對比，從中尋找微小差異以辨別真假。（https://arxiv.org/pdf/2008.12262.pdf）
情緒識別網絡（Emotion Recognition Network）：該方法通過檢測面部情緒是否與場景上下文或音頻內容相匹配，來確定視頻是真是偽。（https://arxiv.org/abs/2003.06711）
生物學信號：通過檢測視頻目標的心跳并分析該信號的殘差確定真假，該方法的準確率已達到97.29%，同時還可以檢測背后所用的Deepfake模型。（https://arxiv.org/pdf/2008.11363.pdf）
以上大多數這些Deepfake檢測方法都沒有可用的開源代碼，不過，目前也有一些商業上可用的API，例如Sensity，Deepware，以及微軟的 Video Authenticator。
此外，要說明的是，雖然人臉X射線檢測法精度已經達到99%，但它僅限于FaceForensics數據集，對于“Wild”數據集可能并不適用，很多其他檢測工具也是如此。
一位研究人員證實說，他上述某款模型用于《Step Brothers》和川普偽造視頻檢測，結果并不能證偽。盡管川普的偽造視頻有明顯的缺陷（嘴邊周圍有合成痕跡）
因此，在特定Deepfake檢測數據集上表現良好的模型，在現實世界中也不一定達到理想效果。
但慶幸的是，高質量的Deepfake造假品仍需要人工干預來完善輸出，這會極大地減慢傳播速度，并為改進Deepfake檢測模型提供時間。
引用鏈接：
https://www.skynettoday.com/overviews/state-of-deepfakes-2020
https://sensity.ai/deepfake-threat-intelligence-a-statistics-snapshot-from-june-2020/
https://www.creativebloq.com/news/the-irishman-deepfake
雷鋒網雷鋒網雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
