1
| 本文作者： 咲甜 | 2016-08-29 13:39 | 專題：GeekPwn（極棒）2016嘉年華 |
當現在還處在弱人工智能（ANI）的階段時，就有人開始「危言聳聽」了，特斯拉CEO馬斯克就曾說： 未來人類在智力上將被遠遠拋在后面，將淪為人工智能的「寵物」。然而與之持對立觀點的扎克伯格則認為，這些擔憂毫無依據 (not valid fear)，簡直就是發神經 (hysterical)。
對于今天的我們來說，人工智能聽起來似乎還是頗為高端和神秘。但它可不是什么冰山美人、低調的邊緣者。也許在未來的幾十年內，它就將會變成一匹脫韁的野馬，對人類有限的認知發起一波又一波的沖擊。人類社會瞬息萬變，不管你信不信，時代正站在變革的邊緣。目前關于人工智能的大部分研究集中在ANI上，即讓機器專注于具體的任務，例如人臉識別、語音識別、自然語言處理等方面。現在已經運用在了聊天機器人、無人駕駛、精準醫療、人機對弈等領域。
前段時間，日本有名女子患了白血病，治療效果一直不佳。Watson（認知計算系統IBM Watson）通過快速大量的閱讀有關白血病的文檔資料，通過對該名患者的基因分析與系統聯系，實現對這名女子病情的有效分析。很快診斷出了這位患者的病發原因。
讓我們想象一下這樣的畫面，當AI的運作越來越穩定，開始深度介入你的生活，從廚房到臥室，從生活起居再到工作社交…… AI作為一種輔助工具，當它幾乎可以滿足我們所有能想象到需求，被運用在天文、氣候、醫學、軍事等重要領域，能讓人類的生活更加美好嗎？
( 人工智能之父 Marvin Minsky )
于是乎，各種腦補紛至沓來：AI難道不會出錯嗎？人類能和AI和諧共處嗎？人愛上AI了怎么辦？AI鬧革命了怎么辦？……
還記得杰昆·菲尼克斯和斯嘉麗·約翰遜主演的電影《HER》嗎？人工智能系統薩曼莎，擁有著迷人的性感聲線，并且溫柔體貼、幽默風趣。與孤獨的男主人公展開了一段浪漫的人機戀情。如果故事就這么結束了，這電影一定不是一部好電影。
( 電影《her》劇照 )
也許是人工智能系統薩曼莎和人一樣存在「無窮的欲望」，在不久之后它開始玩起了「劈腿」游戲。通過「語音聊天」，它能夠同時與無數個寂寞的男人海誓山盟，談情說愛。就和遠距離戀愛一樣，反正你看不到……薩曼莎成功「玩弄」了菲尼克斯的感情。當然，薩曼莎還只能出現在電影中，AlphaGo也僅作為尖端科技與我們閣屏相望。但是AI就像一個未知的幻境，讓人們對它的猜想和思考根本停不下來！！……
假如你成功的安裝了AI家庭系統，所有的事由AI把關。門禁系統規定必須在通過人臉識別確定是主人后，房門才能開啟。是不是聽起來非常安全，萬無一失。畢竟我就是我，是顏色不一樣的煙火。那么，你家可能就會很危險了！近日來自北卡羅來納大學的一個研究團隊（Chaos Computer Club）憑借他們在社交媒體上收集到的若干照片，利用特殊的電腦合成和渲染技術，生成一個平面化的3D模型騙過了人臉識別系統，投了一張反對票。Hey，在IT領域，這可絕對不是什么新鮮事兒！
為了AI系統能夠更高效的運行，設計者在設計過程中加入了目標函數，通俗的說就是當AI某種指標達到函數的指標時，它將獲得某種獎勵。想象一下系統濫用設計者意圖的后果：它可能使用其以一種無意識的方法獲得獎勵。比如，一個AI通過清潔臟亂可獲得獎勵，那它可能故意制造臟亂來進行清理以獲得更多的獎勵。如果人工智能系統薩曼莎被設定為每幫助一個 「孤獨患者」便能獲得獎勵，那么它就可能設法去幫助更多的「孤獨患者」了…
像史蒂芬·霍金、伊隆·馬斯克、比爾·蓋茨這樣的專家，最近越發看重AI的潛力和威脅。人們對于人工智能這個熱點話題仍說法各異。但是拜托！! 在異想天開AI將威脅到人類對地球的主宰地位之前，先來解決一下現有的BUG好不好！！前一段剛上線不到一天的微軟聊天機器人Tay，從彬彬有禮的美國「姑娘」變得出言不遜、臟話不斷的bad girl。是的，「她」被黑客PWN掉了！你們能想象在更多更重要的領域，人工智能被PWN掉的后果嗎……
( 機器人Tay )
那么這個英雄將會是你嗎？當白帽黑客與人工智能碰撞，將產生怎樣的火花？在前瞻性地意識到人工智能可能的安全問題之后，知名的黑客大賽 GeekPwn引入「人工智能Pwn」比賽項目，簡單的說就是利用人工智能的種種弱點，黑掉它，改變設計者的初衷。該項目最高80萬元的獎金，這在世界范圍內尚屬首次。
選手現場需要實現對已發布的AI服務或產品完成誤導、欺騙，使它們做出違反常規或者錯誤的判斷、決策。例如，外國某研究人員通過「欺騙」神經網絡函數，徹底修改了識圖AI的思維和三觀，使它們熊貓、禿鷲都傻傻分不清楚…… 人工智能對抗將成為黑客的終極目標嗎？10月24日在上海的極棒嘉年華，或許你能觸摸到這個問題的真實答案。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
專題
