編輯｜陳彩嫻
5月30日，世界級(jí)紅人埃隆·馬斯克（Elon Musk）發(fā)了一條推文，稱：2029年是關(guān)鍵的一年，如果那時(shí)候我們還沒有實(shí)現(xiàn)通用人工智能（Artifical General Intelligence，AGI），我會(huì)覺得很奇怪。火星上的人們也一樣（覺得奇怪）。馬斯克發(fā)推不久，知名人工智能科學(xué)家、紐約大學(xué)心理系教授 Gary F. Marcus 立即寫了一篇博文叫囂馬斯克，從五個(gè)方面向馬斯克「科普」了通用人工智能的知識(shí)，提出自己認(rèn)為2029年不可能實(shí)現(xiàn) AGI 的原因。對(duì)于Gary Marcus的叫板，馬斯克還沒回復(fù)。圣達(dá)菲研究所的人工智能專家梅蘭妮·米切爾（Melanie Mitchell）建議把賭注放在longbets.org網(wǎng)站上，Marcus稱，只要馬斯克愿意打賭，自己就欣然赴約。以下是Gary Marcus反駁馬斯克的五個(gè)角度，AI科技評(píng)論作了不改原意的整理如下：第一，馬斯克對(duì)時(shí)間的預(yù)測(cè)總是不太準(zhǔn)確。2015年時(shí)，馬斯克說(shuō)距離真正的自動(dòng)駕駛汽車出現(xiàn)還有兩年時(shí)間；從那以后他每年都說(shuō)同樣的話，但真正的自動(dòng)駕駛汽車到現(xiàn)在還沒出現(xiàn)。
馬斯克不關(guān)注邊緣案例的挑戰(zhàn)其次，馬斯克應(yīng)該更多地關(guān)注邊緣情況（也就是異常值，或不尋常的情況）的挑戰(zhàn)，并思考這些異常值對(duì)預(yù)測(cè)可能意味著什么。因?yàn)殚L(zhǎng)尾問(wèn)題，我們很容易認(rèn)為 AI 問(wèn)題比實(shí)際情況要簡(jiǎn)單得多。我們手上有大量的關(guān)于日常事務(wù)的數(shù)據(jù)，當(dāng)前的技術(shù)很容易處理這些數(shù)據(jù)，這就會(huì)誤導(dǎo)我們，給我們一種錯(cuò)誤的印象；而對(duì)于罕見的事件，我們得到的數(shù)據(jù)非常少，且目前的技術(shù)很難去處理這些數(shù)據(jù)。我們?nèi)祟悡碛写罅康牟煌耆畔⑼评淼募记桑苍S可以克服生活中的長(zhǎng)尾問(wèn)題。但對(duì)于目前流行的、更多依賴大數(shù)據(jù)而非推理的人工智能技術(shù)來(lái)說(shuō)，長(zhǎng)尾問(wèn)題是一個(gè)非常嚴(yán)重的問(wèn)題。2016年，在一篇題為“Is Big Data Taking Us Closer to the Deeper Questions in Artificial Intelligence?”的采訪中，Gary Marcus試圖就此發(fā)出警告。他當(dāng)時(shí)是這么說(shuō)的：盡管有很多關(guān)于人工智能的炒作，也有很多資金投入人工智能，但我覺得這個(gè)領(lǐng)域正朝著錯(cuò)誤的方向發(fā)展。在深度學(xué)習(xí)和大數(shù)據(jù)這些特定的方向上，目前有很多唾手可得的成果。人們對(duì)大數(shù)據(jù)以及大數(shù)據(jù)現(xiàn)在給他們帶來(lái)的東西感到非常興奮，但我不確定它是否會(huì)讓我們更接近人工智能中更深層的問(wèn)題，比如我們?nèi)绾卫斫庹Z(yǔ)言或我們?nèi)绾瓮评硎澜纭?/span>
…
再想想無(wú)人駕駛汽車。你會(huì)發(fā)現(xiàn)在一般情況下，無(wú)人駕駛汽車是很棒的。如果你把它們放在帕洛阿爾托天氣晴朗的地方，車輛性能會(huì)非常棒。但如果你把車輛放在下雪或下雨的地方，或者以前沒見過(guò)的地方，這些汽車就難免出問(wèn)題。Steven Levy寫了一篇關(guān)于谷歌自動(dòng)汽車廠的文章，文章中他談到了2015年底的研究讓他們終于讓系統(tǒng)能夠識(shí)別樹葉。
系統(tǒng)確實(shí)能識(shí)別葉子，但對(duì)于不常見的東西，就不能獲得那么多的數(shù)據(jù)。人類之間可以用常識(shí)來(lái)溝通。我們可以試著弄清楚這個(gè)東西是什么，它是怎么到那里的，但是系統(tǒng)能做的只是記憶東西，這才是真正的限制。
圖注：特斯拉自動(dòng)駕駛撞上價(jià)值300萬(wàn)美元的噴氣式飛機(jī)意想不到的情況一直是當(dāng)代人工智能技術(shù)的禍患，而且可能會(huì)一直是，直到真正的革命出現(xiàn)。這就是為什么Marcus保證馬斯克不會(huì)在今年或明年推出L5級(jí)別的自動(dòng)駕駛汽車。異常值并不是完全無(wú)法解決，但仍然是一個(gè)重大問(wèn)題，迄今還沒有已知的魯棒的解決方案。Marcus認(rèn)為人們必須擺脫對(duì)深度學(xué)習(xí)等現(xiàn)有技術(shù)的嚴(yán)重依賴。距離2029年還有7年，7年是很長(zhǎng)的一段時(shí)間，但是如果要在這個(gè)十年結(jié)束之前實(shí)現(xiàn)AGI，這個(gè)領(lǐng)域就需要在其他想法上進(jìn)行投資。否則，僅僅是異常值就足以使實(shí)現(xiàn)AGI的目標(biāo)失敗。馬斯克需要考慮的第三件事是，AGI是一個(gè)涉及面很廣的問(wèn)題，因?yàn)橹悄鼙旧淼纳婕懊婧軓V。Marcus在此處引用了Chaz Firestone和Brian Scholl的這句話：世上并不只有一種思維方式，因?yàn)樗季S并不是一個(gè)整體。相反，思維是可以分為部分的，而且其不同部分以不同的方式運(yùn)作：“看到顏色”與“計(jì)劃度假”運(yùn)作的方式不同，而“計(jì)劃度假”與“理解一句話”、“移動(dòng)肢體”、“記住一件事”或“感受一種情緒”都不同。”例如，深度學(xué)習(xí)在識(shí)別物體方面做得相當(dāng)不錯(cuò)，但在計(jì)劃、閱讀或語(yǔ)言理解方面做得差一些。這樣的情況可以用下圖表示：目前的AI在某些感知方面做得很好，但是在其他方面仍需努力。即使在感知中，3D感知仍然是一個(gè)挑戰(zhàn)，場(chǎng)景理解也沒有解決。對(duì)于常識(shí)、推理、語(yǔ)言或類比等幾個(gè)領(lǐng)域，仍然沒有任何穩(wěn)定或值得信賴的解決方案。事實(shí)是，這張餅狀圖Marcus已經(jīng)用5年了，AI的情況卻幾乎沒有改變。在Marcus發(fā)表于2018年的文章“Deep Learning: A Critical Appraisal”中，他總結(jié)道：“盡管我提出了這些問(wèn)題，但我不認(rèn)為我們應(yīng)該放棄深度學(xué)習(xí)。
相反，我們需要重新定義深度學(xué)習(xí)：深度學(xué)習(xí)不是一種通用溶劑，而應(yīng)該是一種工具，除了這種工具，我們還需要錘子、扳手和鉗子，更不用說(shuō)鑿子、鉆頭、電壓表、邏輯探頭和示波器。
四年過(guò)去了，許多人仍然希望深度學(xué)習(xí)能成為萬(wàn)能藥；可這對(duì)Marcus來(lái)說(shuō)仍然是不現(xiàn)實(shí)的，他仍然認(rèn)為人類需要更多的技術(shù)。實(shí)事求是地說(shuō)，7年可能不足以發(fā)明這些工具（如果它們還不存在的話），也不足以將它們從實(shí)驗(yàn)室投入生產(chǎn)。Marcus向馬斯克提出2018年“量產(chǎn)地獄”（馬斯克認(rèn)為Model 3電動(dòng)轎車量產(chǎn)階段猶如地獄般煎熬，并稱之為“量產(chǎn)地獄” ）的情形。在不到十年的時(shí)間里要對(duì)一套以前從未完全集成過(guò)的技術(shù)進(jìn)行這樣的整合，要求會(huì)非常高。Marcus稱，「我不知道馬斯克打算把Optimus（特斯拉的人形機(jī)器人）打造成什么樣，但我可以保證，通用家用機(jī)器人所需要的AGI遠(yuǎn)遠(yuǎn)超過(guò)一輛汽車所需要的，畢竟汽車無(wú)論是在公路上開還是在馬路上開，或多或少都是差不多的。」
復(fù)雜的認(rèn)知系統(tǒng)尚未打造
馬斯克需要意識(shí)到的第四件事是，人類仍然沒有一個(gè)適當(dāng)?shù)姆椒ㄕ搧?lái)構(gòu)建復(fù)雜的認(rèn)知系統(tǒng)。復(fù)雜的認(rèn)知系統(tǒng)有太多的活動(dòng)部件，這通常意味著，制造無(wú)人駕駛汽車等東西的人最終就像在玩一個(gè)巨大的“打地鼠游戲”，往往剛解決了一個(gè)問(wèn)題，又出現(xiàn)了另一個(gè)問(wèn)題。一個(gè)補(bǔ)丁接一個(gè)補(bǔ)丁有時(shí)能派上用場(chǎng)，有時(shí)則無(wú)效。Marcus認(rèn)為不可能在不解決方法論問(wèn)題的情況下得到AGI，而且他認(rèn)為目前還沒有人提出好的建議。使用深度學(xué)習(xí)進(jìn)行調(diào)試非常困難，因?yàn)闆]有人真正理解它是如何工作的，也沒有人知道如何修復(fù)問(wèn)題，以及收集更多數(shù)據(jù)和添加更多層等等。大眾所知道的那種調(diào)試在經(jīng)典編程環(huán)境中并不適用；因?yàn)樯疃葘W(xué)習(xí)系統(tǒng)是如此不可解釋，所以人們不能通過(guò)相同的方式思考程序在做什么，也不能指望通常的消除過(guò)程。相反，現(xiàn)在在深度學(xué)習(xí)范式中，有大量的試錯(cuò)、再訓(xùn)練和重新測(cè)試，更不用說(shuō)大量的數(shù)據(jù)清洗和數(shù)據(jù)增強(qiáng)實(shí)驗(yàn)等等。Facebook最近的一份報(bào)告坦率地說(shuō)，在訓(xùn)練大型語(yǔ)言模型OPT的過(guò)程中遇到了很多麻煩。有時(shí)候這更像是煉金術(shù)而不是科學(xué)，正如下圖一樣：
圖注：“這是你的機(jī)器學(xué)習(xí)系統(tǒng)嗎？”“對(duì)，你把數(shù)據(jù)倒進(jìn)這一大堆線性代數(shù)里，然后到另一邊去撿答案。”“那就在這一大堆東西上攪和，直到答案看上去正確就行了。”編程驗(yàn)證可能最終會(huì)有所幫助，但同樣，在深度學(xué)習(xí)中還沒有編寫可驗(yàn)證代碼的工具。如果馬斯克想贏這個(gè)賭約，那他們可能也要解決這個(gè)問(wèn)題，而且得很快解決。馬斯克需要考慮的最后一件事是賭約的標(biāo)準(zhǔn)。如果要打賭就要制定基本規(guī)則。AGI這個(gè)術(shù)語(yǔ)相當(dāng)模糊，就像Marcus前幾天在Twitter上說(shuō)的那樣：我把AGI定義為“靈活而通用的智力，具有可與人類智慧相媲美、或超過(guò)人類智慧的智謀和可靠性。”Marcus還提出要跟馬斯克賭一把，并制定具體的基本打賭規(guī)則。他和Ernie Davis根據(jù)與Metaculus公司合作的人的要求寫下了以下五個(gè)預(yù)言：- 到2029年，人工智能仍無(wú)法在觀看電影的同時(shí)準(zhǔn)確地告訴你發(fā)生了什么（Marcus在2014年的《紐約客》雜志上稱之為「理解挑戰(zhàn)」），也不能解答出這些角色是誰(shuí)，他們的沖突和動(dòng)機(jī)是什么等問(wèn)題。
- 到2029年，人工智能仍無(wú)法閱讀小說(shuō)并準(zhǔn)確回答有關(guān)情節(jié)、角色、沖突、動(dòng)機(jī)等問(wèn)題。
- 到2029年，人工智能仍無(wú)法在任意廚房里做一個(gè)稱職的廚師。
- 到2029年，人工智能仍無(wú)法根據(jù)自然語(yǔ)言規(guī)范或通過(guò)與非專業(yè)用戶的交互，可靠地編寫超過(guò)10,000行無(wú)bug的代碼。（將現(xiàn)有庫(kù)中的代碼粘合在一起不算數(shù)。）
- 到2029年，人工智能仍無(wú)法從用自然語(yǔ)言編寫的數(shù)學(xué)文獻(xiàn)中任意提取證明，并將其轉(zhuǎn)換為適合于符號(hào)驗(yàn)證的符號(hào)形式。
如果馬斯克（或其他人）在2029年成功打破至少三個(gè)預(yù)言，那他就贏了；如果只打破了一兩個(gè)，則不能說(shuō)AGI能夠?qū)崿F(xiàn)，贏家就是Marcus。對(duì)這個(gè)賭約，Marcus躍躍欲試，并對(duì)馬斯克：“想要打賭嗎？賭10萬(wàn)美元怎么樣？”大家怎么看？你們認(rèn)為誰(shuí)會(huì)贏？（吃瓜）https://garymarcus.substack.com/p/dear-elon-musk-here-are-five-things?s=whttps://www.ted.com/talks/elon_musk_elon_musk_talks_twitter_tesla_and_how_his_brain_works_live_at_ted2022https://arxiv.org/abs/1801.00631https://www.wsj.com/articles/elon-musk-races-to-exit-teslas-production-hell-1530149814雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
