為什么我們不用擔(dān)心“殺戮機(jī)器人”？

近日，超過12000位知名人士共同簽署了一封公開信，他們要求停止人工智能殺戮機(jī)器的研發(fā)。巧合的是，聯(lián)合國最近也就這一問題進(jìn)行了激烈的爭論。因?yàn)樗麄冋J(rèn)為這類機(jī)器人的研發(fā)有些走火入魔了，未來可能會(huì)帶來不可估量的后果。

走火入魔？不可估量的后果？有那么嚴(yán)重嗎？澳大利亞新南威爾士大學(xué)的研究員Jai Galliott是一個(gè)機(jī)器人研究者，他整個(gè)職業(yè)生涯都跟軍用機(jī)器人打交道。他認(rèn)為這實(shí)在是過于敏感了。

在這場大討論發(fā)起之初，他也與簽署公開信的人持一樣的觀點(diǎn)，站在國際機(jī)器人武裝控制委員會(huì)（ICRAC）這一邊。不過現(xiàn)在他改變了觀點(diǎn)，并給出了以下幾個(gè)原因。

機(jī)器與人的關(guān)系

那些簽署公開信的人都是為了擾亂民心，目的是要禁止自動(dòng)武器，因?yàn)樗麄冋J(rèn)為一旦武器鎖定和攻擊目標(biāo)時(shí)不再需要人類干預(yù)，機(jī)器就會(huì)有自主意識(shí)，過不了多久就會(huì)對(duì)人類大開殺戒。

不過你細(xì)想一下就會(huì)發(fā)現(xiàn)，這種假設(shè)現(xiàn)在根本不能成立，人類不可能不參與到殺戮的過程中。確實(shí)，機(jī)器人也許已經(jīng)強(qiáng)大到可以殺人，不過就像人類平時(shí)所做的那樣，機(jī)器也需要遵守一個(gè)復(fù)雜的機(jī)制，這就意味著人類沒必要天天盯著這一致命系統(tǒng)。不過歸根到底，機(jī)器人的一切活動(dòng)都會(huì)有人類的身影。

當(dāng)今的科技已經(jīng)讓機(jī)器人可以模仿人類的大腦，進(jìn)行學(xué)習(xí)和做決定，許多人便擔(dān)心機(jī)器人可以擁有“自主意識(shí)”，從而對(duì)人類大開殺戒。不過這一過程人類可是深度參與了的。

程序員、認(rèn)知科學(xué)家、工程師等在這一自動(dòng)系統(tǒng)研發(fā)過程中扮演了重要角色，如果我們忽略他們的作用，是不是就有些荒謬了？即使去除這些人的影響，難道將軍、軍隊(duì)和政府也會(huì)不作為嗎？這些人的作用我們也能無視嗎？

我們已經(jīng)有了自動(dòng)殺戮機(jī)器

這些人一心想要禁止的機(jī)器我們?cè)缇脱邪l(fā)出來了。

澳大利亞海軍的艦載近防武器系統(tǒng)（CIWS）早已高度自動(dòng)化了。這一系統(tǒng)可以每分鐘發(fā)射上千發(fā)彈藥，在反艦導(dǎo)彈來襲時(shí)，可以為水面艦艇提供最后一層防護(hù)。另外，除了士兵進(jìn)行手動(dòng)操作之外，電腦也可以自動(dòng)控制其完成作戰(zhàn)任務(wù)。

當(dāng)處于自動(dòng)作戰(zhàn)狀態(tài)時(shí)，這一近防系統(tǒng)的表現(xiàn)完全可與士兵手動(dòng)操作相匹敵。它可以自動(dòng)執(zhí)行搜索、探測、威脅評(píng)估、目標(biāo)獲取和鎖定和擊毀目標(biāo)等一系列戰(zhàn)術(shù)動(dòng)作。

如果這一近防武器系統(tǒng)已經(jīng)屬于殺人機(jī)器了，也應(yīng)該被禁。但我們沒聽說過誰對(duì)這一系統(tǒng)有過異議，因?yàn)樗鼈冞h(yuǎn)在天邊，眼不見心不煩，而且只有在敵方武器高速來襲時(shí)才會(huì)進(jìn)行反擊。

正因?yàn)槿绱耍c常規(guī)戰(zhàn)斗相比，它們失手殺人的幾率幾乎為零。

所以為什么我們不把著力點(diǎn)放在現(xiàn)有的法律上呢？制定相關(guān)法律條款限制這類武器的使用范圍不就好了？

真正應(yīng)該擔(dān)心的是擁有自主意識(shí)的機(jī)器人

這樣看來，真正促使這些人強(qiáng)烈反對(duì)機(jī)器人的原因，并不是殺戮過程沒有人類干預(yù)，而是怕機(jī)器人未來擁有自主意識(shí)。

考慮到上個(gè)世紀(jì)以來人類科技的發(fā)展速度，有這樣的疑慮也無可厚非。從萊特兄弟第一次試飛到飛向太空，我們只用了不到七十年，所以如果有足夠的時(shí)間，創(chuàng)造一個(gè)真正的智能機(jī)器人并非不可能。

不過也許我們完全不用擔(dān)心，因?yàn)闄M在研發(fā)人員面前的困難很難克服。首先，我們每個(gè)人都擁有獨(dú)一無二的靈魂，機(jī)器人無法復(fù)制這一點(diǎn)。另外，通過邏輯論證我們了解到人類的腦活動(dòng)并沒有固定的算法，這也是機(jī)器人無法習(xí)得的。

現(xiàn)在我們所能構(gòu)想的系統(tǒng)，無論是否具有自主學(xué)習(xí)能力或者高度復(fù)雜的操作，都是編程和人工智能的產(chǎn)物，其背后都是程序員和系統(tǒng)設(shè)計(jì)師，擁有自主意識(shí)的智能機(jī)器人永遠(yuǎn)不會(huì)出現(xiàn)。一旦人們意識(shí)到這一點(diǎn)，對(duì)所謂殺戮機(jī)器的反對(duì)就完全是無源之水無本之木。

誰會(huì)遵守游戲規(guī)則？

聯(lián)合國的禁令事實(shí)上也并沒有用。看看那些被反步兵地雷奪走一條腿的人吧，聯(lián)合國的禁令只是一紙空文，那些壞人才不按常理出牌。

我們?cè)撟龅模菫楦行Ш蛯?shí)際的智能機(jī)器人監(jiān)管法規(guī)而努力。

via gizmodo

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。