MIT重磅研究：基于人工神經網絡，探索抑制神經元的生物學意義

在近幾年，人工神經網絡——一種參照大腦運作模式而建成的計算模型——已經成為了最為炙手可熱的人工智能系統，并且應用于從語音到圖像的各個領域。

雷鋒網消息，MIT CSAIL 于今日發布了一個重磅研究成果：他們已經開發出一個大腦神經回路的計算模型，它揭示了抑制神經元的生物意義。

這個模型是由一組輸入神經元陣列與同等數量的輸出神經元組成，采用「競爭學習規則」（winner-take-all）來操作。

也就是說，網絡的輸出神經元之間相互競爭以求被激活，但在每一時刻只有一個輸出神經元被激活。這個被激活的神經元稱為競爭獲勝神經元，而其它神經元的狀態被抑制，故稱為 Winner Take All，這就像美國大選一樣，在該州獲得更多選票的候選者就會得到該區所有的選票。

MIT 研究者們證明，通過使用理論計算機科學的相關工具，他們的模型能夠讓一定配置的抑制性神經元遵循「競爭學習規則」，并獲得最有效的結果。這其中原因何在？真相就在于該模型能夠對抑制性神經元在大腦中的行為進行預測，而這也成為了計算分析輔佐神經科學研究的絕佳例子。

這一新發現在本周的理論計算機科學變革會議上公布。論文作者為 MIT 軟件科學及工程的 NEC 教授 Nancy Lynch，博士后 Merav Parter 及電子工程與計算機科學的研究生 Cameron Musco。Lynch 表示，「這一發現能夠為計算機網絡或以手機為代表的電子設備與生物系統中的神經網絡之間建立起緊密聯系，我們正在嘗試從分布式計算的角度尋找可能使之受益的方向，并將重點放在算法上。」

為了補充一些背景知識，雷鋒網先為大家簡單介紹一下人工神經網絡與人體神經網絡的聯系與區別：

我們都知道，大腦的神經細胞存在兩種狀態：興奮和抑制。神經細胞通過某種方式將所有樹突上的信號進行相加，如果信號總和超過了某個閾值，那么這個神經細胞就會被刺激，達到興奮狀態。人工神經網絡也就是模仿上述原理而設計的一種算法模型。

人工神經網絡與人體的神經元類似，由多個節點（神經元）之間聯結而成，每個節點代表一種特定的輸出函數，并根據各個節點的不同權重生成不同的計算輸出。

由于權重能夠表示激發或抑制作用（在這里，雷鋒網為大家簡單表示為正負關系），這些或正或負的數據將作為激勵函數的輸入進行作用。而這個激勵函數經過所有不同節點的權重綜合計算后得到一個新的激勵值，并最終得到我們想要的結果。

而在人工智能應用中，實際情況當然會更加復雜一些。一個神經網絡可以接受不同數據的訓練，不斷通過調整權重而得到更契合實際的結果。

“生物層面上的真實性”

Lynch 團隊對該模型進行了多處修改，使得人工神經網絡在生物層面更加真實。首先是增加抑制性神經元的數量。通常在人工神經網絡中，連接上的權重值就和雷鋒網方才提及的一樣，通常是正的，或者是可正可負的。但在人體大腦中，有一些神經網絡能夠發揮純粹的抑制作用，并阻止其它神經元活動，因此 MIT 的研究人員參考這一點，將這些神經元建模為只連接負權重的節點。

而就像我們所了解到的一樣，很多人工智能采用的是前饋網絡，即信號只從一個方向通過網絡，從接收輸入數據的第一層到提供計算結果的最后一層。但大腦間的反饋會更加復雜一些。Lynch、Parter 及 Musco 的神經網絡就增加了一層反饋機制，輸出神經元的信號傳遞到抑制性神經元，它的輸出會再次傳遞到輸出層。此外，輸出神經元的信號也會反饋給自身，這對競爭學習規則而言顯得非常重要且有效。

MIT 的研究人員改進的人工神經網絡還有一點最大的不同在于，神經網絡變得更具概率性。因為在此前傳統的人工神經網絡中，如果節點的輸入值超過某個閾值，則節點會被激發。但在大腦中，即使增加了輸入神經元的信號強度，也只會增加輸出神經元激活信號的機會。這同樣對于競爭學習規則也具有不小的意義。

抑制的優點

Parter 與她的同事們成功證明，如果只有一個抑制性神經元，是不可能變成競爭學習的最終「贏家」的（但兩個就 OK 了！）。其中的秘訣在于，如果多于一個輸出神經元激活抑制性神經元（研究人員稱之為收斂神經元）能夠激活強抑制信號。而另一個抑制性神經元（被稱為穩定神經元）的功能在于，只要任何輸出神經元正在激活信號，那么它都只會發出更弱的信號。

收斂神經元能夠驅動神經網絡選擇單個輸出神經元，并在該節點上停止激活信號；而穩定神經元則會在收斂神經元已經停止活動時防止輸出神經元的第二次作用。而如果輸出神經元被抑制的時間越久，它越有可能繼續保持這一狀態。而一旦選擇了單個輸出神經元，它的反饋回路能夠確保自己能夠克服穩定神經元的抑制作用。

但是，如果缺少了隨機性，網絡并不會收斂到單個輸出神經元，抑制性神經元權重的任何設置將同等地影響所有的輸出神經元。「你需要隨機性來打破這種對稱性，」Parter 解釋道。

研究人員能夠確定所需要的輔助神經元的最小數量，以保證特定收斂的速度，以及在一定數量的輔助神經元的情況下的最大收斂速度。

越多的收斂神經元并不代表著收斂速度一定會加快，比如說現在有 100 個輸入神經元，兩到三個收斂神經元已經足夠，而增加第四個并不會增加你的速度。與此同時，一個穩定神經元已經足夠。

但更有意思的地方在于，研究人員發現興奮性神經元（刺激）與抑制神經元一樣，并不能增強神經網絡的處理效率。

Salk 生物研究所的助理教授 Saket Navlakha 表示，這個模型能夠應用于很多的感覺系統中，包括生成稀疏碼的嗅覺系統。「我們已經發現了許多類型的抑制性神經元，下一步我們打算看看是否能像論文所說的一樣，將抑制性神經元分為上述兩類。」

卡耐基梅隆大學計算機科學 Ziv Bar-Joseph 表示，「神經科學在計算模型上需要考慮更多的細節，除了抑制性神經元如何發生作用外，什么樣的蛋白質能夠驅動它們呢？」目前，Nancy 正在對神經網絡進行全面性的觀察，并研究抑制神經元的數量。而這種基于宏觀層面范圍內的建模，相信能夠為人類帶來普適性更強的預測。

via MIT，雷鋒網編譯

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。