編輯:元子
【新智元導讀】柏林洪堡大學等機構的研究者最新的研究證實,人類皮層上層中發現的一種新型電信號,皮層神經元樹突臂中的微小區室每個都可以執行數學邏輯上的復雜操作,而不是像之前人們所認為的需要多層神經網絡。例如連感知機都搞不定的異或運算,單個神經元即可輕松解決。「福利:1月16日,騰訊微信人工智能高級研究員錢橋手把手教你“推薦系統與數據思維”,戳右邊鏈接上新智元We站公開課 了解更多!」
類似于植物根部的細樹突從該皮質神經元的細胞體向各個方向輻射。單個樹突可能會處理它們從相鄰神經元接收到的信號,然后再將它們傳遞為細胞整體反應的輸入。
一直以來我們都是將數萬億大腦神經元作為整體來宏觀的研究大腦的信息處理能力。但近年來越來越多的研究開始關注單個神經元的能力,結果令人意外:這些神經元似乎承擔著比以前想象的要多得多的計算責任。
柏林洪堡大學等機構的研究者最新的研究證實,人類皮層上層中發現的一種新型電信號,皮層神經元樹突臂中的微小區室每個都可以執行數學邏輯上的復雜操作,而不是像之前人們所認為的需要多層神經網絡。例如連感知機都搞不定的異或運算,單個神經元即可輕松解決。
刊登在《Science》上一篇論文“Dendritic action potentials and computation in human layer 2/3 cortical neurons”,引發了廣泛的關注。論文地址:
https://science.sciencemag.org/content/367/6473/83
賓夕法尼亞大學的計算神經科學家Konrad Kording則認為可能促使一些計算機科學家重新評估人工神經網絡的策略。
啞神經元的局限性
在1940年代和50年代開始流行這樣一張圖片:
圖中,啞神經元(“dumb” neuron)作為一個簡單的積分器,在整個網絡中對輸入進行求和的點。
而從神經元延伸出來的分支(也就是樹突),則從鄰近神經元接收成千上萬的信號。其中既有興奮性信號,也有抑制性信號。
接下來在神經元細胞體上,所有的信號在這里進行加權和計數,如果總和超過某個閾值,則神經元會發出一系列的電脈沖(動作電位),這些電脈沖會直接刺激鄰近的神經元。
盡管目前尚不清楚大腦在處理信息時實際上以這種方式進行了多少計算,但正是這張圖讓科學家意識到,單個神經元也可以起到邏輯門的作用,類似于數字電路中的邏輯門!
理論上,神經元網可以執行任何計算。當然,這種神經元模型比較有限。南加州大學的計算神經科學家Bartlett Mel說:“實際上,這是神經元塌陷到空間中的一個點。它沒有任何內部的活動關節。”
當時,科學家們缺乏用于從單個神經細胞的各個組成部分進行記錄的實驗工具。上述模型忽略了流入給定神經元的數千個輸入是沿著不同的樹突進入神經元細胞體的,而這些樹突本身所起到的功能可能差異巨大,或者更為具體來說,這些樹突內部本身可能存在一些計算功能。
好在40年后情況有所改變。
神經科學家Christof Koch等人的新模型表明,單個神經元不能表達單個或統一的電壓信號。相反,電壓信號沿著樹突進入神經元體內時會降低,并且通常對細胞的最終輸出沒有任何貢獻。
信號的這種分隔意味著單獨的樹突可能彼此獨立地處理信息,這就和此前神經元點假說矛盾。
這就促使Koch和耶魯大學醫學院的Gordon Shepherd等其他神經科學家對樹突的結構進行建模。
原則上,神經元不充當簡單的邏輯門,而是充當復雜的多單元處理系統。他們通過一系列復雜的假設機制模擬了樹狀樹如何承載大量邏輯運算。
后來,Mel和幾個同事驚訝的發現:樹突能夠產生局部尖峰;樹突具有自己的非線性輸入-輸出曲線;樹突有自己的激活閾值(這個閾值與神經元整體閾值不同);樹突本身可以充當與門或其他單元。
Mel和他的前研究生Yiota Poirazi意識到,這意味著可以將單個神經元設想為兩層網絡!樹突將充當非線性計算子單元,收集輸入并吐出中間輸出。這些信號然后將在細胞體內結合,這將決定整個神經元的反應方式。
目前尚不清楚樹突水平的活動,是否實際上影響了神經元的放電和鄰近神經元的活動。不管如何,局部處理在整個神經元系統中的作用已經毋庸置疑。
在計算能力上,神經元要比我們想象的強大很多。神經學家Shepherd表示皮層中進行處理的大部分功率實際上是低于閾值的。
從理論上來講,幾乎任何可以想象的計算都可以由一個具有足夠樹突的神經元來執行,每個樹突都能夠執行自己的非線性計算。
而在論文中,科學家向前又邁進了一步,認為不僅僅是樹突本身,樹突中的微小區室也能夠獨立執行復雜計算。
意外的尖峰和明斯基的舊困惑
此前的研究主要集中在嚙齒動物中,洪堡大學的神經科學家Matthew Larkum的團隊想知道在大量且更長樹突的人類神經元中,電信號有什么不同?
他們從人類皮質的第2和第3層中獲得了腦組織的切片,其中包含特別大的神經元和許多樹突。當他們用電流刺激那些樹突時,他們發現了一些奇怪的東西。
他們看到了意外的、反復的尖峰。而這些尖峰,似乎完全不同于其他已知種類的神經信號。
它們迅速而短暫,就像動作電位一樣,是由鈣離子通量引起的。相比較而言,我們常規動作電位通常是由鈉和鉀離子引起的。
而且,雖然先前已在嚙齒動物的樹突中觀察到鈣誘導的信號傳導,但這些尖峰卻能夠持續更長的時間。
更奇怪的是,給樹突注入更大的電流刺激,神經元放電的強度反而小了?很有意思的現象。
為了搞清楚這種新的尖峰可能帶來什么影響,研究人員構建了一個能夠反映神經元行為的模型。
該模型發現,樹枝狀晶體在響應兩個單獨的輸入時會出現尖峰信號,但當這些輸入信號合并時卻未能做到。這等效于稱為“異或”(或XOR)的非線性計算,如果一個輸入(但只有一個)為1,則二進制輸出為1。
這一發現立即引起了計算機科學界的共鳴。多年以來,人們一直認為XOR功能在單個神經元中是不可能的!
計算機科學家Marvin Minsky和Seymour Papert在其1969年的書《感知器》(Perceptrons)中提供了單層人工網絡無法執行XOR的證據。
這個結論是如此令人震驚,以至于許多計算機科學家將其歸咎于神經網絡研究在1980年代前的持續低迷狀態。
神經網絡研究者最終找到了避開 Minsky 和 Papert 所提出的困難的方法,同時神經科學家們也在自然界中找到了這些解決方案的案例。
Poirazi此前就已經發現了XOR可能存在于單個神經元中,只需簡單將兩個樹突結合起來就能夠實現這一點。在最近的這個實驗中,他們甚至提供了一個合理的、在單個樹突中執行XOR的生物物理機制。
處理器中的處理器
當然不是所有的神經元都是這樣。根據Gidon的說法,大腦其他部位有許多較小的點狀神經元。
那么,為什么一個神經元內的單個隔室需要有能力做整個神經元或一個很小的神經元網絡所能做的事情呢?
比較明顯的可能性是:多層神經網絡的神經元能夠有更好的處理能力,并且能夠有更好的學習和存儲能力。
Poirazi認為或許在單個的神經元內就有一個深度網絡,這在學習有難度的問題或認知方面,會強大的多,如此強大的單個神經元也可能有助于大腦節省能量。Kording則補充道:也許一個神經元就能計算出真正復雜的功能。
科爾丁補充說:“。根據Poirazi的說法,擁
研究人員認為,上述發現標志著需要重新考慮如何為大腦及其更廣泛的功能建模,僅僅關注不同神經元和大腦區域的連通性是不夠的。
新結果似乎也有望影響機器學習和人工智能領域的問題。人工神經網絡依賴于點狀模型,將神經元視為結點輸入并通過活動函數傳遞總和的節點。
紐約大學心理學和神經科學教授Gary marcus認為這項成果的意義十分巨大,單個神經元的能力可能超出我們的想象。甚至可能重塑我們對“神經啟發”網絡的觀點。
他補充說:“想從愚蠢的神經元中獲得聰明的認知的整個研究規則,可能是錯誤的。”


