邊策 賴可 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
在機器學習中，異或（XOR）這樣的非線性問題一直需要多層神經網絡來解決。科學家一直以為，即使在人類大腦中，XOR運算也需要多層神經元網絡才能計算。
但是大腦遠比人類想象得“高能”。
最新研究發現：人類大腦只需要單個神經元就可以進行XOR運算。這項研究登上了最新一期的Science雜志。
來自德國洪堡大學的學者們在論文中表示：我們的發現，對構成細胞功能算法的生理基礎提供了洞見，這些基礎模塊最終引發了大腦皮層網絡的行為。
一直熱愛給AI潑冷水的馬庫斯也非常關注，甚至覺得這個研究可能重塑對神經網絡的看法。
在推特上，這一研究已經收獲700多次轉發，近2000贊。在reddit談論上，也已經引發了100多條討論。
XOR運算與AI的第一次寒冬
XOR運算是計算機中最常見的一種邏輯運算。異或的意思即：輸入相同，結果為1；輸入不同，結果為0。
這個看似簡單的運算，其實需要的步驟卻不簡單。就是這個小小的運算問題，卻導致了上世紀70年代的第二次“AI寒冬”。
在計算機領域，異或從來就不是一個晶體管或線性模型就能解決的。
從硬件角度來看，一個XOR需要6個MOSFET晶體管才能實現。
從軟件上來看，一個XOT需要至少兩層的神經網絡才能輸出正確的結果。
最初的人工神經網絡僅有一層，而一層網絡是無法解決異或運算的。你無法只畫一條直線就把正方形的兩組對角頂點分開。
說白了，屬于單層的神經模型“感知器”只能解決線性問題，而XOR則是非線性問題，需要多層神經網絡來解決。
1969年，“符號主義”的代表人物明斯基在自己的新書《感知器》中diss“連接主義”：感知器連基本的異或都做不到。他的發難成為了那次AI寒冬的導火索。
直到后來多層神經網絡的出現，才解決了這一問題，AI界才迎來了連接主義的第二次興盛，直至今日。
顛覆認知：單個神經元如何實現XOR運算
不僅單層人工神經網絡做不到，過去科學家們認為，連人類的單個神經元也做不到。常常被人類拿來做實驗的小白鼠就不行。
而最新的研究發現，人類的神經元比其他生物更高級些，只要單個神經元就能做異或運算。這或許也是人類能擁有高級智慧的原因。
人類的大腦就是一個碳基計算機，處理各種信息和計算，最外面的皮層是其中的CPU。最高級，也是大腦演化中出現最晚的部分。在皮層中，分布著一個個神經元。
樹突作為單個神經元的一部分，樹突的電學特性決定了神經元的輸入輸出，是大腦各種復雜功能的基礎。然而，過去對樹突的了解幾乎都是從小白鼠身上得來的。
同為哺乳動物，小鼠的皮層結構和人類差不多。小鼠大腦中，2層和3層不可分割，人類大腦中，可以進行分割，一般研究中，2層和3層就算在一起，作為2/3層。
其中2/3層在人類的進化過程中，會不均勻地增厚。這讓科學家對這一層產生了獨特興趣，把癲癇和腫瘤病人手術切除的腦組織中的這一部分做成切片，拿來研究。
2/3層有大量結構精密的樹突森林，樹突上發生著大量的電輸入。這一層也有大量的錐體神經元。
科學家發現，在錐體神經元上，有一種鈣介導的樹突狀動作電位dCaAPs。這種電位以樹突為單位，鈣為介質。和常見的只有“全“或”無“兩種狀態的動作電位bPAs相比，呈現的狀態更復雜。
對于普通水平的刺激，振幅最大
波形更寬：4.4±1.4 ms，范圍是2.6～8.0 ms；
上升緩慢且在開始時沒有扭結；
dCaAPs的振幅及其上沖程與細胞體的距離無關。
對于較強的刺激，dCaAPs的振幅會衰減。
當用超過閾值的電流刺激細胞體時，普通APs的輸出值會隨之增強，而dCaAPs的強度反而會減弱。
這樣， 當輸入強度高于最優強度時，dCaAP雖然被激活，但是振幅會被抑制，運用這一性質，它們可以進行XOR運算。
運算發生的位置也有特殊性，XOR運算發生在dCaAPs的樹突頂端；而線性的AND/OR運算發生在細胞體中，在基底樹突上。
討論：生物神經元與人工神經網絡
這一研究結果，首先打破了大家對人類大腦的既有認知。
Robust.AI創始人馬庫斯認為，這個發現的意義重大，我們現在對大腦的認知只是冰山一角，單個神經元或許能做很多的事情。而我們此前沒有發現。
他認為這個研究可能重塑我們對神經網絡的看法。
在推特上，研究團隊同實驗室的科學家Jaan Aru發出的推文，獲得了700多轉發、近2000的喜歡。而在Reddit論壇上，這個主題也被頂了近700次。
在Reddit上，網友們也進行了大量的討論，我們從中摘錄了一些。
網友HackZisBotez：
這篇論文很棒。這是科學研究第一次展示出，人類神經元與嚙齒類動物神經元，有本質的不同，不僅是算力更強大，而且完全不同的計算方式。
人類神經元執行XOR的方式，是一種此前未知的、針對輸入的局部響應來實現。這種響應的閾值以下范圍很窄，閾值區間范圍非常大，而閾值以上的范圍同樣很窄。我們在其他動物身上，從來沒有看到過類似的情況。
這篇論文很棒。這是科學研究第一次展示出，人類神經元與嚙齒類動物神經元，有本質的不同，不僅是算力更強大，而且完全不同的計算方式。
人類神經元執行XOR的方式，是一種此前未知的、針對輸入的局部響應來實現。這種響應的閾值以下范圍很窄，閾值區間范圍非常大，而閾值以上的范圍同樣很窄。我們在其他動物身上，從來沒有看到過類似的情況。
網友Nivter：
“我們的發現，對構成細胞功能算法的生理基礎提供了洞見，這些算法模塊最終引發了大腦皮層網絡的行為。”
作者論文中的這些話，我認為暗示了人工神經元，只是實現了真實神經元功能中的一小部分功能。我們可以從真實神經元中獲得啟發，兩者完全不能相提并論。
“我們的發現，對構成細胞功能算法的生理基礎提供了洞見，這些算法模塊最終引發了大腦皮層網絡的行為。”
作者論文中的這些話，我認為暗示了人工神經元，只是實現了真實神經元功能中的一小部分功能。我們可以從真實神經元中獲得啟發，兩者完全不能相提并論。
網友ka9dgx：
我認為這暗示著，復制人類大腦所需要的神經元數量，可能需要重新估算。
我們對大腦還沒有足夠的了解。人腦最小的功能單元可能是微柱體。微柱體中有大約100個神經元，分布在一個6層結構中。不過，哺乳動物的新皮質結構，并不是智力的必要條件。烏鴉是最聰明的動物之一，但并沒有新皮質結構。
我認為這暗示著，復制人類大腦所需要的神經元數量，可能需要重新估算。
我們對大腦還沒有足夠的了解。人腦最小的功能單元可能是微柱體。微柱體中有大約100個神經元，分布在一個6層結構中。不過，哺乳動物的新皮質結構，并不是智力的必要條件。烏鴉是最聰明的動物之一，但并沒有新皮質結構。
網友Optrode：
神經學家在此。對于想要了解生物神經元和人工神經網絡之間差異的人，我提供三個現成的信息。
1、生物神經元不能簡化為“激活或抑制”。激活或抑制的突觸有非常多的類型，它們的行為并不完全相同。比方，允許鈉進入細胞（直接激活），允許鉀離開細胞（直接抑制），打開氯離子通道（通常反直接激活或抑制），允許鈣進入細胞（可以觸發基因表達的改變）……
2、一個神經元的輸入，永遠不會線性求和。樹突的物理性質，控制了突觸信號可以傳播多遠、向哪個方向傳播。一個樹狀分支可以執行完全獨立于另一個樹狀分支中事件的局部計算。
3、神經元的計算功能高度依賴于其時間動態。神經元的興奮性與其近期的活動有關，沒有時間動態，幾乎無法完成建模。許多神經網絡回路收到循環輸入的強烈調制，這意味著給定一組神經元的輸出，實際上無法以前饋方式進行計算，即便對于靜態輸入也是如此。
神經學家在此。對于想要了解生物神經元和人工神經網絡之間差異的人，我提供三個現成的信息。
1、生物神經元不能簡化為“激活或抑制”。激活或抑制的突觸有非常多的類型，它們的行為并不完全相同。比方，允許鈉進入細胞（直接激活），允許鉀離開細胞（直接抑制），打開氯離子通道（通常反直接激活或抑制），允許鈣進入細胞（可以觸發基因表達的改變）……
2、一個神經元的輸入，永遠不會線性求和。樹突的物理性質，控制了突觸信號可以傳播多遠、向哪個方向傳播。一個樹狀分支可以執行完全獨立于另一個樹狀分支中事件的局部計算。
3、神經元的計算功能高度依賴于其時間動態。神經元的興奮性與其近期的活動有關，沒有時間動態，幾乎無法完成建模。許多神經網絡回路收到循環輸入的強烈調制，這意味著給定一組神經元的輸出，實際上無法以前饋方式進行計算，即便對于靜態輸入也是如此。
當然，除了討論和贊許，也會有不同的聲音。
神經網絡、機器學習研究者Subutai Ahmad就在推特上提問：
非常棒的研究。但我有一點困惑之處：2003年Yiota給出的模型，已經解決了XOR問題。
非常棒的研究。但我有一點困惑之處：2003年Yiota給出的模型，已經解決了XOR問題。
對此Jaan Aru回答說：
不過這次是 真東西，真的神經元，真的電流和真的尖峰。無意冒犯所有出色的計算機研究者。但我想大多數人都同意，真實的結果比僅有一個模型更出色。
不過這次是 真東西，真的神經元，真的電流和真的尖峰。無意冒犯所有出色的計算機研究者。但我想大多數人都同意，真實的結果比僅有一個模型更出色。
上面提及的計算神經科學家Yiota Poirazi，也在推特上作出回應。
她說這次的新結果，是在自己團隊以前的結果上得出的，但研究方向仍然非常新穎。不過，她也指出這一方向的研究，還有進一步深入的空間。
作者系網易新聞·網易號“各有態度”簽約作者
— 完—
AI白皮書 | 未來產業智能
······ 戳下圖即可查看IDC中國的報告解讀。
完整報告下載方式：在量子位公眾號后臺回復“AI落地白皮書”。
跟大咖交流 | 進入AI社群
量子位 QbitAI · 頭條號簽約作者
?'?' ? 追蹤AI技術和產品新動態
喜歡就點「在看」吧 !
