大數據文摘出品

來源：IEEE SPECTRUM

編譯：木槿

眾所周知，動物與生俱來就有獨特能力和傾向，馬出生后幾個小時就能走路，鴨子孵化后很快就能游泳，而人類嬰兒會自動被臉吸引。大腦已經進化到只需很少或根本沒有經驗就能承擔起這個世界，許多研究人員希望在人工智能中重現這種自然能力。

新研究發現，人工智能也能進化出類似人和動物那種與生俱來的能力。人工神經網絡可以進化為無需學習即可執行任務。該技術可能會讓AI更擅長處理各種任務，例如為照片加標簽或駕駛汽車。

人工神經網絡靠的是小型計算節點（即神經元）之間傳遞信息，網絡通常通過調整神經元之間連接的“權重”或強度來學習執行諸如玩游戲或識別圖像之類的任務。一種稱為神經體系結構搜索的技術會嘗試許多網絡形狀和大小，以便針對特定目的找到更好的神經網絡。

新方法使用相同的搜索技術來查找權重無關緊要的網絡，對于這樣的網絡，網絡的整體形狀決定了它的智能，可能使其特別適合某些任務。

計算機科學家Adam Gaier說：“如果動物具有所有這些固有的行為，并且某些神經網絡在沒有大量訓練的情況下就能很好地發揮作用，那么我們想知道我們能將這一想法推進多遠。”他在谷歌大腦工作期間以第一作者發表該論文。

該過程從一組非常簡單的網絡開始，這些網絡將輸入（例如，來自機器人傳感器的數據）鏈接到行為輸出。它針對問題類型對網絡進行評估，對網絡性能進行優化，通過增加神經元或者說更改神經元對求輸入的敏感程度來實現突變。在評估階段，系統會為網絡的所有權重分配一個共享的隨機數。（實際上是使用多個隨機數進行計算，最后將結果取平均值。）

這種神經網絡稱為重量不可知神經網絡（WANNs），這些神經網絡選取的節點都再任務中表現出色并且網絡結構簡單。雖然處理這個領域的典型任務網絡可能具有數千個神經元和權重，但WANNs僅有少數神經元和一個權重。

盡管如此，WANNs依舊表現出色。研究團隊將WANNs與標準網絡體系結構進行了比較，這些標準網絡體系結構根據經驗調整權重，可以完成三個模擬任務：駕駛賽車，使兩足機器人行走，控制輪式推車以平衡桿位。

谷歌大腦研究人員通過精簡神經網絡結構，在前幾代中發現了最小架構的神經網絡能夠控制此處所示的雙足機器人，即使它的得分不高。

WANNs的得分大約是訓練有素的神經網絡的六分之一到一半，當研究人員分配最佳權重而不是隨機權重時，則得分介于訓練后的神經網絡得分的三分之二至五分之四。如果經過進化，WANNs的訓練強度與更大的標準網絡相同，則它們的性能會不相上下。

在涉及識別手寫數字的任務中，WANN的準確率超過90％（相比之下，接受該任務訓練的較大網絡的準確率則為99％），該研究于上個月在加拿大溫哥華的神經信息處理系統（NeurIPS）會議上發表。

沒有參與這項研究的優步人工智能實驗室的計算機科學家劉珊珊（Rosanne Liu）說：“它們使整個事情能正常運轉的事實令人印象深刻。”其他人嘗試建立不依賴權重的網絡最終宣告失敗。Gaier說，這一突破最初是一個漏洞，該漏洞將所有權重分配了相同的數字，最終簡化了搜索架構。

盡管WANNs的性能并不能取代訓練有素的大型網絡，但該方法為尋找專門適合各種任務的網絡架構開辟了一條新途徑，即大腦的各個部分針對特定目的的接線方式不同。例如，卷積神經網絡具有適合圖像識別的架構，可以反映大腦視覺皮層的結構。Gaier相信，還有更多的構建基塊，可以使AI從一開始就很聰明。

相關報道：

https://spectrum.ieee.org/tech-talk/computing/software/neural-networks-ai-artificial-intelligence-drives-virtual-racecars-without-learning