腦啟發神經環路演化賦能脈衝神經網路創新
中國網/中國發展門戶網訊 近日,中國科學院自動化研究所曾毅研究員負責的類腦認知智慧團隊在《美國國家科學院院刊(Proceedings of the National Academy of Sciences, PNAS)》上發表了一篇題為“腦啟發神經環路演化賦能脈衝神經網路(Brain-inspired neural circuit evolution for spiking neural networks)”的新研究。他們受經過自然演化的生物腦神經環路結構呈現出的多樣性以及脈衝時序依賴可塑性機制啟發,提出了腦啟發的神經環路演化策略, 助力研發更具生物合理性和高效性的類腦脈衝神經網路。
在生物神經系統中,不同類型的神經元能夠自組織成連接模式各異的神經環路,以在結構上支援實現豐富的認知功能。人腦中不同類型的神經環路及其自適應能力促進了人類感知、學習、決策及其他高等認知功能的實現。然而,當前的脈衝神經網路設計範式大多基於深度學習領域的結構啟發。這些結構主要由前饋連接佔據主導地位,而沒有考慮到不同類型的神經元,顯著阻礙了脈衝神經網路在複雜任務上發揮其潛力。從計算視角挖掘生物神經環路的豐富動力學特性及其意義,並應用於當前類腦脈衝神經網路的結構從而提升人工智慧系統的能力,仍然是一個深刻而具有開放性的挑戰。
曾毅研究員團隊以前饋和反饋連接與興奮性和抑制性神經元結合為基礎,為智慧演化的計算建模提供了更具生物合理性的演化空間。研究利用神經元的局部脈衝行為,通過脈衝時序依賴可塑性的局部規則,自適應地演化出通過自然演化生成的功能性神經環路,如前向興奮、前向抑制、反饋抑制和側向抑制,並結合全局誤差信號更新突觸權重。通過融入演化生成的神經環路,本研究構建了用於圖像分類和強化學習與決策任務的類腦脈衝神經網路。利用受腦啟發的神經環路演化策略(NeuEvo)以及演化出的豐富的類神經環路類型,演化後的類腦脈衝神經網路極大地增強了感知、強化學習與決策能力。
曾毅研究員表示:“此次研究以計算建模的方式模擬了自然結構演化中的用進廢退,並以此為基礎自主演化出了豐富的神經環路類型,最有意思的是這些環路類型在自然生物的大腦中都是存在的,而且我們的實驗證明了這些結構能夠更好地幫助解決學習與決策等智慧相關的核心問題,自然演化中存在即合理,這給未來的通用類腦認知智慧的研究無限啟發。”
中國科學院自動化研究所博士生申國斌、趙東城助理研究員為本論文共同第一作者,曾毅研究員為通訊作者,博士生董一廷為共同作者。
利用腦啟發神經演化構建的類腦脈衝神經網路
A.神經環路結構的演化過程. B. 不同神經環路的示意圖C. NeuEvo 獲得的複雜環路的示例