中國科學院自動化所與北京大學合作開源深度脈衝神經網路學習框架
中國網/中國發展門戶網訊 脈衝神經網路(Spiking Neural Network, SNN)被譽為第三代神經網路,隨著深度學習方法的引入,SNN的性能得到大幅度提升,脈衝深度學習(Spiking Deep Learning)成為新興的研究熱點。中國科學院自動化研究所李國齊研究員與北京大學電腦學院田永鴻教授團隊合作構建並開源了深度脈衝神經網路學習框架SpikingJelly(中文名:驚蜇)。SpikingJelly(驚蜇)提供了全棧式的脈衝深度學習解決方案,支援神經形態數據處理、深度SNN的構建、替代梯度訓練、ANN轉換SNN、權重量化和神經形態晶片部署等功能。
據介紹,SpikingJelly(驚蜇)框架具有簡單易用、擴展性強、性能卓越等優勢。提供了簡單易用的PyTorch風格的API、中英文雙語編寫的教程、活躍友善的討論社區,常用的網路模型和訓練腳本也一併給出,研究者可以快速進行跨領域的學習和使用,通過寥寥數行代碼輕鬆構建並訓練深度SNN。SpikingJelly(驚蜇)中的絕大多數模組都是通過層次清晰的多重繼承實現,既為開發者降低了開發成本,也給用戶提供了完美的定義新模型的範例。SpikingJelly(驚蜇)充分利用SNN的特性,通過計算圖遍歷順序優化、JIT (just-in-time compilation, 即時編譯)、半自動CUDA代碼生成等技術來加速SNN倣真,與其他框架相比可達11倍的訓練加速。
據悉,SpikingJelly(驚蜇)框架自2019年冬季一經推出就受到了研究者們的歡迎和廣泛使用,基於SpikingJelly(驚蜇)的研究工作已經大量出版,將SNN的應用從簡單的MNIST數據集分類擴展到人類水準的ImageNet圖像分類、網路部署、事件相機數據處理等實際應用。此外,一些尖端前沿領域的探索也被報道,包括可校準的神經形態感知系統、神經形態憶阻器、事件驅動加速器硬體設計等。
介紹SpikingJelly (驚蜇)框架的論文于2023年10月6日在Science子刊《科學進展》(Science Advances)線上發表。北京大學電腦學院田永鴻教授、中國科學院自動化研究所李國齊研究員為論文共同通訊作者,北京大學電腦學院直博生方維為論文第一作者。
SpikingJelly(驚蜇)框架的整體結構、示例代碼、倣真速度、生態位以及典型應用