一個國際研究團隊設計並製造了一種直接在記憶體中運作計算的晶片,可運作各種人工智慧(AI)應用,而且它能在保持高精度的同時,僅消耗通用AI計算平臺所耗能量的一小部分,兼具高效率和通用性。相關研究發表在最近的《自然》雜誌上。
這款名為NeuRRAM的神經形態晶片使AI離在與雲斷開的廣泛邊緣設備上運作又近了一步。在雲中,AI計算可隨時隨地執行複雜的認知任務,而不需要依賴與中央伺服器的網路連接。從智慧手錶到虛擬現實(VR)耳機、智慧耳機、工廠中的智慧感測器和用於太空探索的漫遊車,其應用比比皆是,遍及世界的每一個角落和人類生活的方方面面。
NeuRRAM晶片的能效不僅是目前最先進的“記憶體計算”晶片(一種在記憶體中運作計算的創新混合晶片)的兩倍,而且它提供的結果也與傳統數字晶片一樣準確。傳統的AI平臺要龐大得多,通常受限于使用在雲中運作的大型數據伺服器。
此外,NeuRRAM晶片具有高度的通用性,支援多種不同的神經網路模型和架構。因此,該晶片可用於許多不同的應用,包括圖像識別和重建以及語音識別。
目前,AI計算既耗電又昂貴。邊緣設備上的大多數AI應用程式都涉及將數據從設備移動到雲端,AI在雲端對其進行處理和分析,然後將結果移回設備。
通過降低邊緣AI計算所需的功耗,這款NeuRRAM晶片可帶來更強大、更智慧、更易於訪問的邊緣設備和更智慧的製造。它還可帶來更好的數據隱私,因為將數據從設備傳輸到雲會帶來更高的安全風險。
研究人員通過一種名為能量延遲乘積(EDP)的方法來測量晶片的能效。EDP結合了每次操作所消耗的能量和完成操作所需的時間。通過這一措施,NeuRRAM晶片實現了比目前最先進晶片高7—13倍的計算密度。
研究人員在晶片上運作各種人工智慧任務。它在手寫數字識別任務上準確率達到99%,在圖像分類任務上達到85.7%,在谷歌語音命令識別任務上達到84.7%。此外,該晶片還在圖像恢復任務中減少了70%的圖像重建誤差。這些結果可以與現有的數字晶片相媲美,後者在相同的精度下執行計算,但大大節省了能源。
【總編輯圈點】
與經典計算相比,AI計算的許多數據處理都涉及矩陣乘法和加法,以及海量的並行工作,如何在保持AI晶片精度的前提下還做到節能呢?最終該用什麼路線去實現,其實依然眾説紛紜。但這也正是一項新技術的特點與魅力——在探索階段百花齊放。就像本文中團隊實現的神經形態晶片,其最大的吸引人之處,正是它兼具了高能效與通用性。