眾多企業加速佈局邊緣AI 加速大模型降本

【眾多企業加速佈局邊緣AI】生成式人工智慧的快速發展為諸多行業帶來新的機遇。當下,眾多企業加速佈局邊緣AI,加速大模型降本,也推進了具身機器人、數字人等智慧終端的迭代發展。

在7月24日舉行的第十七屆英特爾網路與邊緣計算行業大會上,機器人、深信服、數位視訊、中科創達等上市公司企業代表現身,分享了其在邊緣AI領域佈局的最新進展。英特爾方面表示,將與中國企業持續深度佈局邊緣算力,以加速AI大模型在實際場景中的應用落地。

“隨著大模型和算力的底層技術不斷完善,生成式AI帶動應用端革命,大模型部署在邊緣側成為必然趨勢,邊緣AI將成為各科技巨頭搶佔的下一塊高地。AI與邊緣計算的融合,也為産業鏈發展帶來新機遇。”中國聯合國採購促進會副秘書長宋嘉在接受《證券日報》記者採訪時表示。

搖晃著身體不斷與參觀者互動,在大會展區現場,一個名為“小英”的AI“3D”虛擬數智人引起參觀者關注。相關工作人員表示,“小英”是一個完全部署于邊緣端的數智人,基於英特爾Core處理器與獨立顯示卡技術,整合了先進的大語言模型和RAG技術,可以擔任營業廳客服代表等多類職務。

隨著晶片算力、虛擬現實、大模型的飛速發展,數智人技術已經從科幻走向現實,其不僅外觀高度逼真,更以強大的交互能力與智慧演算法,落地各行業應用。上述工作人員告訴記者:“隨著生成式AI對算力需求及應用要求的提升,眾多雲端生成式AI正向邊緣側和端側遷移,釋放生成式AI的更多潛力。”

在大會的展覽區域,具身機器人、機械臂、AI數字人、智慧網聯汽車路測設備以及低空預警和5G邊網融合場景紛紛得到展示。

科東(廣州)軟體科技有限公司AI研究員研發工程師張雷表示:“融入最新的語言大模型及多模態環境感知技術,基於英特爾最新一代計算平臺,科東智慧機械臂控制系統可以通過自然語言驅動機械臂執行任務,滿足工業場景中輕量化本地部署需求,同時做到數據不出廠,大幅提高效率。”

據了解,隨著生成式AI快速發展,雲端算力面臨成本以及供給壓力,逐步無法承載AI需求,AI應用的範圍與深度也漸漸被限制。為突破這一瓶頸,眾多廠商聯合搶先佈局邊緣AI,從而解決延遲、隱私和成本等關鍵問題,讓AI技術在更多領域得到應用。

“邊緣計算很好地解決了數據本地化需求,降低大模型部署成本,有力推動具身智慧機器人、數字人等終端及應用的迭代發展。”張雷説。

多家企業積極備戰邊緣AI,推進大模型在邊緣場景的部署。深信服工程師表示,公司實現在垂直領域安全大模型的高效能部署,極大提升了大語言模型的處理速度,進一步降低了運營成本。數位視訊相關負責人稱,採用AI解析度軟體,公司轉碼器實現了圖像重建等功能,並可以利用生成式AI演算法自動産生超高清視頻內容。

英特爾副總裁兼網路與邊緣計算事業部中國區總經理陳偉表示,基於對邊緣AI趨勢的洞察,公司推出了專為邊緣和網路AI設計的模組化平臺,從而推動企業加速AI在邊緣和網路的開發應用等,已經落地製造、交通、醫療等多個領域。

邊緣AI市場不斷升溫,成為當下企業競爭的熱門領域。除上述企業外,高通、英偉達均在進軍邊緣計算領域,國內三大運營商、網宿科技等企業也均在從不同路徑佈局邊緣AI市場。

生成式AI技術與邊緣計算的融合,也有望釋放巨大的産業空間。據調研機構Gartner預測,到2026年,80%的全球企業將使用生成式AI,50%的全球邊緣部署將包含AI。

英特爾中國區總經理王稚聰表示,AI正在成為經濟重要的驅動力。英特爾將基於邊緣AI研發,進一步推動與中國本地大模型廠商進行適配優化,提升各行業的生産效能和産品創新。

與此同時,晶片端巨頭、大模型玩家、製造企業加速邊緣AI相關佈局,也在帶動邊緣計算規模提升以及産業鏈升級。

根據機構STL Partners預測,到2030年,全球邊緣計算潛在市場規模將增長到4450億美元,行業複合年增長率高達48%。民生證券認為,在邊緣側推理的輕量化大語言模型有望帶動邊緣AI計算成長,加速邊緣硬體市場更新迭代。邊緣側終端、算力、晶片等産業鏈環節均有望迎來規模性發展。

責任編輯:李海嘯