邁向AIoT新紀元：雲天勵飛邊緣AI戰略全貌在WAIC 2024閃耀登場

7月5日,由中國資訊通信研究院承辦的WAIC 2024“邁向AGI:大模型煥新與産業賦能”論壇在上海成功召開。論壇深度聚焦大模型行業應用落地、終端智慧、大模型安全等前沿熱點話題。雲天勵飛董事長兼CEO陳寧博士受邀發表主題演講,首次展示雲天勵飛邊緣AI的戰略全貌。

大模型落地的多重挑戰 邊緣AI提供解法

今年WAIC上,“大模型+行業”的應用落地成為關注熱點。

當前,雲端大模型落地行業面臨許多挑戰:行業數據缺失,資訊反饋緩慢,長尾場景無法覆蓋,模型幻覺等。大模型應用落地進入“深水區”,上述難點如何應對?雲天勵飛的答案是:邊緣AI。

雲天勵飛董事長兼CEO陳寧博士

邊緣AI具備三個特點:更低成本、更好的數據隱私保護以及更快的響應速度。

近年來,越來越多行業巨頭開始擁抱邊緣AI:一方面,谷歌、微軟、Meta包括雲天勵飛都推出了輕量化大模型支撐邊緣AI的應用;另一方面,蘋果、英偉達等巨頭推出邊緣AI晶片,應用在AI手機和機器人上,雲天勵飛也在2022年底推出DeepEdge 10系列晶片,支撐邊緣端的大模型運作。

此外,邊緣AI讓物聯網升級成為AIoT,助力大模型落地。國泰君安證券研究所數據顯示,隨著AIOT的發展,未來3年邊緣智慧硬體設備將保持50%以上的複合增長率。

從行業發展趨勢中可以看到,邊緣AI正在加速到來。

在應用落地層面,邊緣AI分為個人、家庭、城市三類場景:

在個人領域,搭載了邊緣AI的各種3C設備讓每個人都能擁有一個AI Copilot,AI服務隨手可得;

在家庭領域,邊緣AI讓以服務機器人為代表的各種智慧終端主動完成家庭任務,成為每個家庭的生活助手;

在城市領域,邊緣AI賦能下的千行百業實現無數場景的價值閉環,如公共安全從“被動治理”到“主動預防”,城市治理實現從發現、分撥到處置、上報的整體閉環等。

未來,邊緣AI將滲透至物理世界的各個角落

在演講中,陳寧博士提到,邊緣AI的發展可以分為四個階段:

第一個階段是在邊緣設備上搭載小模型演算法,讓邊緣設備具有處理簡單任務的能力,比如在攝像頭中加入車輛識別、人臉識別等演算法;

第二階段是視覺語義大模型走向邊緣,代表的産品有AI手機、AI PC等,這也是我們當前所處的階段;

第三階段是端到端行為大模型走向邊緣,在這一階段,各類機器人、智慧可穿戴設備將變得隨處可見;

第四階段是通用人工智慧時代,屆時我們將進入萬物皆智慧的世界。

雲天勵飛邊緣AI佈局全景

基於當前邊緣AI的發展趨勢和多年的技術積累,雲天勵飛制定了"2+3+3"邊緣AI的戰略佈局全景,即2個技術平臺——多模態大模型、NPU加速計算平臺;3類主營業務——智慧硬體、智算運營、智慧行業;3個應用方向——個人Copilot、家庭Copilot、城市Copilot,助力邊緣AI滲透至物理世界的各個角落。

入選信通院2024大模型典型示範應用案例 數字政務大模型落地實踐

在本次論壇中,中國資訊通信研究院發佈了2024大模型示範應用案例,“雲天天書”數字政務大模型榮列其中。

雲天勵飛提出“E-MAGIC”政務大模型服務框架,整合數據交易平臺、AIGC內容生成平臺、數據加工及分析平臺、GPT大模型訓練中心、輸入提示工程中心和算力支援六大核心組件,利用前沿的AI技術和大數據處理能力,為政府部門提供高效的數據服務和智慧化解決方案,提升日常辦公的效率及服務品質等。

雲天勵飛“E-MAGIC”政府大模型平臺架構

此外,雲天勵飛在某區全面落地的數字政府大模型,實現了基層工作“大減負”:比如在12345系統,過去人工根據權責清單進行點選和事件分撥最快也需要15秒,在應用大模型後3秒後即可實現智慧分撥,無需人工參與,還能避免誤操作,效率提升達到80%。

在今年的WAIC上,“大模型+行業”成為趨勢,如何讓大模型作為新質生産力賦能千行百業是政府部門和企業都關心的問題。在這個過程中,雲天勵飛將持續深耕,不斷創新,推動邊緣AI與物理世界的融合,加速推動大模型行業落地。