2024世界人工智慧大會丨更經濟、更高效,更環保,愛芯元智打造智慧時代的AI處理器

近日,2024世界人工智慧大會在上海召開,愛芯元智于7月5日在大會上成功舉辦“芯領未來丨智慧晶片及多模態大模型論壇”,論壇以“引領人工智慧革新造就普惠智慧生活”為主題,匯聚了晶片、大模型、智慧製造等領域的專家與意見領袖,共同分享大模型時代的創新機遇及落地成果。愛芯元智提出了打造基於邊端智慧的AI處理器的産品主張,並突出強調其“更經濟、更高效、更環保”的先進優勢。分論壇上,愛芯元智正式發佈了“愛芯通元AI處理器”,展示了智慧晶片與大模型深度融合的技術應用與商業生態。

雲邊端加速一體化,更經濟、更高效、更環保成為AI晶片關鍵詞

當前,我國大模型正迎來飛速發展,愛芯元智創始人、董事長仇肖莘在主旨演講中表示,大模型真正大規模落地需要雲邊端三級緊密結合,而邊緣側和端側結合的關鍵在於AI計算與感知。愛芯元智基於愛芯智眸AI-ISP和愛芯通元混合精度NPU兩大自研核心技術,確立了以“AIoT+ADAS”為主的一體兩翼戰略路線,並向邊緣計算、AI推理領域縱深發展,推動智慧城市、智慧駕駛等應用場景加速落地。

愛芯元智創始人、董事長仇肖莘

仇肖莘認為,智慧晶片和多模態大模型已經成為人工智慧時代的“黃金組合”,當大模型的應用日益廣泛,更經濟、更高效、更環保將會成為智慧晶片的關鍵詞,而搭載AI處理器的高效推理晶片將是大模型落地更合理的選擇,這也是推進普惠AI的關鍵所在。

領跑AI處理器,愛芯通元佈局全領域算力

作為國內領先的基礎算力平臺公司,愛芯元智在2022年預判了transformer的爆發,並率先推出了搭載愛芯通元AI處理器的晶片。愛芯元智聯合創始人、副總裁劉建偉介紹,愛芯通元AI處理器的核心是算子指令集和數據流微架構。其底層採用了可編程數據流的微架構,來提高能效和算力密度。同時它的靈活性也保證了算子指令集的完備性,支撐各種AI的應用。而其成熟的軟體工具鏈可以讓開發者快速上手。此外,軟硬體的聯合設計也保證了愛芯通元AI處理器的高速迭代,保證了愛芯通元AI處理器的競爭力。愛芯通元AI處理器很大程度降低了AI應用的開發及運維成本,讓AI智慧更經濟、更高效、更環保。

愛芯元智聯合創始人、副總裁劉建偉

劉建偉介紹,愛芯通元AI處理器在高中低三檔算力中已完成佈局,並在智慧城市和輔助駕駛兩個領域實現了規模化量産,能效比較GPGPU晶片提升了一個數量級,而在以文搜圖、通用檢測、以圖生文、AI Agent等通用大模型應用中,愛芯通元AI處理器也可以讓AI開發者以更低的成本進行高效開發。

視覺大模型落地提速,智慧物聯與智慧駕駛綻放新機

論壇上,愛芯元智在智慧物聯、智慧駕駛等領域的合作夥伴也分享了AI處理器的應用前景。智慧物聯和人工智慧創新融合專家殷俊表示,以視覺為主的智慧在城市治理與生産生活方面應用廣泛,近年來大模型在文本、語音等領域快速發展,但在視覺領域的落地卻面臨可靠性、穩定性、理解不夠全面等挑戰,真實準確描述客觀世界是視覺大模型落地的關鍵。針對不斷更新迭代的視覺大模型,殷俊認為,不應該讓用戶放棄原有的技術投資,而是要通過大小模型協同和模型小型化,實現最優算力配置,來加快大模型行業落地。

智慧物聯和人工智慧創新融合專家殷俊

和物聯網一樣,智慧駕駛也經歷了模型從小到大的過程,“BEV+Transformer”大模型架構正在成為智駕行業的主力軍,背後則需要突破“端到端”模型技術難題。對此,邁馳智行科技有限公司CTO張弛表示,大模型加速了自動駕駛從高速公路向更加複雜的城區場景的過渡,也促進了端到端感知規控一體化的形成,這一過程中,鐳射雷達、高精度地圖的作用在減弱,但豐富的端到端大模型也讓不受地理環境限制的點到點自動駕駛成為可能。

邁馳智行科技有限公司CTO張弛

由雲到端,擁抱RISC-V,智慧晶片+大模型助力普惠AI

現場嘉賓們也對人工智慧發展方向做出了預測。面壁智慧副總裁賈超認為,憑藉在成本、隱私、延時性、可靠性等方面的優勢,端側AI發展會成為全球趨勢,這也意味著大模型正式進入了輕量化時代。這一背景下,“模型知識密度,平均每8個月提升1倍”將會成為大模型時代的新摩爾定律。賈超強調,企業開發端側大模型需要從演算法側和晶片側來做雙向奔赴,把端側模型用端側晶片,在用戶場景上高效落地,這樣才能給用戶帶來最極致的體驗。

面壁智慧副總裁賈超

達摩院RISC-V及生態高級技術專家尚雲海分析到,大模型未來就會呈現規模大、結構統一、能力增強三大趨勢,目前處於計算需求與硬體計算能力不匹配的階段,量化、結構化稀疏、低精度訓練將成為提升大模型性能的有效路徑。RISC-V作為開源、開放指令架構,可以第一時間適應AI演算法和算子的快速變化,滿足當前大模型所需的推動AI算力和晶片架構發展。

達摩院RISC-V及生態高級技術專家尚雲海

智慧晶片的突破創新讓算力更加有的放矢,大模型的應用落地也給各行各業的智慧化轉型帶來更廣闊的想像空間,愛芯元智將堅定推進智慧晶片與大模型的深度融合,促進雲邊端的一體化,助力推動AI普惠的不斷深化。