“粵”見昇騰 | 昇騰AI開發者創享日·廣東站圓滿舉辦

6月29日,昇騰AI開發者創享日·廣東站在廣州成功舉辦。本次活動匯聚人工智慧領域頂尖人才,為開發者帶來昇騰AI生態最新進展、案例實踐應用及原生開發技術等分享,旨在凝聚開發者力量,共建全面開放的原生生態。

人工智慧作為新一輪科技和産業變革的重要驅動力量,是打造新質生産力的重要引擎。昇騰AI作為全面智慧化的根基,通過分層開放的方式,攜手夥伴一起打造領先可靠的基礎軟硬體平臺,使能百模千態,賦能千行萬業,推動了産業生態的繁榮。至今,昇騰AI已發展開發者300多萬,合作夥伴1600多家,解決方案認證2900多個。今年,昇騰全面啟動原生開發,讓模型性能更優異,讓應用開發更高效,後續,昇騰將持續從原生開發套件、原生使能計劃、原生人才培養三個方面加速昇騰原生生態構建。

生態應用成果落地 大咖共話昇騰AI創新實踐

自2019年華為發佈計算戰略以來,昇騰通過一站式遷移工具,將應用快速地遷移到昇騰上來,消除生態壁壘,推進了昇騰在中國的快速部署,目前,已廣泛服務於金融、電信、政府、網際網路等主要行業的核心業務場景,正在支撐行業數字化的轉型落地。

會上,來自業界的專家學者,圍繞大語言模型的發展趨勢、基於昇騰AI打造的平臺及其應用落地等進行分享,共話昇騰AI創新實踐。

復旦大學電腦學院教授,中國中文資訊學會大模型專委會副主任邱錫鵬對大語言模型的發展歷程進行了闡述,他認為大模型是通過語言來構建世界知識,而大語言模型的下一階段目標是具身智慧+世界模型,世界模型是一種能夠模擬和理解環境的模型,並在此基礎上進行決策和預測的人工智慧系統,它是未來具身智慧最重要的基座。邱錫鵬表示未來大語言模型將會演化到世界模型,需要進一步研究如何打造高效、安全、可信的基礎模型及探索實用、多元、複雜的應用場景。

復旦大學電腦學院教授,中國中文資訊學會大模型大搜索與生成專委會副主任邱錫鵬

華南理工大學電腦科學與工程學院教授陸璐介紹了基於異構算力平臺並行加速與性能優化獲得的技術成果,包括:倣真模型資源評估、算子庫設計優化、HPL、HPL-AI優化及多卡通信優化,通過上述能力,解決了鵬城實驗室、廣州琶洲實驗室等項目的多個瓶頸點,使得系統能更好的滿足産業需求,應用於行業場景中。

華南理工大學電腦科學與工程學院教授陸璐

佳都科技首席AI科學家王凱博士介紹,佳都深耕交通行業,發佈了基於昇騰AI打造的知行交通行業大模型訓推一體機和知行交通大模型V2.0,目前,已在多個行業場景落地。其中,知行交通智慧體可根據智慧運維、應急管理等業務場景自主規劃和反思,調用多種工具組合完成複雜任務。基於知行視覺大模型TransCore-V的智慧視頻分析一體機,部署在車站、線網系統,可全方位覆蓋影響安全運營的各種異常行為場景,保障安全運營與乘客出行。基於知行多模態大模型TransCore-M的“佳翼雲”AI大模型一體櫃,是業界首款專為交通行業視頻智慧應用場景設計的AI大模型一體櫃産品,通過自然語言對話,解決複雜場景視覺語義搜索難題,滿足不同場景對視頻智慧化的應用需求。知行時空決策的模型TransCore-TS融入到了華佳MOS地鐵智慧大腦、站臺門智慧運維繫統、節能控制櫃等産品中,在地鐵線路客流預測、站臺門異常檢測、車站節能環控也實現了落地應用。

佳都科技首席人工智慧科學家兼通用大模型研究中心主任王凱

昇騰原生開發技術解密 激發開發者原生動力

面向未來,基於昇騰的原生生態,能夠開闢更大的産業空間,能持續不斷的引領原生創新,而這離不開高效、易用的基礎軟硬體平臺。為此,昇騰以異構計算架構CANN、全場景AI框架昇思MindSpore和推理引擎MindIE為基礎,基於一套架構,面向算子、模型和應用三個開發場景,對昇騰AI基礎軟體做了6大全棧升級。

會上,來自昇騰AI的技術專家們,圍繞昇騰算子開發語言Ascend 2.0技術升級、昇騰原生支援Pytorch訓練大模型、昇思MindSpore 2.3版本技術升級及昇騰大模型推理解決方案做了詳細解讀:

●面向算子開發,進一步開放CANN,開放了GE圖引擎、HCCL集合通信庫、更加完善的算子加速庫及全新升級的Ascend C 2.0,提供更多原生創新支援。全新升級的Ascend C 2.0,提供60多個高階API,開發者可直接調用自主開發高性能算子。在通信優化上,通過通算融合和集合通信演算法創新,實現通信效率提升15%;在調優方面,推出多級指令流水線,快速識別性能優化點,能夠幫助開發者將典型算子開發效率從兩個月提升到兩周。

●在AI框架能力上,昇思MindSpore提供多級編譯的能力,同時支援靜態圖和動態圖模式,兼顧模型的開發效率與執行性能,並通過MindStudio工具鏈,高效執行大模型的調試、調優,開發效率倍增。同時,進一步完善了昇騰對PyTorch生態相容,PyTorch API支援度已達95%。為讓開發者更好的在昇騰上使用業界主流的三方庫,昇騰通過社區代碼貢獻的形式,原生支援 huggingFace和 DeepSpeed等社區的主流能力。

●面向推理應用開發,基於昇騰推理引擎MindIE,可滿足多種推理應用開發需求,提升推理開箱性能、降低應用部署門檻,加速大模型創新落地。通過大語言模型推理模型套件、並行推理&通信計算融合、量化壓縮、基於Transformer加速庫的大模型推理、訓練模型平滑遷移推理等在滿足低時延的條件下,將推理的吞吐提升6倍,大大降低了推理成本。

為讓廣大開發者更深入、全面地了解昇騰AI基礎軟硬體原生開發技術知識及應用能力,當天下午同期舉辦了昇騰AI原生開發訓練營大模型與應用開發、昇騰AI原生開發訓練營算子開發、昇騰AI知識大比拼及昇騰AI開發應用案例分享四個分論壇,以此賦能開發者技術成長。在展區現場,開發者通過觀摩前沿科技展示及實操互動體驗,沉浸式體驗“學-訓-練-賽”全週期體系。

昇騰AI開發者創享日·廣東站的成功舉辦,為開發者展現了前沿人工智慧行業應用案例、昇騰AI原生開發技術以及豐富的學習成長資源,相信通過這次活動也將進一步促進廣東本地的AI産業的持續蓬勃發展。人工智慧産業正處於高速發展階段,需要全産業鏈的協作與共同努力,未來昇騰AI將持續攜手夥伴,加速推動人工智慧走深向實!