2023年7月6日,昇騰人工智慧産業高峰論壇在上海舉辦。論壇現場,華為聯合四傢夥伴共同發佈昇騰AI大模型訓推一體化解決方案,加速大模型在各行業裏快速落地應用。
隨著深度學習領域的快速發展,越來越多的應用場景需要使用大模型來進行訓練和推理。然而,企業在大模型開發全流程中,常常面臨切換硬體集群、適配底層硬體以及微調優化等複雜問題。加之大模型研發週期長、部署門檻高等系列挑戰,“攢機”式開發手段難以滿足需求。
為有效解決以上問題,華為聯合四傢夥伴共同發佈昇騰AI大模型訓推一體化解決方案,實現了訓推一體,提供了“開箱即用”的解決方案,同一個集群內可以無縫切換大模型的訓練和推理過程,從而為客戶提供高效的大模型訓練和推理部署流程;同時,解決方案內置了大模型推理引擎、調優工具和算子加速庫,支撐客戶開箱即用,無需進行二次硬體適配,即可讓客戶能夠直接使用大型預訓練模型,從而降低了技術門檻;結合昇騰AI基礎軟硬體能力和夥伴模型和平臺優勢,通過嵌入四傢夥伴各自在大模型訓練、微調和優化方面的演算法和模型能力,共同設計、聯合開發、協同上市、持續迭代,實現為客戶提供更全面的解決方案,更能滿足全場景、全行業客戶使用。
昇騰AI大模型訓推一體化解決方案重塑了大模型開發流程,讓大模型在行業充分發揮價值,幫助客戶更好地應用大型深度學習模型。未來,華為也將繼續攜手合作夥伴,共同推動大模型與行業的深度融合與應用落地,為更多行業提供高效的解決方案,加速全場景、全行業應用成果落地。