7月2日,雲天勵飛發佈公告,公司與德元方惠簽署《關於AI算力運營項目的服務合同》,此前與德元方惠簽署的《AI算力運營合作框架協議》正式落地。根據合同,雲天勵飛將向德元方惠提供算力總規模模約 4000 PFLOPS的 AI訓練及推理算力服務。合同服務期3年,累計總服務費超16億元。
今年6月6日,雲天勵飛已經與德元方惠簽署《AI算力運營合作框架協議》,就德元方惠向雲天勵飛購買 AI訓練及推理算力服務達成了框架安排並對雙方簽署正式合同的條件、核心交易要素及違約責任等事項進行了約定,並約定德元方惠應在於與其客戶簽署項目合同之日起 10個工作日內,與雲天勵飛完成正式合同的簽署。
本次雙方簽署服務合同,意味著此前簽署的框架協議正式落實,奠定雲天勵飛未來業績高速增長基礎,亦標誌著雲天勵飛AI運營業務的一大突破。
將自研大模型經驗融入算力運營服務
大模型的蓬勃發展帶來了算力需求的激增。根據中信建投的測算,2023年-2027年,全球大模型訓練端峰值算力需求量的年複合增長率有望達到 78.0%,工信部數據顯示,截至2023年6月底,算力總規模達到197EFLOPS,算力總規模近五年年均增速近30%,存力總規模超過1080EB。
雲天勵飛自主研發了千億級大模型“雲天天書”,並在大模型的研發過程中積累了一系列算力調優、提升模型訓練效率的技術平臺和相應工具,雲天勵飛將上述技術沉澱運用在 AI算力服務中,可幫助客戶提升模型訓練及算力利用效率,同時,此次AI算力運營服務合同的簽訂也標誌著公司AI運營業務迎來新的重大突破。
此外,公司將持續投入自研大模型研發及優化工作,預計將維持較高對 AI訓練及推理異構算力的需求,此次《服務合同》項下涉及對於高性能異構算力的採購未來亦可視需要作為雲天勵飛大模型研發工作所需算力基礎的補充,支撐公司大模型技術的持續進步。
提前佈局推理算力
今年以來,大模型全面進入應用落地階段,推理算力需求隨之不斷增長。根據IDC數據,預計到2026年中國數據中心用於推理的負載將達到62.2%。雲天勵飛持續看好大模型進入成熟商業化階段後推理需求的爆發,並在推理算力領域進行戰略部署。
相較于大模型訓練算力的一次性開銷而言,推理算力需求將隨著模型使用時間和用戶量的增長而快速增加,因此在大模型進入成熟商業化階段之後將迎來需求爆發。雲天勵飛所搭建超大規模異構高性能算力集群將其自研推理卡與高性能訓練算力相結合,為客戶提供高效的訓推一體算力服務,同時為自研推理卡落地打開場景觸角,搭建生態,為大模型進入成熟商業化階段後的推理需求爆發提前佈局。
未來,雲天勵飛亦可在超大規模異構高性能算力集群中,將自研推理卡與高性能訓練算力相結合,為自研推理卡落地打開場景觸角,搭建生態,為行業帶來更豐富的算力服務。