5月9日,在北京阿裏雲AI智領者峰會上,阿裏雲CTO周靖人公佈百煉大模型平臺最新進展。百煉平臺從模型開發、應用開發到算力底座全面升級,更加易用、更加開放,引入更多模型,還率先相容LlamaIndex等開源框架,企業可自由替換能力組件來適配自身系統。針對當下企業最關注的RAG鏈路,百煉提供靈活開放的企業級檢索增強服務,5到10行代碼即可搭建RAG應用,讓大模型擁有“最強外挂”。
2023年10月,阿裏雲發佈了百煉大模型平臺,開發者可通過“拖拉拽”5分鐘開發一款大模型應用,幾小時“煉”出一個專屬模型,把精力專注于應用創新。本次大會上,百煉升級成為阿裏雲承載雲+AI能力的重要平臺,提供一站式、全託管的大模型定制與應用服務。升級後,百煉可以更好支援地大型企業和成熟開發者的需求。
“當下企業應用大模型存在三種範式:一是對大模型開箱即用,二是對大模型進行微調和持續訓練,三是基於模型開發應用,其中最典型的需求是RAG,以企業數據對大模型進行知識增強。圍繞這些需求,百煉打造了模型中心和應用中心,提供最豐富的模型和最易用的工具箱。”周靖人介紹。
對希望直接調用模型進行推理的企業,百煉整合了上百款大模型api,除了通義、Llama、ChatGLM等系列,還首家託管百川等系列三方模型,覆蓋國內外主流廠商,聯動魔搭開源社區,同時支援企業上架通用或行業模型,給開發者提供足夠多的模型選擇。同時,百煉依託阿裏雲AI基礎設施,支援千億級模型的萬級併發推理,充分滿足企業需求。
對需進一步訓練模型的用戶,百煉提供從數據管理、模型調優、評測到部署的全鏈路模型服務,用戶可彈性按需調用算力,無需關心底層架構。訓練過程可視化,還可自動評測模型品質,並與其他模型對比。
對希望打造RAG應用的企業,百煉支援Assistant API開發模式,可在百煉上輕鬆創建知識庫,並一鍵開啟知識檢索增強(RAG),通過Assistant API聯合輸出。同時,百煉支援agent智慧體開發,並能實現多智慧體協作、對話記憶等高級功能。
阿裏雲百煉的一大重要優勢,在於最大程度的開放性和自由度。當下一些大模型應用平臺採用封閉鏈路,不支援替換原子能力,導致企業開發應用時無法引入自研插件,和業務場景充分融合。
百煉率先相容並優化了LlamaIndex等開源架構,擁抱社區生態,支援從本地或不同雲端導入SQL、pdf、excel、ppt等各種類型數據源,還支援根據需求自由替換精細的能力組件,讓AI應用絲滑嵌入企業原有業務系統。
周靖人表示,接下來,百煉將繼續做對開發者最友好、最開放的大模型平臺。阿裏雲歡迎更多大模型上架,百煉將進一步支援三方模型的微調訓練和雲上專屬部署,幫助大模型生態中的企業提供商業化服務。
據了解,阿裏雲百煉發佈半年來,已服務一汽、微網志、完美世界、朗新集團、央視網、藍淩科技等眾多企業。例如,一汽紅旗在百煉上調用通義千問和大模型分析能力打造了專屬BI智慧體,管理人員可隨時讓大模型生成銷售額圖表,並分析相關情況。
(責任編輯:王晨曦)