華為推出全球最快AI訓練集群Atlas 900 可廣泛應用於科學研究與商業創新

9月18日,華為全聯接2019(HUAWEI CONNECT)大會上,華為副董事長胡厚崑發佈了Atlas 900 AI訓練集群,以超強算力帶給企業人工智慧業務的極致體驗。世界正從數字化向智慧化轉型,人工智慧産業作為關鍵驅動力,面臨自身的升級進化的挑戰。華為在超強人工智慧算力和大規模分佈式AI訓練集群兩個方面加速智慧化世界的轉型。

Atlas 900 AI訓練集群介紹

在大型數據集上進行訓練的神經網路架構涵蓋從圖像識別、自然語言處理、視頻實時分析和智慧推薦系統等各個方面,訓練這些神經網路模型需要大量浮點計算能力。近年來單個AI處理器算力和訓練方法上均取得了重大進步,但是在單一機器上,AI訓練所需要的時間仍然長得不切實際,因此需要借助大規模分佈式AI集群環境來提升神經網路訓練系統的浮點計算能力。

此次發佈的Atlas 900 AI訓練集群由數千顆昇騰910 AI處理器互聯構成,是當前全球最快的AI訓練集群,代表了當今全球的算力巔峰。其總算力達到256P~1024P FLOPS @FP16,相當於50萬台PC的計算能力。

Atlas 900 AI訓練集群領先技術優勢

AI算力業界領先

Atlas 900 AI訓練集群採用業界單晶片算力最強的昇騰910 AI處理器,每顆昇騰910 AI處理器內置32個達芬奇AI Core,單晶片提供比業界高一倍的算力(256TFLOPS@FP16)。Atlas 900 AI訓練集群將數千顆昇騰910 AI處理器互聯,打造業界第一的算力集群。

昇騰910 AI處理器採用SoC設計,整合“AI算力、通用算力、高速大頻寬I/O”,大幅度卸載Host CPU的數據預處理任務,充分提升訓練效率。

最佳集群網路

Atlas 900 AI訓練集群採用“HCCS、 PCIe 4.0、100G乙太”三類高速互聯方式,百TB全互聯無阻塞專屬參數同步網路,降低網路時延,梯度同步時延縮短10~70%。

在AI伺服器內部,昇騰910 AI處理器之間通過HCCS高速總線互聯;昇騰910 AI處理器和CPU之間以最新的PCIe 4.0(速率16Gb/s)技術互聯,其速率是業界主流採用的PCIe 3.0(8.0Gb/s)技術的兩倍,使得數據傳輸更加快速和高效。在集群層面,採用面向數據中心的CloudEngine 8800系列交換機,提供單端口100Gbps的交換速率,將集群內的所有AI伺服器接入高速交換網路。

獨創iLossless智慧無損交換演算法,對集群內的網路流量進行實時的學習訓練,實現網路0丟包與E2E μs級時延。

系統級調優

Atlas 900 AI訓練集群通過華為集合通信庫和作業調度平臺,整合HCCS、 PCIe 4.0和100G RoCE三種高速介面,充分釋放昇騰910 AI處理器的強大性能。

華為集合通信庫提供訓練網路所需的分佈式並行庫,通信庫+網路拓撲+訓練演算法進行系統級調優,實現集群線性度>80%,極大提升了作業調度效率。

極致散熱系統

傳統數據中心多以風冷技術對設備進行散熱,但在人工智慧時代傳統數據中心卻面臨非常大的挑戰。高功耗器件比如CPU和AI晶片帶來更大的熱島效應要求更高效的冷卻方式。液冷技術可以滿足數據中心高功率、高密部署、低PUE的超高需求。

Atlas 900 AI訓練集群採用全液冷方案,創新性設計業界最強櫃級密閉絕熱技術,支撐>95%液冷佔比。單機櫃支援高達50kW超高散熱功耗,實現PUE

另外,在空間節省方面,與8kW風冷機櫃相比,節省機房空間79%。極致的液冷散熱技術滿足了高功率、高密設備部署、低PUE的需求,極大地降低了客戶的TCO。

Atlas 900AI訓練集群領先的Benchmark指標

華為已在華為雲上部署了一個Atlas 900 AI訓練集群,集群規模為1024顆昇騰910 AI處理器。基於當前最典型的ResNet-50 v1.5模型”和“ ImageNet-1k數據集”,Atlas 900AI訓練集群只需59.8秒就可完成訓練,排名全球第一。

“ ImageNet-1k數據集”包含128萬張圖片,精度為75.9%,在同等精度下,其他兩家業界主流廠家測試成績分別是70.2s和76.8s,Atlas 900 AI訓練集群比第2名快15%。

Atlas 900 AI集群適用場景

Atlas 900 AI集群主要為大型數據集神經網路訓練提供超強算力,可廣泛應用於科學研究與商業創新,讓研究人員更快地進行圖像、視頻和語音等AI模型訓練,讓人類更高效地探索宇宙奧秘、預測天氣、勘探石油和加速自動駕駛的商用進程。

Atlas 900 AI集群也可以提供雲服務,以雲的方式提供充裕的、經濟的算力資源,簡單易用、高效率、全流程的AI平臺,為客戶帶來極致體驗的“易獲取、用得起、方便用”的普惠AI算力。

責任編輯:徐孟睿