在科技浪潮的推動下,安徽蕪湖迎來了華為云生態大會2025的盛大召開。會上,華為常務董事及云計算業務掌舵人張平安透露了AI基礎設施架構的最新進展,并隆重推出了CloudMatrix 384超節點,這一創新成果已在蕪湖數據中心成功部署。
CloudMatrix 384超節點標志著華為云在資源供給模式上的重大飛躍,從傳統的服務器級躍升至矩陣級。該超節點憑借“高密”、“高速”、“高效”的卓越特性,通過一系列架構創新,在算力、互聯帶寬及內存帶寬等多個維度均實現了行業領先。這一突破無疑為AI應用提供了更為強大的底層支撐。
華為云在昇騰AI云服務上的持續優化也備受矚目。目前,該服務已全面適配超過160個第三方大模型,其中不乏DeepSeek等重量級產品。這一舉措為大模型的訓練與推理提供了堅實保障,加速了行業應用的落地進程。華為云盤古大模型已在30余個行業、400多個應用場景中大放異彩,特別是在城市治理、智慧金融、醫療健康及氣象預測等領域,其廣泛應用展現了強大的行業賦能能力。
與此同時,硅基流動攜手華為云,基于CloudMatrix 384超節點昇騰云服務與高性能推理框架SiliconLLM,正式上線了DeepSeek-R1服務。據硅基流動介紹,該服務在確保單用戶20 TPS處理能力的同時,單卡Decode吞吐量更是突破了1920 Tokens/s,這一性能表現足以媲美H100部署。更為關鍵的是,經過嚴格的主流測試集驗證及大規模線上盲測,DeepSeek-R1在昇騰算力部署下的模型精度與官方版本保持高度一致,充分驗證了其穩定性和可靠性。