近日,飛騰平臺宣布全面支持DeepSeek全系列大模型,這一舉措涵蓋了飛騰騰云S5000C與騰銳D3000處理器,廣泛適用于數據中心及終端應用場景,展現出卓越的性能表現。
在DeepSeek-V3與R1版本面世后,飛騰迅速行動,在騰云S5000C與騰銳D3000平臺上進行了詳盡的本地部署驗證,成功構建了一整套端到端的國產平臺DeepSeek大模型智能計算環境。特別是在數據中心領域,騰云S5000C服務器與多款國產AI加速卡的協同工作,使得DeepSeek蒸餾版與全量版得以順利部署。
據官方實際測試數據揭示,飛騰騰云S5000C配合8張國產AI加速卡使用時,DeepSeek-R1-Distill-Llama-70B版本的推理速度驚人,每秒可處理22個tokens,其本地部署的推理效率與海外同類產品旗鼓相當,整體性能達到了國外平臺性能的約80%。DeepSeek R1 671B的完整版模型也已在由四臺機器、32張AI加速卡組成的服務器集群上,通過分布式推理框架成功部署。
在用戶終端層面,基于騰銳D3000處理器與銀河麒麟V10操作系統的臺式機,同樣展現出了強大的本地部署能力。通過搭載DeepSeek-R1 7B蒸餾版模型及1張國產推理卡,這些臺式機已具備了AI PC的功能,為用戶提供了一個安全可靠的本地知識助手。
飛騰平臺此番對DeepSeek全系列大模型的全面支持,不僅進一步拓寬了國產處理器在AI領域的應用范圍,也為數據中心與終端用戶帶來了更為高效、智能的解決方案,標志著國產平臺在AI技術領域的又一重大突破。