国产98在线 | 传媒麻豆,久久―日本道色综合久久,久久久精品久久久久久久久久久,国产成人精品免费久久久久,五月综合色婷婷影院在线观看,久久久亚洲精品视频

  • 虎科技 - 領先的互聯網科技媒體

科大訊飛華為聯手,國產算力集群推理取得重大突破!

   時間:2025-03-11 16:20 來源:ITBEAR作者:蘇婉清

科大訊飛與華為攜手,在國產算力領域邁出了重要一步。近日,雙方聯合宣布,在MoE模型的大規??绻濣c專家并行集群推理方面取得了突破性進展。這一成果不僅標志著國產算力在AI領域的一次飛躍,也預示著未來智能計算的新篇章。

此次合作的亮點在于,雙方團隊通過軟硬件的深度協同創新,成功挖掘了硬件的極致潛力。特別是在昇騰集群上的驗證和部署過程中,團隊在算子融合方面取得了顯著成果。通過MLA預處理階段的Vector與Cube異構計算單元并行流水,以及將多個小算子融合重構為原子級計算單元,團隊成功消除了小算子下發的開銷,MLA前處理時延降低了50%以上,性能得到了大幅提升。

在混合并行策略和通信計算并行優化方面,科大訊飛與華為的團隊也展現出了卓越的創新力。他們構建了TP(張量并行)+EP(專家并行)的混合范式,對MLA計算層采用機內TP并行,充分發揮了機內高速互聯的優勢,降低了跨機通信的損耗。同時,團隊還創新性地進行了MoE專家分層調度,64卡均衡分配專家計算節點,并定制了AllToAll通信協議,使得專家數據交換效率提升了40%。通過構建跨機/機內雙層通信架構,團隊實現了分層優化,降低了跨機流量60%。他們還研發了路由專家負載均衡算法,使得卡間負載差異小于10%,集群吞吐提升了30%。

這一系列的創新使得國產算力在分布式架構與算法協同優化方面取得了顯著的性能提升。單卡靜態內存占用縮減至雙機部署的1/4,效率提升了75%,專家計算密度增加了4倍,推理吞吐提升了3.2倍,端到端時延降低了50%。這些成果無疑為國產算力在AI領域的應用打開了新的大門。

科大訊飛研究院表示,這一突破性的解決方案將廣泛應用于訊飛星火深度推理模型的訓練加速中。預計訓練時的推理效率將提升200%,同時基于該方案的推理引擎也將在國產算力上實現DeepSeek V3和R1的高效推理。這無疑將進一步提升科大訊飛在AI領域的競爭力。

科大訊飛深度推理大模型星火X1也完成了升級。在模型參數量比業界同行少一個數量級的情況下,星火X1的數學能力已經全面對標DeepSeek R1和OpenAI o1,在中文數學各項任務中均實現了領先。這一成果不僅展示了科大訊飛在AI領域的深厚底蘊,也為其未來的發展奠定了堅實的基礎。

科大訊飛與華為的這一合作不僅是一次技術上的突破,更是國產算力在AI領域崛起的重要標志。隨著雙方合作的不斷深入,相信未來會有更多令人矚目的成果涌現。

雙方團隊在合作過程中展現出的創新精神和協作能力也值得稱贊。他們通過深度協同創新,成功挖掘了硬件的極致潛力,為國產算力的發展注入了新的活力。相信在未來的合作中,雙方將繼續攜手前行,共同推動國產算力在AI領域的蓬勃發展。

 
 
更多>同類內容
推薦圖文
推薦內容
點擊排行
 
智快科技微信賬號
ITBear微信賬號

微信掃一掃
加微信拉群
電動汽車群
科技數碼群

主站蜘蛛池模板: 一对一在线观看 | 亚洲一区二区三区日本久久九 | 国产黄网站在线观看 | 一级视频免费观看 | 天天五月天丁香婷婷深爱综合 | 亚洲综合日韩精品欧美综合区 | 亚洲欧美中日韩中文字幕 | 欧美高清视频一区 | 污视频在线网站 | 女男羞羞视频网站免费 | 国产网站免费看 | 在线观看国产精品入口 | 日本久久久久亚洲中字幕 | 亚洲一级在线观看 | 婷婷深爱网 | 亚洲精品综合久久中文字幕 | 国产精品视频分类 | 亚洲欧美在线免费 | 日日热 | 国产视频福利 | 欧美一区二区视频在线观看 | 亚洲欧洲无码一区二区三区 | 激情婷婷小说 | 亚洲国产精品免费 | 福利精品一区 | 九九导航| 天堂男人网 | 迅雷在线观看神马电影 | 九九热电影 | 久久亚洲不卡一区二区 | 伊人剧场| 自拍偷拍欧美亚洲 | 一区二区精品久久 | 一区二区精品视频 | 亚洲综合日韩精品欧美综合区 | 亚洲国产成人资源在线桃色 | 亚洲精品综合久久 | 亚洲爽视频 | 久热天堂 | 亚洲国产成人久久一区www | 亚洲综合中文 |