DeepSeek在本周的開源活動中繼續釋放技術紅利，于2月27日揭曉了其開源周的第四項開源成果——針對V3/R1訓練場景下的并行策略優化方案。
此次開源的核心內容包括DualPipe，這是一種創新的雙向流水線并行算法，旨在實現計算與通信過程的有效重疊，從而大幅提升訓練效率。同時，EPLB作為專家并行負載均衡器，為V3/R1架構下的資源分配提供了智能化解決方案。DeepSeek還深入分析了V3/R1中的計算通信重疊問題，為進一步優化提供了理論支撐。
作為本周開源活動的一部分，DeepSeek此前已陸續推出了多個重量級開源項目。2月24日，以Flash MLA作為開源周的開門紅，為機器學習領域注入了新的活力。緊接著，2月25日，DeepSeek開源了DeepEP，這是一款專為MoE模型訓練和推理設計的EP通信庫，極大地提升了模型訓練的效率和穩定性。而在2月26日，DeepSeek再次發力，開源了DeepGEMM庫，該庫支持FP8精度下的密集型和混合專家（MoE）通用矩陣乘法（GEMM）運算，為高性能計算領域提供了新的工具。
DeepSeek此次開源活動不僅展示了其在深度學習領域的技術實力，也體現了其對開源社區的貢獻和承諾。通過持續開放源代碼和技術文檔，DeepSeek旨在促進技術交流和合作，共同推動人工智能技術的發展和應用。
