近日,東南大學在其官方微信公眾號上宣布了一項重要進展:該校成功接入了阿里最新開源的QwQ-32B模型,并基于昇騰國產算力平臺實現了部署,這一舉措使東南大學成為全國首個提供QwQ-32B服務的高校。
據東南大學介紹,QwQ-32B雖然僅有32B的參數規模,但通過大規模強化學習的訓練,它在多個任務中展現出了驚人的性能。在數學推理(AIME24評測)、代碼生成(LiveCodeBench)以及工具調用(BFCL測試)等方面,QwQ-32B的表現與擁有671B參數的DeepSeek-R1模型相當,甚至在部分指標上實現了超越。
從東南大學提供的性能對比圖中可以看出,QwQ-32B模型在數學推理、代碼生成以及工具調用任務中的表現均十分出色,遠勝于o1-mini及相同尺寸的R1蒸餾模型。這一結果不僅證明了QwQ-32B模型的強大實力,也展示了東南大學在人工智能領域的深厚底蘊和創新能力。
東南大學表示,QwQ-32B模型的引入不僅提升了學校的科研實力,更重要的是,該模型支持消費級顯卡本地部署,這大大降低了硬件門檻,使得更多的師生能夠在科研中快速實現AI推理需求。同時,QwQ-32B模型還集成了工具調用與動態推理能力,能夠根據環境反饋調整策略,適用于復雜任務處理,如數據分析、實驗模擬等科研場景。
這一創新舉措不僅為東南大學的師生提供了更為便捷、高效的AI工具,也為我國人工智能領域的發展注入了新的活力。未來,東南大學將繼續深化與阿里等企業的合作,共同推動人工智能技術的創新與應用,為我國的人工智能事業貢獻力量。