東南大學近日宣布了一項重要進展,該校已成功接入了阿里巴巴最新開源的QwQ-32B模型,并基于昇騰國產算力平臺實現了服務的上線。這一舉措使東南大學成為全國首個提供QwQ-32B服務的高校。
據悉,QwQ-32B模型雖然僅擁有32B參數,但經過大規模強化學習的訓練,其在多個任務中展現出了卓越的性能。在數學推理方面,該模型在AIME24評測中的表現與擁有671B參數的DeepSeek-R1模型不相上下,甚至在部分指標上實現了超越。同時,在代碼生成和工具調用等任務中,QwQ-32B也展現出了強大的實力。
在對比測試中,QwQ-32B模型的表現遠勝于o1-mini及相同尺寸的R1蒸餾模型,這進一步證明了其出色的性能。該模型還具備消費級顯卡本地部署的能力,這大大降低了硬件門檻,使得更多的師生能夠在科研中快速實現AI推理需求。
東南大學表示,QwQ-32B模型的集成工具調用與動態推理能力,使其能夠根據環境反饋調整策略,從而適用于復雜任務處理。在數據分析、實驗模擬等科研場景中,該模型將發揮重要作用,助力師生取得更多科研成果。
阿里巴巴采用了寬松的Apache2.0協議,將QwQ-32B模型向全球開源。這意味著所有人都可以免費下載該模型并進行商用,這無疑將推動AI技術的進一步發展和普及。
此次東南大學的成功接入,不僅展示了該校在AI技術領域的實力,也為其他高校和科研機構提供了寶貴的經驗和參考。未來,隨著AI技術的不斷發展和普及,相信會有更多的高校和科研機構加入到這一領域中來,共同推動AI技術的創新和應用。