東南大學近日宣布了一項重要進展，該校已成功接入了阿里巴巴最新開源的QwQ-32B模型，并基于昇騰國產算力平臺實現(xiàn)了服務的上線。這一舉措使東南大學成為全國首個提供QwQ-32B服務的高校。
據(jù)悉，QwQ-32B模型雖然僅擁有32B參數(shù)，但經過大規(guī)模強化學習的訓練，其在多個任務中展現(xiàn)出了卓越的性能。在數(shù)學推理方面，該模型在AIME24評測中的表現(xiàn)與擁有671B參數(shù)的DeepSeek-R1模型不相上下，甚至在部分指標上實現(xiàn)了超越。同時，在代碼生成和工具調用等任務中，QwQ-32B也展現(xiàn)出了強大的實力。
在對比測試中，QwQ-32B模型的表現(xiàn)遠勝于o1-mini及相同尺寸的R1蒸餾模型，這進一步證明了其出色的性能。該模型還具備消費級顯卡本地部署的能力，這大大降低了硬件門檻，使得更多的師生能夠在科研中快速實現(xiàn)AI推理需求。
東南大學表示，QwQ-32B模型的集成工具調用與動態(tài)推理能力，使其能夠根據(jù)環(huán)境反饋調整策略，從而適用于復雜任務處理。在數(shù)據(jù)分析、實驗模擬等科研場景中，該模型將發(fā)揮重要作用，助力師生取得更多科研成果。
阿里巴巴采用了寬松的Apache2.0協(xié)議，將QwQ-32B模型向全球開源。這意味著所有人都可以免費下載該模型并進行商用，這無疑將推動AI技術的進一步發(fā)展和普及。
此次東南大學的成功接入，不僅展示了該校在AI技術領域的實力，也為其他高校和科研機構提供了寶貴的經驗和參考。未來，隨著AI技術的不斷發(fā)展和普及，相信會有更多的高校和科研機構加入到這一領域中來，共同推動AI技術的創(chuàng)新和應用。
