7月25日,階躍星辰在上海隆重舉辦了“Step3大模型發布會暨生態聯盟成立大會”,會上宣布了一項重大舉措——攜手近十家芯片及基礎設施廠商,共同發起“模芯生態創新聯盟”。此舉標志著模型廠商與芯片廠商在基礎大模型研發領域的深度合作邁出了關鍵一步。
隨著基礎大模型研發的不斷深入,模型與芯片之間的協同優化成為了提升大模型性能和算力效率的關鍵。階躍星辰此次發布的Step3大模型,正是這一理念下的產物。Step3不僅在智能性上有所突破,更在推理效率上實現了行業領先,旨在成為推理時代最適合應用的基礎大模型。
據悉,Step3通過系統和架構創新,在國產芯片上的推理效率最高可達同類模型的300%,且對所有芯片均表現出良好的兼容性。在NVIDIA Hopper架構芯片上的分布式推理測試中,Step3的吞吐量相較于同類模型提升了超過70%。這一成績無疑為Step3在全球范圍內的應用奠定了堅實的基礎。
為了進一步提升大模型的適配性和算力效率,“模芯生態創新聯盟”應運而生。該聯盟由階躍星辰聯合華為昇騰、沐曦、壁仞科技等多家芯片及基礎設施廠商共同發起,旨在打通芯片、模型和平臺之間的技術壁壘,為企業提供高效易用的大模型解決方案。
目前,聯盟成員已包括華為昇騰、沐曦、壁仞科技、燧原科技、天數智芯、無問芯穹、寒武紀、摩爾線程、硅基流動等多家知名企業。其中,華為昇騰芯片已率先實現了Step3的搭載和運行,其他聯盟成員的適配工作也在緊鑼密鼓地進行中。
在發布會上,階躍星辰還分享了Step3在降低推理成本方面的系統架構創新。業內人士指出,通過模型系統架構創新來降低推理成本,是推動AI技術普及和惠民的關鍵路徑。而“模芯生態創新聯盟”的成立,正是這一路徑上的重要里程碑。
階躍星辰在WAIC期間還升級了多模態模型,推出了首個多模理解生成一體化模型Step3o Vision和第二代端到端語音大模型Step-Audio2。這些模型的推出,將進一步豐富階躍星辰的AI產品線,為用戶提供更加多樣化的AI服務。
目前,Step3大模型以及階躍星辰的多模態模型均可在其官方網站(stepfun.com)和官方App上進行體驗。用戶可以通過這些平臺,深入了解階躍星辰在AI領域的最新成果,并親身體驗其帶來的便捷與智能。