近日，華為官方公眾號發布了一則重要消息，宣布DeepSeek系列模型的新進展。據悉，2月4日，DeepSeek-R1、DeepSeek-V3、DeepSeek-V2以及Janus-Pro已在昇騰社區正式上線。
此次上線的DeepSeek系列模型，為開發者們提供了極大的便利。用戶只需一鍵操作，即可輕松獲取這些模型，并在昇騰硬件平臺上實現開箱即用，大大加速了推理部署的過程。
為了幫助開發者更好地使用這些模型，華為還提供了詳細的模型調用方式。對于GPU用戶，可以通過克隆GitHub上的DeepSeek-V3倉庫，并執行相應的Python腳本來完成權重轉換。而對于NPU用戶，則可以通過訪問特定的模型倉庫，執行類似的轉換操作。
在獲取并轉換好權重后，接下來的一步是加載鏡像。開發者需要從昇騰社區下載適配DeepSeek-V3的鏡像包，并使用docker命令進行加載。加載完成后，通過docker images命令可以確認鏡像的名稱與標簽。
隨后，開發者可以使用提供的MindIE鏡像來啟動容器。這個鏡像已經預置了DeepSeek-V3模型的推理腳本。開發者只需將獲取到的權重放置在模型代碼的主目錄下，并修改模型文件夾的屬組和執行權限，即可啟動容器進行推理。
在服務化測試階段，開發者需要配置服務化環境變量，并修改服務化參數。其中，一個關鍵的配置是使能內存池擴展段功能，即虛擬內存特性。這一配置可以通過設置環境變量PYTORCH_NPU_ALLOC_CONF來實現。
此次DeepSeek系列模型的上線，無疑為開發者們提供了更為便捷、高效的模型使用方式。相信隨著昇騰社區的不斷完善和發展，將會有更多的優質模型和工具被推出，為人工智能領域的發展注入新的活力。
