硅基流動公司近日宣布了一項重要更新，其SiliconCloud平臺上的DeepSeek-R1和V3 API現已支持批量推理功能，即BatchInference，這一變化即刻生效。
用戶現在可以利用SiliconCloud的批量API提交請求，這一方式不受實時推理速率限制，為大規模數據處理提供了更多靈活性。據硅基流動透露，用戶提交的任務預計將在24小時內完成。
價格方面，與實時推理相比，DeepSeek-V3的批量推理服務價格降低了50%，為用戶帶來了顯著的成本節約。更值得注意的是，在3月11日至3月18日期間，DeepSeek-R1的批量推理服務推出了特別優惠，價格直降75%。具體來說，輸入價格僅為1元/百萬Tokens，輸出價格為4元/百萬Tokens，這一優惠力度無疑將吸引大量用戶嘗試該服務。
批量推理功能的推出，將極大地幫助用戶處理大規模數據處理任務，如生成報告和數據清洗等。同時，對于那些無需實時響應的數據分析、模型性能評估等場景，DeepSeek-R1和V3 API的批量推理服務將成為一個更加經濟高效的選擇。
硅基流動公司表示，將繼續致力于提升平臺性能和服務質量，以滿足用戶不斷變化的需求。此次批量推理功能的推出，不僅豐富了平臺的功能，也為用戶提供了更多樣化的選擇。
