英偉達近日宣布了一項重要更新,正式推出了專為RTX系列顯卡設計的NVIDIA TensorRT for RTX,并且這一創新技術將全面支持Windows 11系統。此次更新意味著GeForce RTX全系列顯卡用戶將能夠享受到TensorRT AI推理加速框架帶來的極致性能提升。
據悉,TensorRT for RTX相較于DirectML方案,在AI推理速度上實現了翻倍的提升。這一突破性進展得益于TensorRT原生兼容Windows ML框架的設計,使得其在多種應用場景中均能展現出卓越的性能表現。特別是在ComfyUI應用中,TensorRT的性能表現更是達到了DirectML的兩倍,而在其他應用中,性能提升也普遍在1.5至1.7倍之間。
除了顯著的性能提升外,TensorRT for RTX還帶來了即時GPU專屬優化的功能,這一特性使得推理庫文件的體積大幅縮減至原有的八分之一,從而進一步提升了系統的整體效率和響應速度。
英偉達在AI領域的布局遠不止于此。據官方透露,目前英偉達已經為超過150個AI SDK提供了支持,并且在本月還將推出5個全新的ISV集成,涵蓋了從視頻處理到設計渲染等多個領域。這些新加入的ISV集成包括LM Studio(CUDA性能提升30%)、Topaz Video AI(GenAI視頻加速CUDA)、嗶哩嗶哩(NVIDIA Broadcast Effects)、AutoDesk VRED (DLSS 4)以及Chaos Enscape (DLSS 4)等。
英偉達方面表示,當前AI PC軟件生態中,開發者往往需要在廣泛硬件支持與高性能優化之間做出艱難抉擇。而全新Windows ML推理框架的推出,通過ONNX Runtime構建,與各硬件廠商優化的AI執行層實現了無縫銜接。特別是對于RTX顯卡用戶而言,Windows ML會自動調用TensorRT for RTX這一專為高性能快速部署優化的推理庫,相較于DirectML,TensorRT能夠為PC端AI工作負載提供超過50%的性能提升。