IBM近日宣布了一項革命性的光學技術突破，這項技術有望徹底改變AI模型的訓練方式，不僅速度提升至光速級別，還能顯著減少能源消耗。據該公司透露，若將此項技術應用于數據中心，其節省的能源量足以滿足5000個美國家庭一年的用電需求。
傳統數據中心內部主要依賴銅線連接各類設備，其中包括GPU加速器。然而，這些GPU在等待數據輸入時常常處于空閑狀態，不僅浪費了大量時間，還消耗了可觀的能源，增加了運營成本。IBM指出，盡管數據中心通過光纖電纜與外部高效連接，但內部通信方式卻未能跟上這一速度。
IBM高級副總裁兼研究總監Dario Gil表示，隨著生成式AI對能源和處理能力的需求日益增加，數據中心必須迎來一場變革。他強調，共封裝光學技術（CPO）正是推動這一變革的關鍵。通過CPO技術，未來的芯片將能夠像光纖電纜一樣高效地傳輸數據，從而實現更快、更可持續的通信，為處理復雜的AI工作負載奠定基礎。
IBM在一篇技術論文中詳細介紹了其CPO原型的創新之處。這項技術通過大幅提升數據中心的帶寬，有效減少了GPU的閑置時間，從而加速了AI處理過程。據IBM介紹，采用CPO技術后，大型語言模型（LLM）的訓練時間將從原本的三個月大幅縮短至三周。更高的能源效率還意味著更低的能源消耗和訓練成本。
