IBM近期在光學(xué)技術(shù)領(lǐng)域取得了突破性進(jìn)展，這一創(chuàng)新有望極大提升數(shù)據(jù)中心在訓(xùn)練和運行生成式AI模型方面的效率。據(jù)悉，該公司已經(jīng)成功推出了新一代的光電共封裝（CPO）工藝。
這項新技術(shù)通過引入光學(xué)連接，實現(xiàn)了數(shù)據(jù)中心內(nèi)部數(shù)據(jù)以光速傳輸?shù)膲雅e，有效地補充并優(yōu)化了現(xiàn)有的短距離光纜系統(tǒng)。研究人員指出，光電共封裝技術(shù)將徹底改變計算行業(yè)在芯片、電路板以及服務(wù)器之間的高帶寬數(shù)據(jù)傳輸方式。
光電共封裝技術(shù)的引入，意味著數(shù)據(jù)中心將體驗到前所未有的性能提升。它不僅能夠最大限度地減少GPU的停機時間，還能顯著加快AI工作的整體速度。具體而言，這一創(chuàng)新技術(shù)帶來了三大顯著優(yōu)勢。
第一大優(yōu)勢在于成本效益。與傳統(tǒng)的中距離電氣互連裝置相比，光電共封裝技術(shù)的能耗降低了五倍以上。數(shù)據(jù)中心互連電纜的長度也從傳統(tǒng)的1米大幅提升至數(shù)百米，從而進(jìn)一步增強了數(shù)據(jù)中心的靈活性和擴展性。這意味著，大規(guī)模應(yīng)用生成式AI的成本將大大降低。
第二大優(yōu)勢體現(xiàn)在AI模型的訓(xùn)練速度上。與傳統(tǒng)的電線相比，使用光電共封裝技術(shù)訓(xùn)練大型語言模型的速度幾乎提升了五倍。這意味著，原本需要長達(dá)三個月才能訓(xùn)練完成的標(biāo)準(zhǔn)大語言模型，現(xiàn)在僅需三周即可完成。對于更大規(guī)模的模型和更多的GPU，性能提升將更為顯著。
第三大優(yōu)勢則是能效的提升。據(jù)估算，使用光電共封裝技術(shù)每訓(xùn)練一個AI模型所節(jié)省的電量，相當(dāng)于5000個美國家庭一年的耗電量總和。這一數(shù)據(jù)充分展示了該技術(shù)在節(jié)能減排方面的巨大潛力，對于推動綠色數(shù)據(jù)中心的發(fā)展具有重要意義。
光電共封裝技術(shù)的推出，不僅標(biāo)志著IBM在光學(xué)技術(shù)領(lǐng)域取得了重大突破，也為計算行業(yè)帶來了全新的發(fā)展方向。這一創(chuàng)新技術(shù)不僅將提升AI模型的訓(xùn)練和運行速度，還將顯著降低能耗，提升能效，為數(shù)據(jù)中心的未來發(fā)展注入了新的活力。
光電共封裝技術(shù)還有望推動AI技術(shù)的廣泛應(yīng)用，降低生成式AI的使用門檻，使得更多的企業(yè)和機構(gòu)能夠享受到AI技術(shù)帶來的便利和效益。
總之，IBM的光電共封裝技術(shù)無疑為計算行業(yè)帶來了革命性的變化，將引領(lǐng)數(shù)據(jù)中心向更高效、更環(huán)保的方向發(fā)展。
