IBM近期宣布了一項(xiàng)革命性的技術(shù)突破，這項(xiàng)新技術(shù)能夠在極大程度上提升人工智能模型的訓(xùn)練效率，并且顯著節(jié)約能源消耗。據(jù)IBM介紹，這種新型光學(xué)技術(shù)，若應(yīng)用于數(shù)據(jù)中心，將能夠節(jié)省相當(dāng)于5000個(gè)美國家庭一年能源消耗量的能源。
傳統(tǒng)數(shù)據(jù)中心雖然通過光纖電纜與外部網(wǎng)絡(luò)連接，但在其內(nèi)部，仍然大量使用銅線連接GPU加速器。這些GPU加速器在等待其他設(shè)備傳輸數(shù)據(jù)的過程中，往往會(huì)長時(shí)間處于閑置狀態(tài)，這不僅消耗了大量能源，還增加了運(yùn)營成本。IBM此次推出的技術(shù)，正是為了解決這一痛點(diǎn)。
IBM高級(jí)副總裁兼研究總監(jiān)Dario Gil表示，隨著生成式AI技術(shù)的不斷發(fā)展，對(duì)能源和處理能力的需求也在不斷增加，數(shù)據(jù)中心必須進(jìn)行相應(yīng)的進(jìn)化。而IBM此次推出的共封裝光學(xué)技術(shù)（CPO），正是數(shù)據(jù)中心進(jìn)化的關(guān)鍵一步。通過CPO技術(shù)，未來的芯片將能夠像光纖電纜一樣，以光速進(jìn)行數(shù)據(jù)傳輸，從而大幅提升通信速度和能源效率。
在IBM發(fā)布的一篇技術(shù)論文中，詳細(xì)介紹了CPO技術(shù)的原型。該技術(shù)通過顯著增加數(shù)據(jù)中心的帶寬，有效減少了GPU的閑置時(shí)間，從而加速了AI模型的訓(xùn)練過程。據(jù)IBM透露，應(yīng)用CPO技術(shù)后，大型語言模型（LLM）的訓(xùn)練時(shí)間可以從原本的三個(gè)月縮短至三周，極大地提高了訓(xùn)練效率。
CPO技術(shù)還帶來了更高的能源效率，降低了能源消耗，并減少了與訓(xùn)練LLM相關(guān)的成本。這一突破性的進(jìn)展，不僅為AI技術(shù)的發(fā)展提供了強(qiáng)有力的支持，也為數(shù)據(jù)中心的可持續(xù)發(fā)展開辟了新的道路。IBM的這一創(chuàng)新，無疑將在AI領(lǐng)域引發(fā)一場深刻的變革。
