IBM近期宣布了一項革命性的技術突破，這項新技術能夠在極大程度上提升人工智能模型的訓練效率，并且顯著節(jié)約能源消耗。據(jù)IBM介紹，這種新型光學技術，若應用于數(shù)據(jù)中心，將能夠節(jié)省相當于5000個美國家庭一年能源消耗量的能源。
傳統(tǒng)數(shù)據(jù)中心雖然通過光纖電纜與外部網(wǎng)絡連接，但在其內部，仍然大量使用銅線連接GPU加速器。這些GPU加速器在等待其他設備傳輸數(shù)據(jù)的過程中，往往會長時間處于閑置狀態(tài)，這不僅消耗了大量能源，還增加了運營成本。IBM此次推出的技術，正是為了解決這一痛點。
IBM高級副總裁兼研究總監(jiān)Dario Gil表示，隨著生成式AI技術的不斷發(fā)展，對能源和處理能力的需求也在不斷增加，數(shù)據(jù)中心必須進行相應的進化。而IBM此次推出的共封裝光學技術（CPO），正是數(shù)據(jù)中心進化的關鍵一步。通過CPO技術，未來的芯片將能夠像光纖電纜一樣，以光速進行數(shù)據(jù)傳輸，從而大幅提升通信速度和能源效率。
在IBM發(fā)布的一篇技術論文中，詳細介紹了CPO技術的原型。該技術通過顯著增加數(shù)據(jù)中心的帶寬，有效減少了GPU的閑置時間，從而加速了AI模型的訓練過程。據(jù)IBM透露，應用CPO技術后，大型語言模型（LLM）的訓練時間可以從原本的三個月縮短至三周，極大地提高了訓練效率。
CPO技術還帶來了更高的能源效率，降低了能源消耗，并減少了與訓練LLM相關的成本。這一突破性的進展，不僅為AI技術的發(fā)展提供了強有力的支持，也為數(shù)據(jù)中心的可持續(xù)發(fā)展開辟了新的道路。IBM的這一創(chuàng)新，無疑將在AI領域引發(fā)一場深刻的變革。
