在AI數據中心規模日益壯大的背景下,云計算巨頭們正面臨一項新的挑戰:如何高效利用現有的小型數據中心資源。針對這一難題,博通公司推出了創新的解決方案,特別針對地理位置相近的數據中心。
本周一,博通正式發布了其新版Jericho網絡芯片。這款芯片憑借其卓越的性能,能夠實現大數據量的高速傳輸。據博通核心交換業務集團的高級副總裁Ram Velaga介紹,借助Jericho芯片,客戶可以將多個小型數據中心無縫連接,從而構建一個龐大的系統,用于開發或運行AI模型。
博通聲稱,其Jericho4產品具備連接超過百萬個處理器的強大能力,能夠跨越多個數據中心,處理的信息量相比前代產品提升了約四倍。這一突破性的進展,無疑為AI領域的數據傳輸和處理帶來了全新的可能。
近年來,隨著AI系統的快速發展,博通的網絡組件需求持續增長。這些組件,如路由器和交換機,在GPU之間扮演著數據傳輸的重要角色。而GPU,作為構建AI模型的昂貴芯片,其需求也隨之激增。
值得注意的是,雖然博通的部分設備專注于在同一機架或數據中心內部進行數據傳輸,但市場對于能夠跨越建筑甚至實現遠距離傳輸的組件需求同樣迫切。大型GPU集群的功耗問題日益凸顯,使得將所有GPU集中在同一位置變得不切實際。Velaga指出,當試圖建立包含數十萬個GPU的集群時,功耗很快就會達到數百萬瓦,而單個物理建筑往往無法滿足這樣的電力需求。
“當考慮建立20萬或10萬個GPU的集群時,功耗很快就會逼近300兆瓦,而目前的單個物理建筑根本無法提供這樣的電力供應?!盫elaga說道。他進一步強調,Jericho系列網絡芯片正是為了解決這一問題而生。
隨著企業試圖將數據中心容量遷移到更接近客戶的位置,以加快用戶從AI模型獲取答案的速度,位于擁擠都市區的數據中心變得尤為重要。在這些地區,連接多個較小的設施可能更為實用。Velaga表示,這進一步凸顯了Jericho芯片的重要性。
值得注意的是,博通的Tomahawk系列芯片主要用于連接數據中心內的機架,其連接距離通常限制在一公里以內。而Jericho設備則能夠處理超過100公里的遠距離連接,適用于跨建筑甚至更遠距離的數據傳輸需求。
據Velaga透露,Jericho4芯片將從周一開始向云服務提供商和網絡設備制造商等早期客戶發貨。這些客戶將把芯片集成到他們的產品中,預計完全部署大約需要九個月的時間。
面對AI數據中心發展的新挑戰,博通的Jericho4芯片無疑提供了一個創新的解決方案。通過高效連接多個小型數據中心,這款芯片不僅解決了大型GPU集群的功耗問題,還為云計算和AI企業提供了更靈活的數據中心布局選擇。