IBM近期宣布了一項革命性的技術突破,這項新技術能夠在極大程度上提升人工智能模型的訓練效率,并且顯著節約能源消耗。據IBM介紹,這種新型光學技術,若應用于數據中心,將能夠節省相當于5000個美國家庭一年能源消耗量的能源。
傳統數據中心雖然通過光纖電纜與外部網絡連接,但在其內部,仍然大量使用銅線連接GPU加速器。這些GPU加速器在等待其他設備傳輸數據的過程中,往往會長時間處于閑置狀態,這不僅消耗了大量能源,還增加了運營成本。IBM此次推出的技術,正是為了解決這一痛點。
IBM高級副總裁兼研究總監Dario Gil表示,隨著生成式AI技術的不斷發展,對能源和處理能力的需求也在不斷增加,數據中心必須進行相應的進化。而IBM此次推出的共封裝光學技術(CPO),正是數據中心進化的關鍵一步。通過CPO技術,未來的芯片將能夠像光纖電纜一樣,以光速進行數據傳輸,從而大幅提升通信速度和能源效率。
在IBM發布的一篇技術論文中,詳細介紹了CPO技術的原型。該技術通過顯著增加數據中心的帶寬,有效減少了GPU的閑置時間,從而加速了AI模型的訓練過程。據IBM透露,應用CPO技術后,大型語言模型(LLM)的訓練時間可以從原本的三個月縮短至三周,極大地提高了訓練效率。
CPO技術還帶來了更高的能源效率,降低了能源消耗,并減少了與訓練LLM相關的成本。這一突破性的進展,不僅為AI技術的發展提供了強有力的支持,也為數據中心的可持續發展開辟了新的道路。IBM的這一創新,無疑將在AI領域引發一場深刻的變革。