什麼是計算快速連結 (CXL)? 全球人工智慧的繁榮造成了儲存晶片的嚴重短缺。 Google和 Nvidia 等科技巨頭現在正在加速對 Compute Express Link (CXL) 的投資,將其作為關鍵的替代記憶體技術。這項創新允許伺服器在整個資料中心內池化和共享記憶體資源。 採用 CXL 有助於緩解推高記憶體成本的供應限制。它代表了資料中心架構的根本性轉變,超越了傳統的隔離記憶體配置。
為什麼 CXL 的採用在起步緩慢後加速 CXL 並不是一項新技術;它的開發已經大約七年了。它最初的採用速度很慢,主要是由於一個重大的權衡:它可能會在資料傳輸中引入延遲或小延遲。 在人工智慧工作負載中,處理器不斷從記憶體中獲取新資料來執行計算。這個過程中的任何延遲都會減慢整個人工智慧系統的速度。多年來,對於許多公司來說,這種性能損失超過了潛在的好處。 然而,經濟格局已經發生了巨大變化。傳統記憶體晶片的成本飆升和供應有限,迫使人們重新評估。儘管存在缺陷,但成本效益分析現在傾向於探索 CXL 等技術。
CXL 的技術機制 從本質上講,Compute Express Link 是一種開放標準互連技術。它建立在現代電腦中廣泛使用的 PCI Express (PCIe) 實體和電氣介面之上。 CXL 維護 CPU 記憶體和連接裝置上的記憶體之間的記憶體一致性。這意味著多個處理器可以有效地共享記憶體資源,從而看到統一、一致的資料視圖。 該技術透過三個關鍵協議運作:
I/O 協定:使用標準 PCIe 實作相容性。 記憶體協定:允許主機處理器存取 CXL 裝置上的記憶體。 一致性協定:使設備能夠快取內存,保持一切同步。
該架構支援“記憶體分解”模型。記憶體可以集中在一個中央資源中,而不是物理上綁定到每個伺服器,許多伺服器可以根據需要利用該資源。
解決延遲挑戰 CXL 面臨的主要技術挑戰是資料透過網路傳輸到共享記憶體所增加的延遲。工程師們正在透過多種方式解決這個問題。 新的 CXL 控制器和交換器旨在最大限度地減少延遲。軟體最佳化也很重要,確保經常存取的「熱」資料盡可能靠近處理器。 對於許多非即時分析和訓練工作負載來說,為了存取更大的記憶體池,延遲是可以接受的權衡。對於大型語言模型和複雜資料集尤其如此。
業界採用:Google、Nvidia 等 產業轉型由規模較大、受益最多的主要參與者主導。根據員工報告,Google已開始在其龐大的資料中心內部署 CXL 技術。 當像谷歌這樣的公司採用新標準時,它就表明了信心,並且往往會促進更廣泛的行業採用。其他雲端供應商和企業可能會效仿以保持競爭力。 AI 硬體領域的領導者 Nvidia 也是 CXL 的堅定支持者。該技術透過為要求苛刻的人工智慧訓練任務提供可擴展的記憶體解決方案來補充他們的 GPU。這項策略性舉措是更廣泛產業趨勢的一部分,類似於我們在 Nvidia Sprays the Cash 文章中討論的內容; FCC 主席的 SpaceX 防禦。 英特爾、AMD 和三星等主要晶片製造商也將 CXL 支援整合到其最新的處理器和記憶體產品中,以確保強大的生態系統。
人工智慧以外的用例 雖然人工智慧是主要驅動力,但 CXL 的應用範圍更廣泛。它對於記憶體資料庫來說是革命性的,因為記憶體資料庫需要大量、快速存取的記憶體池。 雲端運算從記憶體分解中受益匪淺。它允許提供者提供靈活的記憶體資源,就像他們提供可擴展的運算和儲存一樣,從而提供更有效率、更具成本效益的服務。這種資源優化方法與替代應用程式商店 AltStore PAL 加入 fediverse 等平台的靈活性相呼應。 CXL 也增強了資料彈性。透過集中內存,可以透過先進的糾錯和冗餘來更好地保護它,這一概念與改變遊戲規則的技術一致企業防止災難性資料遺失。
資料中心記憶體的未來 CXL 預計將成為下一代資料中心的基礎技術。隨著標準的發展,未來的版本有望進一步減少延遲並增加頻寬。 我們可以期待與計算儲存和高級網路等新興技術的更緊密整合。這將創建更有效率、更強大的異質運算環境。 目標是建立一個真正可組合的基礎設施,其中計算、記憶體和儲存資源可以根據需要動態分配。這種面向未來的資料中心能夠滿足人工智慧和大數據不斷增長的需求。
結論 Compute Express Link 代表了資料中心設計中務實且必要的演進。在供應限制和人工智慧需求的推動下,CXL 提供了一條實現可擴展、高效記憶體的可行途徑。儘管延遲挑戰仍然存在,但持續的創新正在穩步克服這些障礙。 Google 和 Nvidia 等行業領導者的擁抱驗證了 CXL 重塑我們建立和管理運算資源方式的潛力。當您的企業探索新技術以實現成長時,請考慮使用可簡化您的數位展示的工具。要以無縫方式管理線上鏈接,請嘗試 Seemless 作為免費的 Linktree 替代品。