鎧俠成功完成 5TB 大容量和 64GB/s 高頻寬快閃記憶體模組的原型設計

全球記憶體解決方案領導廠商鎧俠株式會社，已成功開發出適用於大規模人工智慧 (AI) 模型的大容量高頻寬快閃記憶體模組原型。這項技術是日本新能源產業技術綜合開發機構 (NEDO) 所委託「後 5G 資通訊系統強化基礎建設研發專案 (JPNP20017)」的開發成果。此記憶體模組具有 5TB 的大容量和每秒 64 GB 的高頻寬。

為了解決傳統 DRAM 記憶體模組面臨的挑戰，鎧俠開發出全新的模組組態，利用菊鏈式快閃記憶體串接達成容量和頻寬之間的平衡。我們還開發了每秒可達 128 Gb 頻寬的高速收發器技術，以及可增強快閃記憶體效能的技術。這些創新已有效應用於記憶體控制器和記憶體模組。

此記憶體模組的實際應用預期將能促進在後 5G/6G 行動邊緣運算 (MEC) 伺服器和其他應用中導入物聯網 (IoT)、大數據分析和進階 AI 處理，進而加速數位轉型。

在後 5G/6G 時代，無線網路預計將實現更高的速度、更低的延遲，並能夠同時連接更多裝置。然而，將資料傳輸到遠端的雲端伺服器進行處理，會增加整個網路的延遲，包括有線網路，導致難以實現即時應用。因此，需要廣泛採用 MEC 伺服器，在更接近使用者的位置處理資料，這預期將推動各行各業的數位轉型。此外，近年來對進階 AI 應用的需求不斷上升，例如生成式 AI。除了 MEC 伺服器的效能提升之外，記憶體模組也需要更大的容量和更高的頻寬。

在這樣的背景下，鎧俠一直致力於為此專案採用快閃記憶體，藉此提高記憶體模組的容量和頻寬。鎧俠成功開發容量為 5 TB、頻寬為 64 GB/s 的原型記憶體模組，並驗證了其可操作性。

為了實現大容量和高頻寬記憶體模組，鎧俠採用菊鏈連接 (圖 2) 將多個控制器串接到每個記憶體板，取代匯流排連接。因此，即使快閃記憶體數量增加，頻寬也不會降低，並且可實現突破傳統限制的大容量。

在記憶體控制器之間的菊鏈連接應用高速差分序列訊號傳輸 (相對於平行訊號傳輸)，藉此減少連接數，並利用 PAM4 (四階脈波振幅調變) 實現 128 Gbps 的更高頻寬和低功耗。(圖 3)。

為了縮短記憶體模組中快閃記憶體的讀取延遲，鎧俠開發了快閃記憶體預取技術；此技術實作於控制器中，藉由在連續存取期間預先擷取資料大幅降低延遲。此外，透過在記憶體控制器和快閃記憶體之間的介面應用低振幅訊號傳輸和失真校正/抑制技術，使記憶體頻寬增加為 4.0 Gbps。

透過實作 128 Gbps PAM4 高速低功耗收發器和提高快閃記憶體效能的技術，鎧俠開發出一種記憶體控制器和記憶體模組的原型，採用 PCIe® 6.0 (64 Gbps，8 通道) 作為伺服器的主機介面。此原型記憶體模組證明，可在功耗低於 40 瓦的情況下實現 5TB 的容量和 64GB/s 的頻寬。

除了邊緣的物聯網、大數據分析以及進階 AI 處理，鎧俠也正在利用生成式 AI 等新市場趨勢，推動這項研究發現的早期商業化和實際實作。