NVIDIA：AI推升記憶體需求 儲存技術扮演更關鍵角色

人工智慧需求激增，帶動對大量資料集與情境窗口的需求，其規模已突破系統記憶體的容量限制。

然而，單純增加儲存容量，並不足以因應日益成長的需求。真正需要的是來自 AI 工廠、實用且符合現實需要的洞察，以及能夠實現這些洞察的高效、安全儲存架構。

圖一 : AI推升記憶體需求，儲存技術扮演更關鍵角色

在 Future of Memory and Storage（FMS）大會上，NVIDIA 發表多項儲存技術進展，並展示 AI 的下一波躍進，不僅取決於運算能力本身，也同樣仰賴為加速運算供應資料的儲存基礎架構。

隨著 AI 代理消耗大量資料，加上 GPU 現在已能夠直接發出儲存請求，並產生數千項並行作業，儲存基礎架構所承受的壓力也持續加劇。

為了處理這些請求，儲存系統必須持續對資料進行加密、壓縮、驗證與重建。當數千個代理同時存取儲存空間時，這些關鍵資料服務可能成為瓶頸。

NVIDIA 技術部落格所列出的基準測試顯示，作為 NVIDIA Vera BlueField-4 STX 一部分的 NVIDIA Vera CPU，在兩階段壓縮與加密管道中，其輸送量最高可達 x86 CPU 的 3.21 倍。這代表採用 Vera 後，儲存平台能更有效率地承接大量湧入的 AI 資料，在大幅減少所需運算基礎架構的同時，提供更高的輸送量。

透過加速運算，儲存不再只是被動保存資料的空間，而是成為資料路徑中的主動環節。

這徹底顛覆了過往關於何時應該將資料存放於記憶體（應用程式可更快讀取）或儲存裝置（能以較低成本提供充裕容量）的成本效益邏輯。這項取捨在 40 年前首次被提出，當時存取資料的時間以分鐘計。如今，搭配 NVIDIA 與合作夥伴的 AI 儲存解決方案，GPU 已能在微秒尺度內處理相同的取捨。

要彌合 AI 需求與記憶體不足之間的差距，必須在整個生態系進行極致協同設計，涵蓋記憶體與儲存設備製造商，以及基於這些硬體所開發的軟體。