NVIDIA：AI推升记忆体需求 储存技术扮演更关键角色

人工智慧需求激增，带动对大量资料集与情境窗囗的需求，其规模已突破系统记忆体的容量限制。

然而，单纯增加储存容量，并不足以因应日益成长的需求。真正需要的是来自 AI 工厂、实用且符合现实需要的洞察，以及能够实现这些洞察的高效、安全储存架构。

图一 : AI推升记忆体需求，储存技术扮演更关键角色

在 Future of Memory and Storage（FMS）大会上，NVIDIA 发表多项储存技术进展，并展示 AI 的下一波跃进，不仅取决於运算能力本身，也同样仰赖为加速运算供应资料的储存基础架构。

随着 AI 代理消耗大量资料，加上 GPU 现在已能够直接发出储存请求，并产生数千项并行作业，储存基础架构所承受的压力也持续加剧。

为了处理这些请求，储存系统必须持续对资料进行加密、压缩、验证与重建。当数千个代理同时存取储存空间时，这些关键资料服务可能成为瓶颈。

NVIDIA 技术部落格所列出的基准测试显示，作为 NVIDIA Vera BlueField-4 STX 一部分的 NVIDIA Vera CPU，在两阶段压缩与加密管道中，其输送量最高可达 x86 CPU 的 3.21 倍。这代表采用 Vera 後，储存平台能更有效率地承接大量涌入的 AI 资料，在大幅减少所需运算基础架构的同时，提供更高的输送量。

透过加速运算，储存不再只是被动保存资料的空间，而是成为资料路径中的主动环节。

这彻底颠覆了过往关於何时应该将资料存放於记忆体（应用程式可更快读取）或储存装置（能以较低成本提供充裕容量）的成本效益逻辑。这项取舍在 40 年前首次被提出，当时存取资料的时间以分钟计。如今，搭配 NVIDIA 与合作夥伴的 AI 储存解决方案，GPU 已能在微秒尺度内处理相同的取舍。

要弥合 AI 需求与记忆体不足之间的差距，必须在整个生态系进行极致协同设计，涵盖记忆体与储存设备制造商，以及基於这些硬体所开发的软体。