英伟达推出新一代高带宽内存技术 NVIDIA NVHBM 可为 XPU 提供更高的内存性能和效率
随着 AI 智能体和万亿参数工作负载日益成为主流，AI 基础设施的性能不仅取决于计算能力，还取决于计算、内存、存储、网络和软件如何作为统一系统进行协同设计。为帮助超大规模企业和 AI 创新者构建新一代半定制 AI 基础架构，NVIDIA 推出 NVIDIA NVHBM 技术，进一步扩展了 NVIDIA NVLink Fusion 技术方案。NVHBM 是一种新一代高带宽内存技术，可为 XPU 提供更高的内存性能和效率。该技术将由领先的内存合作伙伴完成验证并提供，从而让这种先进的内存能力惠及 NVLink Fusion 客户。通过将内存控制器集成到 3D HBM 堆栈，而不是集成在 XPU 上，与标准 HBM4E 相比，NVHBM 可实现高达 30% 的内存带宽提升，将 HBM 功耗降低 15%，并为 XPU 计算 die 释放多达 25%的面积。