NVIDIA今日宣布推出新一代高带宽内存技术NVHBM，旨在为超大规模企业和AI创新者构建新一代半定制AI基础架构。该技术进一步扩展了NVIDIA NVLink Fusion方案，通过将内存控制器集成到3D HBM堆栈中，而非XPU上，实现了内存性能与效率的显著提升。

据官方介绍，与标准HBM4E相比，NVHBM技术可带来高达30%的内存带宽提升，同时将HBM功耗降低15%，并为XPU计算die释放多达25%的面积。这一创新将为AI计算密集型任务提供更强大的支持，助力企业应对日益增长的数据处理需求。