英偉達推出NVHBM定制高帶寬內存：相比HBM4e帶寬提升30%、功耗降低15%

據IT之家報道，英偉達推出NVHBM定制高帶寬內存，采用定制的HBM基礎裸片，相比傳統HBM4e可以提供更高的帶寬、更低的功耗以及更小的芯片面積。英偉達稱，NVHBM已經與「領先的內存廠商」共同完成設計和驗證，因此，對於開發定制芯片的廠商來說，相比從零開始采用標准HBM，NVHBM有望幫助其更快推出產品。 對於AI加速器而言，內存帶寬至關重要。英偉達表示，與標准HBM4e相比，NVHBM每個內存堆棧的帶寬最高可以提升30%。對於受內存帶寬限制的AI工作負載來說，更高的帶寬意味著更高的吞吐量，例如在AI推理場景下，可以提高每秒生成的Token數量。