Компания NVIDIA представила собственную технологию памяти HBM под названием NVHBM, которая будет использоваться в будущих графических процессорах. Новое решение призвано повысить пропускную способность памяти и одновременно снизить энергопотребление. Разработка особенно актуальна на фоне стремительного роста размеров ИИ-моделей, которые постепенно приближаются к триллионному числу параметров, из-за чего пропускная способность памяти становится всё более важным фактором. NVHBM является развитием концепции NVLink Fusion и переносит контроллер памяти с XPU непосредственно в базовый кристалл HBM. NVIDIA утверждает, что такой подход позволяет добиться более высокой пропускной способности и энергоэффективности по сравнению со стандартными реализациями HBM.

Похожую концепцию уже используют другие производители. Например, Qualcomm применяет аналогичный подход в технологии HBC, используя стеки стандартной памяти LPDDR. Samsung, SK Hynix и Micron также ранее рассказывали о планах размещать вычислительные элементы и контроллеры памяти непосредственно в базовых кристаллах будущих решений HBM. В случае NVHBM контроллер памяти будет разработан самой NVIDIA и интегрирован в базовый кристалл HBM. По заявлению компании, это позволит увеличить пропускную способность памяти более чем на 30% и снизить энергопотребление на 15% по сравнению со стандартной HBM4E. Это огромный бонус для центров обработки данных, безусловно.