NVIDIA Blackwell B200 потребляет 1200 Вт энергии

Графические процессоры NVIDIA Blackwell B200 используют совершенно новую архитектуру, но всё равно потребляют очень много энергии — в два раза больше, чем графические процессоры прошлого поколения. Когда глава NVIDIA, Дженсен Хуанг, объявил о Blackwell во время презентации GTC 2024, он умышленно не рассказал о многих технических и архитектурных подробностях. Но в течение следующих нескольких дней конференции GTC компания NVIDIA поделилась большим количеством деталей, которые раскрывают в том числе потребление энергии данного графического ускорителя и основные фишки нового решения.

Например, новая система делает упор на форматы вычислений FP4 и FP6. Именно эти форматы и передовые оптимизации программного обеспечения делают Blackwell самым быстрым чипом для искусственного интеллекта на планете, но это отразилось на его стандартных вычислениях FP64, которые увеличились всего на 32% по сравнению с поколением Hopper. Причина проста — Blackwell является чипом для искусственного интеллекта, и это его основная целевая задача. FP64 не настолько важен с точки зрения искусственного интеллекта, так что производитель в этом направлении просто не работал. При этом производитель отметил, что при полной нагрузке данный чип будет потреблять примерно 1200 Вт энергии. Это достаточно много на самом деле, но взамен чип даёт предостаточно производительности, чтобы расходы на потребление энергии не выглядели такими уж высокими даже в корпоративном секторе.