NVIDIA RTX Pro 6000 обошла четыре RTX 5090 в ИИ-инференсе

Видеокарта NVIDIA RTX Pro 6000 Blackwell наглядно показывает, почему одна мощная видеокарта может быть эффективнее привычных конфигураций из нескольких видеокарт при запуске крупных ИИ-моделей. В некоторых задачах она практически догоняет систему с четырьмя RTX 5090, а по энергоэффективности заметно превосходит её. Пользователь Steveibe опубликовал результаты собственного тестирования, где проверял возможность запуска больших ИИ-моделей в домашних условиях. Для испытаний использовалась MiniMax M2.7 — модель для инференса с 230 миллиардами параметров. В его тестах четыре RTX 4090 генерировали 71 токен в секунду, тогда как четыре RTX 5090 выдавали 120 токенов в секунду. При этом RTX Pro 6000 генерирует 118 токенов в секунду, то есть одна видеокарта практически сравнялась с четырьмя RTX 5090.

Но важна не только скорость — намного интереснее выглядит энергопотребление. Конфигурация с четырьмя RTX 4090 потребляет около 1800 Вт, а система с четырьмя RTX 5090 — примерно 2300 Вт. Для сравнения, одна RTX Pro 6000 Blackwell требует всего 600 Вт. Иными словами, одна профессиональная видеокарта обеспечивает почти тот же уровень производительности, что и четыре топовые игровые модели, но при гораздо меньшем энергопотреблении, меньшем тепловыделении и более простой сборке системы. Это ещё раз показывает преимущества мощных решений с большим объёмом памяти для локального запуска крупных ИИ-моделей. Да и одну видеокарту будет гораздо дешевле купить.
Длина видеокарты MSI GeForce RTX 5060 8G Ventus 2X OC V1 не …
MSI представила на японском рынке новый графический адаптер GeForce RTX 5060 8G Ventus 2X OC V1. Данное у…
Продажи видеокарт выросли даже в условиях подорожания…
Несмотря на рекордно высокие цены, поставки графических процессоров для ПК продолжают расти. Согласно дан…
Технология DLSS 5 появилась в первой игре…
Технология нейронного рендеринга NVIDIA DLSS 5 может стать одним из самых спорных анонсов компании, поско…
NVIDIA запустила расследование в отношении своего главы…
Компания NVIDIA объявила о начале независимого расследования в отношении своего генерального директора Дж…
NVIDIA RTX PRO 6000 Blackwell очень сильно подорожала…
Если цены на потребительские видеокарты уже кажутся завышенными, то на рынке профессиональных ускорителей…
Обзор и тесты видеокарты AORUS GeForce RTX 5070 Ti INFINITY …
Уже вышло обновление драйвера GeForce Game Ready, добавившее для серии GeForce RTX 50xx поддержку техноло…
AMD готовит конкурента DLSS 5…
Следующее поколение архитектуры RDNA 5 от AMD может получить собственную технологию нейронного рендеринга…
NVIDIA представила систему защиты от ИИ-агентов…
Компания NVIDIA запускает новую платформу безопасности, предназначенную для контроля и изоляции ИИ-агенто…
МегаОбзор
ЭЛ № ФС 77 - 68301. Выходные данные СМИ МегаОбзор
2006-2026
© MegaObzor