Intel Gaudi 2 оказалась мощнее NVIDIA H100 в генерации изображений

Разработчики сервиса Stability AI опубликовали достаточно интересное исследование, в котором проводится сравнение производительности искусственного интеллекта на ускорителях Intel Gaudi 2 и NVIDIA H100 и A100. Тесты показывают, что решения Intel предоставляют отличное соотношение цены к производительности и могут привлечь внимание компаний, которые ищут быстрое и готовое к использованию решение, которое будет дешевле решений NVIDIA. Для своих тестов сотрудники Stability AI использовала две модели (включая самую новую Stable Diffusion 3), чтобы посмотреть на возможности графических ускорителей при генерации изображений по достаточно широкому спектру запросов.

Соответственно, в модели Stability Diffusion 3 ускоритель искусственного интеллекта Intel Gaudi 2 продемонстрировал исключительные результаты. Стоит отметить, что данная модель имеет от 800 миллионов до 8 миллиардов параметров, но тестировалась версия с 2 миллиардами параметров. В результате теста Intel Gaudi 2 показал ускорение в 56% по сравнению с графическим ускорителем H100 80 ГБ и в 2,43 раза по сравнению с моделью A100 80 ГБ. Благодаря ёмкости 96 ГБ, Intel Gaudi 2 также позволила установить более широкие параметры для генерации изображений, чего нельзя сделать на графических ускорителях NVIDIA. Это позволило получить дополнительное ускорение в 35% по сравнению с A100. Так что в целом у Intel есть все шансы развиваться в этом направлении, отбирая сегмент у NVIDIA.