Компании Nvidia и AMD представили обновленные результаты тестирования специализированных ускорителей для искусственного интеллекта в тестах MLPerf Inference v5.0. Это специализированный набор тестов, который позволяет оценить чистую производительность в задачах логического вывода обученной нейросети (инференс). И теперь можно напрямую сравнить производительность современных решений Nvidia Blackwell B200 и AMD MI325X.
Протестированы серверные системы Nvidia DGX B200 с восемью ускорителями Blackwell и системы с 8 ускорителями семейства Hopper. Со стороны AMD протестированы аналогичные серверные конфигурации с новыми AMD MI325X. Очевидно, что лидером являются новые устройства семейства Blackwell, но AMD MI325X хорошо выглядят на фоне прошлого поколения Nvidia Hopper. В обновленном интерактивном бенчмарке llama 2 70b система с 8 чипами Blackwell почти в 2,7 раза быстрее аналогичной конфигурации с Hopper H200. Конкурент от AMD быстрее Hopper H100.
В специализированном тесте Stable Diffusion XL разница между соперниками не столь кардинальная. Система на Blackwell примерно на 55% быстрее Hopper H200, отрыв от MI325X примерно 75%.
Для крупных компаний, которые оперируют большими финансовыми средствами и готовы выложить любые деньги, современные серверы на Nvidia Blackwell остаются лучшим и ультимативным решением для дата-центров ИИ. Но у MI325X есть свои преимущества относительно систем на базе Hopper. Один такой ускоритель оснащен 256 ГБ памяти HBM3e против 141 ГБ памяти у Nvidia H200. А с ростом сложности современных моделей ИИ они требуют все большего объема памяти.
Источник:
Wccftech