Компанії Nvidia та AMD представили оновлені результати тестування спеціалізованих прискорювачів для штучного інтелекту в тестах MLPerf Inference v5.0. Це спеціалізований набір бенчмарків, який дає змогу оцінити чисту продуктивність у завданнях логічного виводу для навченої нейромережі (інференс). І тепер можна безпосередньо порівняти продуктивність сучасних рішень Nvidia Blackwell B200 та AMD MI325X.
Протестовано серверні системи Nvidia DGX B200 з вісьмома прискорювачами Blackwell і системи з 8 прискорювачами сімейства Hopper. З боку AMD випробувано аналогічні серверні конфігурації з новими AMD MI325X. Очевидно, що лідером є пристрої сімейства Blackwell, але AMD MI325X мають гарний вигляд на тлі минулого покоління Nvidia Hopper. В оновленому інтерактивному бенчмарку llama 2 70b система з 8 чипами Blackwell майже у 2,7 раза швидша за аналогічну конфігурацію з Hopper H200. Конкурент від AMD швидший за Hopper H100.
У спеціалізованому тесті Stable Diffusion XL різниця між суперниками не настільки кардинальна. Система на Blackwell приблизно на 55% швидша за Hopper H200, відрив від MI325X приблизно 75%.
Для великих компаній, що оперують великими фінансовими коштами та готові викласти будь-які гроші, сучасні сервери на Nvidia Blackwell залишаються найкращим і ультимативним рішенням для дата-центрів ШІ. Але у MI325X є свої переваги відносно систем на базі Hopper. Один такий прискорювач оснащений 256 ГБ пам’яті HBM3e проти 141 ГБ пам’яті у Nvidia H200. А зі зростанням складності сучасних моделей ШІ вони вимагають все більшого обсягу пам’яті.
Джерело:
Wccftech