У рамках конференції Supercomputing 2023 відбулася презентація прискорювача обчислень Nvidia H200. Він базується на архітектурі Hopper та є оновленою версією моделі H100. Головна особливість новинки полягає в переході на більш високошвидкісні та місткі мікросхеми пам'яті HBM3e. Завдяки цьому вона забезпечує кращу продуктивність при роботі з нейромережами, на кшталт великих мовних моделей.
Детальні специфікації H200 «зелені» не розкривають, але, судячи з заявленої грубої обчислювальної потужності, в основі прискорювача лежить той же процесор, що і в H100. У той самий час обсяг буфера зріс з 80 до 141 ГБ, а його пропускна здатність — з 3,35 до 4,8 Тбайт/с. Цей апгрейд, наприклад, покращив продуктивність під час роботи з навченою моделлю GPT-3 в 1,6 раза.
Разом з новим прискорювачем було представлено платформу Nvidia HGX H200. Одна така станція використовуватиме чотири або вісім H200, пропонуючи сумарно до 1,1 ТБ високошвидкісної пам'яті HBM3e. Постачання нових ШІ-прискорювачів розпочнеться у другому кварталі наступного року.
Джерело:
Nvidia