На заході Intel Vision компанія представила свій новий прискорювач для обчислень штучного інтелекту Gaudi 3. В його основі великий процесор з кількома кристалами, включаючи два великі обчислювальні блоки та кілька блоків пам'яті. Новий прискорювач забезпечує пікову продуктивність FP8 до 1835 Тфлопс і повинен бути швидшим за популярний прискорювач Nvidia H100.
Процесор Gaudi 3 налічує 64 тензорних ядра п'ятого покоління (по 32 на одне велике GPU-ядро), 96 МБ швидкісної кеш-пам'яті SRAM та 128 ГБ пам'яті HBM2e (8 стеків) з пропускною здатністю 3,7 ТБ/с. І все це об'єднано в одному великому чипі на одній підкладці, який виробляється на базі техпроцесу 5 нм TSMC. Підтримується до 24 ліній 200 Gigabit Ethernet для створення комплексних обчислювальних систем з можливістю масштабування.
Прискорювачі Intel Gaudi 3 AI випускатимуться у формфакторі OAM (OCP Accelerator Module) HL-325L з потужністю до 900 Вт для високопродуктивних серверних рішень з можливістю водяного охолодження. Також будуть доступні прискорювачі Gaudi 3 HL-338 під PCIe з TDP 600 Вт та ідентичними характеристиками OAM. Одночасно анонсовано базову плату HLB-325 та систему HLFB-325L, яка може включати до 8 прискорювачів Gaudi 3. Така система має сукупний TDP 7,6 кВт при розмірі 19 дюймів.
У своїх матеріалах Intel активно порівнює новий прискорювач із Nvidia H100 та Nvidia H200. І новий Intel Gaudi 3 помітно краще справляється із навчанням різних моделей ШІ, показуючи перевагу від 1,4 до 1,7 раза. При виведенні даних різниця вже помітно нижча. Але з погляду енергоефективності Gaudi 3 кращий в 1,2-2,3 раза, залежно від області обчислень та конкретної моделі ШІ.
Перші зразки прискорювача Intel Gaudi 3 AI будуть доступні партнерам у першій половині 2024 року. Але відвантаження великих партій розпочнеться не раніше другої половини року.
Джерело:
Videocardz