В прошлом году компания Nvidia представила суперчипы GH200 для серверных систем, которые сочетают мощный процессор Arm и графику Hopper. Устройство не для массового потребителя, но внезапно компания GPTshop представила десктопные ПК на базе Nvidia GH200. Это рабочие станции для локального запуска языковых моделей ИИ.
Такой ПК может похвастать наличием процессора с 72 ядрами Arm Neoverse V2, плюс 480 ГБ оперативной памяти LPDDR5X и встроенный ускоритель на базе Nvidia H100 с памятью HBM3 96 ГБ. Также возможен вариант поставки с более новой версией Nvidia GH200, где графический чип оснащен памятью HBM3e объемом 144 ГБ.
Такой миниатюрный суперкомпьютер должен обеспечить производительность 67 Тфлопс в вычислениях FP64, 989 Тфлопс в TF32, 1979 Тфлопс в FP16, 3958 Тфлопс в FP8 и 3958 TOPS в INT8.
Рабочая станция оснащена сетевыми устройствами Nvidia Bluefield-3 и ConnectX-7. Может оснащаться двумя твердотельными накопителями M.2 по 8 ТБ, восемью накопителями формата E1.S и десятью накопителями U.3 до 30 ТБ. Такой ПК оснащен видеокартой GeForce RTX 4060 для вывода изображения. Есть звуковая карта, клавиатура и мышь. Используется воздушное охлаждение, и даже в самом простом варианте можно наблюдать девять вентиляторов Noctua.
Отметим, что на днях появились результаты тестирования такой системы. В специализированных процессорных тестах CPU (72 ядра) в GH200 показал хорошие результаты на фоне серверных процессоров AMD Epyc 9754 (128 ядер) и Intel Xeon Platinum 8592+ (128 ядер), заметно уступая им только при определенных нагрузках, плохо оптимизированных для Arm.
В магазине GPTshop.ai можно заказать ПК в разных корпусах. Стоимость простой конфигурации начинается от 47,5 тысяч евро, вариант в прозрачном корпусе со стеклянными стенками стоит на тысячу евро дороже. Варианты с жидкостным охлаждением начинаются от 54,5 тысяч.
Источники:
Tom's Hardware
GPTshop