Відомий китайський виробник відеокарт випустив свій графічний процесор для штучного інтелекту. Компанія Moore Threads відома завдяки споживчим відеокартам для китайського ринку. Ці пристрої мають непогані технічні характеристики, але сумнівну реальну продуктивність в іграх, хоча компанія постійно покращує програмну підтримку.
Тепер вона пропонує свій прискорювач для ШІ на базі власного потужного GPU архітектури MUSA 3-го покоління. Moore Threads MTT S4000 має продуктивність 25 Тфлопс в обчисленнях FP32 та 200 TOPS у тензорних обчисленнях INT8. Пристрій оснащений 48 гігабайтами пам'яті GDDR6 16 Гбіт/с із пропускною здатністю 768 ГБ/с. Він підтримує швидкісний інтерфейс MTLink 1.0 та PCIe Gen5. Попередня версія прискорювача MTT для ШІ демонструвала пікову продуктивність FP32 до 15,2 Тфлопс і була оснащена 32 ГБ. Тобто для Moore Threads це суттєвий стрибок швидкодії. Новий продукт орієнтований для встановлення в серверні системи та виконаний у двослотовому форматі з пасивним охолодженням.
Також MTT S4000 може працювати як відеокарта для багатопотокового виведення зображення на 96 дисплеїв 1080p або на чотири дисплеї 8K. Прискорювач поставляється з набором програмних інструментів USIFY, які забезпечують сумісність із платформою Nvidia CUDA. Графічний процесор MTT S4000 використовується в обчислювальних рішеннях KUAE, аналогічних системам Nvidia DGX. Одна система KUAE MCCX D800 використовує 8 прискорювачів MTT S4000, підтримує масштабування та можливість плавного розширення робочих систем. MTT S4000 та системи KUAE підтримують новітні моделі LLM, такі як LLaMA, GLM, Aquila, Baichuan, GPT, Bloom, Yuyan, та можуть обробляти до 130 мільярдів параметрів.
Перші 1000 графічних процесорів MTT S4000 будуть розміщені у першому великому обчислювальному кластері Китаю для підтримки робочих навантажень ШІ.
Джерело:
Wccftech
