Microsoft оголосила про запуск нових віртуальних машин у рамках хмарної платформи Azure, орієнтованих на прискорення генеративних нейромереж з використанням Nvidia H100. Компанія реалізує свій десятирічний досвід у галузі суперкомп'ютерів для створення потужної інфраструктури ШІ, здатної забезпечити високу продуктивність та масштабованість.
Нові машини дають змогу прискорити моделі генеративного штучного інтелекту від Microsoft та інші клієнтські рішення. Вони у тому числі забезпечать функціонування відомого чат-бота ChatGPT від OpenAI. Нагадаємо, що результатом співпраці Microsoft і OpenAI вже стала інтеграція чат-бота до пошукової системи Bing. Також на підході нова версія бота на базі покращеної та мультимодальної нейромережі GPT-4.
Microsoft представляє віртуальну машину ND H100 v5, що дозволяє використовувати від восьми до кількох тисяч графічних процесорів Nvidia H100, пов'язаних між собою мережею Nvidia Quantum-2 InfiniBand. Обіцяно суттєве зростання продуктивності для ШІ порівняно з віртуальними машинами ND A100 v4. Основні особливості нових віртуальних машин ND H100 v5 такі:
- від 8 графічних процесорів Nvidia H100 із тензорними ядрами, об'єднані через NVSwitch та NVLink 4.0;
- 400 Гбіт/с Nvidia Quantum-2 CX7 InfiniBand на GPU і 3,2 Тбіт/с на віртуальну машину в неблокованій мережі fat-tree;
- NVSwitch and NVLink 4.0 з пропускною можливістю 3,6 ТБ/с між 8 локальними GPU в рамках однієї віртуальної машини;
- процесори Intel Xeon Scalable 4-го покоління;
- з'єднання між хостом та GPU за інтерфейсом PCIE Gen5 з пропускною здатністю 64 ГБ/с на GPU;
- 16 каналів пам'яті DDR5 DIMM 4800 МГц.
Microsoft бачить великий потенціал у розвитку технологій ШІ та продовжує співпрацювати з OpenAI, Inflection та Nvidia для масштабного впровадження нових можливостей. Платформа Microsoft Azure передбачає різні служби для роботи з ШІ, включаючи Azure Machine Learning, Azure OpenAI Service та інші. Доступність хмарної платформи Microsoft Azure з продуктивними віртуальними машинами відкриє нові можливості для реалізації великомасштабних моделей ШІ.