Развитие отрасли ускорителей для ИИ происходит головокружительными темпами и Илон Маск явно хочет возглавить эту революцию. В своем очередном посту в сети «Х» он заявил, что хочет приобрести 300 тысяч ускорителей Nvidia Blackwell B200 к следующему лету. Новые адаптеры должны дополнить уже имеющийся вычислительный кластер, который в настоящее время состоит из 100 тысяч ускорителей предыдущего поколения Nvidia H100 и используется для ИИ бота Grok.
Такое количество ускорителей уже отличается огромной вычислительной мощностью, но Маск считает, что с учетом темпов развития ИИ, удерживать такой парк в будущем H100 нецелесообразно из-за его потребления электроэнергии почти в 1 ГВт. И это можно считать правильным мнением, поскольку Blackwell B200 по сравнению с H100 увеличивает производительность обучения ИИ в четыре раза, а скорость обработки запроса и ответы на него в 30 раз.
Интересно, удастся ли этот план в полной мере, ведь спрос в этой области сильно превышает предложение. Крупные компании вроде X, Meta, Google, Microsoft и других соперничают за то, чтобы получить столько ускорителей Blackwell B200, сколько Nvidia способна произвести.
Источник:
Tom`s Hardware