Бурный рост технологий искусственного интеллекта привел к повышенному спросу на ускорители вычислений Nvidia. Спрос так велик, что компания просто не может удовлетворить его. В условия дефицита специализированных ускорителей разработчики обращаются к рынку потребительских видеокарт.
Портал Tom's Hardware обратил внимание на пост Джорджа Хотца, известного под ником Geohot. Бывший хакер, который взламывал телефоны iPhone и консоли Sony, после работы в Twitter запустил собственный стартап Comma AI для разработок в сфере ИИ. Хотц показал партию видеокарт XFX Radeon RX 7900 XTX и заявил, что получил 7,38 PFLOPS производительности, а впереди еще экзафлопс. Выбор данной видеокарты AMD вероятно связан с большим объемом памяти, поскольку у аналогичных по цене решений Nvidia он меньше.
Стартовая покупка Хотца включает 60 видеокарт с общей ценой в 60 тысяч долларов. Чтобы получить экзафлопс, понадобится в 1000 раз больше видеокарт и бюджет в 60 миллионов долларов. Это первый публичный намек на массовые покупки видеокарт для таких целей, хотя очевидно, что они уже идут. Ранее мы писали, что крупные майнинговые компании переориентируют свои крупные вычислительные площадки для работы с ИИ. А стоимость урезанных ускорителей Nvidia A800 и H800 в Китае уже достигла 70 тысяч долларов. Такая ситуация грозит не только дефицитом специализированных ускорителей, но и дефицитом игровых видеокарт. Может повториться ситуация во время последней майнинговой лихорадки, когда купить видеокарты было проблематично, а розничные цены значительно превышали рекомендованные.