Генеральный директор Nvidia считает, что его компания совершенствует свои высокопроизводительные чипы для искусственного интеллекта быстрее, чем это предсказывает Закон Мура. Об этом он заявил в интервью для TechCrunch на следующий день после презентации новых продуктов на CES 2025.
Напомним, что Закон Мура сформулирован в 1965 году на основе эмпирических наблюдений. Согласно ему плотность транзисторов в микросхемах удваивается каждые два года, что обеспечивает соответствующий рост производительности. Долгое время микроэлектроника развивалась именно в таком темпе, пока миниатюризация не дошла до уровня, когда мы упираемся в атомарную структуру вещества. Поэтому современные чипы становятся больше и сложнее, а прост производительности уже не такой большой. Однако Дженсен Хуанг считает, что вычислительные решения Nvidia развиваются более быстрыми темпами. С его слов новый чип для ИИ (Blackwell) в 30 раз лучше старого поколения в нагрузках, которые связаны с выводом ИИ. Достигается это не за счет прогресса в кремнии, а за счет комплексного подхода. Компания совершенствует архитектуру, чип, систему, библиотеки и алгоритмы одновременно, что и позволяет развиваться быстрее.
Интересно, что сейчас многие специалисты заговорили о замедлении прогресса в области ИИ. Но глава Nvidia не согласен и с этим утверждением. С его слов, что сейчас есть три этапа, которые влияют на масштабирование ИИ:
- предварительное обучение, когда ИИ изучает закономерности на больших объемах данных;
- последующее обучение, где ответы модели ИИ настраиваются с использованием разных методов, включая обратную связь и контроль человека;
- вычисления для вывода, что требует от модели ИИ времени «подумать» после каждого вопроса.
Повышая производительность, мы ускоряем фазу вывода и снижаем стоимость этого этапа. Сейчас затраты на такие вычисления в передовых моделях ИИ обходятся довольно дорого, но Хуанг уверен в прогрессе, и его компания сосредоточена на создании новых более производительных чипов. Актуальные чипы Nvidia в вычислениях ИИ уже в 1000 быстрее GPU, которые выпускались 10 лет назад.