Генеральний директор Nvidia вважає, що його компанія вдосконалює свої високопродуктивні чипи для штучного інтелекту швидше, ніж це передбачає Закон Мура. Про це він заявив в інтерв'ю для TechCrunch наступного дня після презентації нових продуктів на CES 2025.
Нагадаємо, що Закон Мура сформульовано 1965 року на основі емпіричних спостережень. Згідно з ним щільність транзисторів у мікросхемах подвоюється кожні два роки, що забезпечує відповідне зростання продуктивності. Тривалий час мікроелектроніка розвивалася саме в такому темпі, поки мініатюризація не дійшла до рівня, коли ми впираємося в атомарну структуру речовини. Тому сучасні чипи стають більшими й складнішими, а ріст продуктивності вже не такий великий.
Проте Дженсен Хуанг вважає, що обчислювальні рішення Nvidia розвиваються швидшими темпами. За його словами, новий чип для ШІ (Blackwell) у 30 разів кращий за старе покоління в навантаженнях, які пов'язані з виведенням ШІ. Досягається це не за рахунок прогресу в кремнії, а завдяки комплексному підходу. Компанія вдосконалює архітектуру, чип, систему, бібліотеки та алгоритми одночасно, що й дає змогу розвиватися швидше.
Цікаво, що зараз багато фахівців заговорили про уповільнення прогресу в галузі ШІ. Але голова Nvidia не згоден і з цим твердженням. З його слів, зараз є три етапи, що впливають на масштабування ШІ:
- попереднє навчання, коли ШІ вивчає закономірності на великих обсягах даних;
- подальше навчання, де відповіді моделі ШІ налаштовуються з використанням різних методів, включно зі зворотним зв'язком і контролем людини;
- обчислення для виведення, що вимагає від моделі ШІ часу «подумати» після кожного запитання.
Підвищуючи продуктивність, ми прискорюємо фазу виведення і знижуємо вартість цього етапу. Зараз витрати на такі обчислення в передових моделях ШІ коштують досить дорого, але Хуанг упевнений у прогресі, і його компанія зосереджена на створенні нових продуктивніших чипів. Актуальні чипи Nvidia в обчисленнях ШІ вже в 1000 швидше GPU, які випускалися 10 років тому.