У рамках конференції Cloud Next компанія Google представила нове покоління чипів для штучного інтелекту TPU. Це вже сьоме покоління спеціалізованих чипів розробки Google і перше покоління оптимізоване для логічного виведення та запуску сучасних моделей ШІ. Чип Ironwood став найпотужнішим спеціалізованим рішенням від Google, який імовірно мітить у конкуренти спеціалізованим GPU від Nvidia та AMD.
Заявлено, що Ironwood забезпечує пікову продуктивність до 4614 TFLOPS. Кожен чип має 192 ГБ виділеної пам’яті з пропускною спроможністю до 7,4 Тбіт/с. Чип має спеціалізоване ядро SparseCore для опрацювання типів даних, поширених у робочих навантаженнях «розширеного ранжування» і «рекомендацій» (наприклад, алгоритм, що пропонує одяг, який вам може сподобатися). Сама архітектура TPU розроблена для мінімізації зайвих операцій з даними та зниження затримок, щоб забезпечити кращу енергоефективність.
Ironwood постачатимуть у двох конфігураціях: кластер на 256 чипів і кластер на 9216 чипів. До кінця року рішення на базі Ironwood будуть доступні клієнтам хмарної платформи Google Cloud. Також компанія планує інтегрувати Ironwood у модульний обчислювальний кластер Google AI Hypercomputer.
Зазначимо, що Google не єдина технологічна компанія, яка випускає власні чіпи для ШІ та веде розробки в цьому напрямку. У Amazon є процесори Trainium, Inferentia і Graviton, а Microsoft випускає спеціалізовані чипи Maia 100.
Джерело:
TechCrunch