В рамках конференции Cloud Next компания Google представила новое поколение чипов для искусственного интеллекта TPU. Это уже седьмое поколение специализированных чипов разработки Google и первое поколение оптимизированное для логического вывода и запуска современных моделей ИИ. Чип Ironwood стал самым мощным специализированным решением от Google, который вероятно метит в конкуренты специализированным GPU от Nvidia и AMD.
Заявлено, что Ironwood обеспечивает пиковую производительность до 4614 TFLOPS. Каждый чип имеет 192 ГБ выделенной памяти с пропускной способностью до 7,4 Тбит/с. У чипа есть специализированное ядро SparseCore для обработки типов данных, распространенных в рабочих нагрузках «расширенного ранжирования» и «рекомендаций» (например, алгоритм, предлагающий одежду, которая вам может понравиться). Сама архитектура TPU разработана для минимизации лишних операций с данными и снижения задержек, чтобы обеспечить лучшую энергоэффективность.
Ironwood будут поставляться в двух конфигурациях: кластер на 256 чипов и кластер на 9216 чипов. К концу года решения на базе Ironwood будут доступны клиентам облачной платформы Google Cloud. Также компания планирует интегрировать Ironwood в модульный вычислительный кластер Google AI Hypercomputer.
Отметим, что Google не единственная технологическая компания, которая выпускает собственные чипы для ИИ и ведет разработки в этом направлении. У Amazon есть процессоры Trainium, Inferentia и Graviton, а Microsoft выпускает специализированные чипы Maia 100.
Источник:
TechCrunch