Представлений величезний чип Cerebras WSE-3 з 900 тисячами ядер для обчислень ШІ

Cerebras Systems представила спеціалізований чип для обчислень штучного інтелекту, який належить до третього покоління чипів Cerebras. І це справжній напівпровідниковий «монстр» рекордного розміру. Чип Cerebras WSE-3 налічує 900 тисяч ядер та 4 трильйони транзисторів.

Чип WSE-3 (Wafer Scale Engine) є цільною кремнієвою пластиною загальною площею 46 225 мм², що в 57 разів більше, ніж у Nvidia H100. Виготовлено мегачип за 5-нм технологією TSMC. Такий мегачип оптимізований для навчання нейромереж зі складністю до 24 трлн параметрів. Його пікова продуктивність в ШІ-обчисленнях має сягати 125 петафлопс. У WSE-3 44 ГБ вбудованої пам'яті SRAM при пропускній здатності 21 петабайт на секунду. Також він може поставлятися у конфігурації з 1,5 ТБ, 12 ТБ або 1,2 ПБ зовнішньої пам'яті.

Зазначимо, що попередній чип Cerebras WSE-2 налічував лише 2,6 трильйона транзисторів, 400 тисяч ядер та був оснащений меншим обсягом пам'яті.

Вартість WSE-3 не озвучена, але можна припустити, що вона буде набагато вищою за спеціалізовані прискорювачі Nvidia H100, які продаються в середньому по 30 тисяч доларів.

Також Cerebras Systems анонсувала суперкомп'ютер CS-3 AI, який може навчати моделі в 10 разів більші за GPT-4 і Gemini. Суперкомп'ютер CS-3 AI призначений для корпоративних та «гіпермасштабних» користувачів, забезпечуючи набагато вищу продуктивність у порівнянні з будь-якими сучасними графічними процесорами. Відомо, що 64 системи CS-3 будуть використовуватись у суперкомп'ютері Condor Galaxy 3, який забезпечить продуктивність ШІ на рівні 8 екзафлопс.

Джерело:
Wccftech

Обговорити в форумі (коментарів: 26)

Всі новини за 14.03.2024 [ стрічка ]

Останні огляди: