Samsung во время выступления на конференции ISSCC 2021 рассказала про новый тип ОЗУ на основе многослойной памяти HBM2, оснащенный встроенным AI-процессором с теоретической вычислительной мощностью 1,2 терафлопс. Такое решение носит название HBM-PIM и позволяет «умной» памяти самостоятельно выполнять операции, которые обычно зарезервированы для CPU, GPU, ASIC или FPGA.
Инновационный класс памяти предназначен для облегчения миграции данных между памятью и процессорами, что часто является более дорогостоящим с точки зрения энергопотребления и времени, чем фактические вычислительные операции. Samsung заявляет, что применительно к существующей памяти HBM2 Aquabolt эта технология может обеспечить вдвое большую производительность системы при одновременном снижении энергопотребления более чем на 70%.
Еще один немаловажный момент, HBM-PIM не требует каких-либо изменений в программном или аппаратном обеспечении (в том числе в контроллерах памяти), что значительно ускорит и упростит вывод технологии на рынок. Samsung заявляет, что память уже проходит испытания в ускорителях искусственного интеллекта, в том числе у внешних партнёров. Компания ожидает, что все предварительные этапы будут завершены в первой половине 2021 года.
С точки зрения архитектуры, каждый банк памяти имеет встроенный программируемый вычислительный блок (Programmable Computing Unit — PCU), функционирующий на частоте 300 МГц. Память может работать либо в стандартном режиме HBM2, либо в режиме PIM (processing-in-memory) для обработки данных. Можно отметить, что на слайдах технология носит название FIMDRAM (function-in-memory) но в общую доступность пойдет именно как HBM-PIM.
Очевидно, внедрение блоков PCU снижает полезный объем памяти — каждый кристалл с PCU имеет половинную емкость (4 Гбит) по сравнению со стандартным кристаллом HBM2 (8 Гбит). Чтобы решить эту проблему, Samsung использует стеки по 6 ГБ, объединив четыре кристалла 4 Гбит с PCU с четырьмя кристаллами 8 Гбит без модулей PCU. Возвращаясь к HBM2, стандартный стек имеет объём 8 ГБ из восьми кристаллов 8 Гбит.
Квангил Парк, старший вице-президент подразделения Memory Product Planning в Samsung Electronics, заявил: «Наш новаторская память HBM-PIM — первое в отрасли программируемое решение PIM, адаптированное для различных рабочих нагрузок, управляемых ИИ, таких как высокопроизводительные вычисления, машинное обучение и другие ИИ-операции. Мы планируем развивать технологию за счет дальнейшего сотрудничества с поставщиками решений ИИ для продвинутых приложений на основе PIM».
Источник:
Tom's Hardware