Загальне енергоспоживання прискорювачів Nvidia H100 скоро перевищить показники невеликих країн

На тлі буму штучного інтелекту компанія Nvidia активно продає свої прискорювачі обчислень H100. Відвантаження цих пристроїв іде буквально тоннами. Кожен такий пристрій споживає 700 Вт електроенергії, що можна порівняти з середньостатистичним домогосподарством. І незабаром загальне споживання таких пристроїв можна буде порівняти з невеликими європейськими країнами. За оцінками французької компанії Schneider Electric, у жовтні загальне енергоспоживання центрів обробки даних для ШІ було на рівні енергоспоживання Кіпру.

Інженери з Microsoft підрахували, що до кінця 2024 року, коли буде розгорнуто мільйони графічних процесорів Nvidia H100, вони споживатимуть електроенергію на рівні великих американських міст — більше, ніж у Феніксі, але менше, ніж у Х'юстоні. Якщо припустити, що Nvidia продасть 1,5 мільйона графічних процесорів H100 у 2023 році та два мільйони графічних процесорів H100 у 2024 році, то до кінця наступного року буде розгорнуто 3,5 мільйона таких процесорів. Загалом вони споживатимуть колосальні 13 091 820 000 кВт·год електроенергії на рік або 13091,82 ГВт∙год. Це можна порівняти зі споживанням електроенергії таких країн, як Грузія, Литва чи Гватемала.

Великі цифри, але навряд чи це зупинить використання таких пристроїв. Застосування ШІ у всіх сферах зростає, а це вимагатиме нового обладнання та збільшення продуктивності ЦОД. Також наступного року очікується анонс нових прискорювачів Nvidia B100, які разом із підвищеною продуктивністю можуть отримати вище енергоспоживання.

Джерело:
Tom's Hardware

Обговорити в форумі (коментарів: 25)

Всі новини за 27.12.2023 [ стрічка ]

Останні огляди: