Почему охлаждение серверов NVIDIA обходится в десятки тысяч долларов?

Система GB300 NVL72, оснащённая 72 графическими процессорами Grace Blackwell Ultra и 32 CPU Grace, демонстрирует высокую производительность, однако экстремальная мощность требует соответствующего охлаждения.

Согласно оценке Morgan Stanley, стоимость системы охлаждения для конфигурации из 72 GPU в стойке Oberon достигает почти 50000$. Один GPU с тепловым пакетом 1400 Вт вместе с 32 CPU генерирует более 100 кВт тепла при пиковой нагрузке, что делает традиционные воздушные системы охлаждения неприемлемыми.

В расчетах Morgan Stanley стойка состоит из 18 вычислительных модулей (каждый потребляет около 6,6 кВт) и 9 коммутационных модулей. Общая стоимость охлаждения для вычислительных модулей достигает примерно 40680$, для коммутационных — 9180$.

В будущем ожидается ещё более мощная конфигурация Vera Rubin NVL144, которая потребует увеличенных затрат на охлаждение — по прогнозам Morgan Stanley, стоимость возрастёт примерно на 17% до 55710$.

Источник: TechPowerUp

Прямую речь главреда, комментарии и самое интересное за день вы найдете в нашем Telegram-канале.