Уже сейчас развитие рынка ИИ упирается в том числе в электроэнергию, а буквально со следующего года эта проблема может стать непреодолимым препятствием на пути развития отрасли. Дело в том, что всего одна стойка Kyber Ultra NVL576 будет потреблять 600 кВт мощности.
Kyber Ultra NVL576 — это стойка с 576 ускорителями Rubin Ultra. Соответствующее решение компания анонсировала в прошлом месяце, рассказав, что объединены ядра ускорителей будут посредством технологии Customer Performance Optic (CPO). До этого самой большой из анонсированных стоек была Kyber Ultra NVL144 со 144 ускорителями.
Согласно официальным характеристикам, Rubin Ultra NVL576 обеспечит производительность 15 exaFLOPS в области вычислений с плавающей запятой 4-го порядка (вывод данных) и 5 exaFLOPS в области вычислений с плавающей запятой 8-го порядка (обучение данных). Это в 14 раз больше, чем у Blackwell GB300 NVL72.
Однако это чудовище потребует 600 кВт мощности, что эквивалентно потреблению примерно 500 среднестатистических американских домов. Для сравнения, стойка с ускорителями Blackwell требовала около 120 кВт, а стойка поколения Hopper потребляла лишь 40 кВт.
И проблема тут уже не только в общем энергопотреблении ЦОД с такими стойками. Дело в том, что переоборудование существующих объектов для прямой подачи 600 кВт электроэнергии в отдельные стойки практически невозможно. Таким образом, соответствующие объекты придётся строить с нуля, что потребует ещё больших вложений.
