Одна минута вместо полутора часов: Nvidia решила разогнать конвейер токенов на максимум
Дата-центры давно перестали быть просто складами серверов — теперь это фабрики, которые в буквальном смысле продают цифровые «токены», и именно вокруг ускорения их производства Nvidia выстроила презентацию своей новой платформы Vera Rubin.
На прошлой неделе компания пригласила журналистов на закрытый брифинг и показала мини-дата-центр в Кремниевой долине — одну из четырёх подобных лабораторий Nvidia. Там продемонстрировали, что сборка вычислительного блока Vera Rubin NVL72 теперь занимает одну минуту вместо 90 минут, которые требовались для сборки предыдущего поколения GB200. Такое ускорение достигнуто за счёт автоматизации монтажа оборудования.
Платформа Vera Rubin объединяет шесть типов чипов: процессор Vera, графический ускоритель Rubin, коммутатор NVLink 6, сетевой адаптер ConnectX-9, процессор обработки данных BlueField-4 и коммутатор Spectrum-6 Ethernet. По заявлению Nvidia, в тестах CoreWeave на модели DeepSeek-R1 новая система выдаёт в десять раз больше токенов на ватт энергии, чем предыдущее поколение GB200 NVL72.
Ставка компании сделана на то, что для работы автономных ИИ-агентов важнее не количество вычислительных ядер, а их скорость и способность удерживать длинный контекст при минимальной задержке. По словам Nvidia, процессор Vera ускоряет работу агентов вдвое и снижает задержки на 40 процентов благодаря памяти LPDDR5X.
Экономика этого подхода проста: чем больше токенов дата-центр производит в рамках фиксированного энергопотребления, тем выше его доход. Но рост числа производителей оборудования и конкуренция среди ИИ-компаний одновременно снижают рыночную цену самих токенов, поэтому индустрия рассчитывает, что падение цены компенсируется ростом спроса.
Представитель Nvidia привёл расчёт, по которому применение искусственного интеллекта в разработке софта утроило продуктивность программистов по всему миру, оценив эффект в девять триллионов долларов. Однако это скорее иллюстративная оценка, чем подтверждённый факт, а на фоне сообщений о том, что некоторые компании ограничивают сотрудникам лимиты на использование ИИ-токенов, реальный эффект для всех организаций остаётся под вопросом.
Одновременно с презентацией дата-центры остаются точкой социального напряжения: буквально на следующий день после брифинга нидерландские активисты забросали строящийся дата-центр, предназначенный для инфраструктуры Microsoft, водяными шариками с химической смесью в знак протеста против климатических и политических последствий развития таких объектов.