NVIDIA GB300: Blackwell Ultra для вычислений ИИ
Архитектура GB300 и отличие анонса платформы от доступности у конкретного облачного провайдера.
Платформа Blackwell Ultra
NVIDIA описала GB300 в материале о Blackwell Ultra в 2025 году. Конфигурация GB300 NVL72 объединяет 72 GPU и 36 процессоров Grace. В публикации доступность партнёрских систем ожидалась во второй половине 2025 года.
Как проверять облачную доступность
Анонс архитектуры не подтверждает наличие инстанса у любого облачного провайдера. Для расчёта проекта нужны конкретный регион, тип ресурса, квота и тариф выбранного облака. Сравнивать стоимость полезно на своей нагрузке, включая память, задержку и загрузку ускорителя.
Память и фазы инференса
В техническом описании NVIDIA для Blackwell Ultra указано до 288 ГБ HBM3e на GPU. Конфигурация стойки и память одного ускорителя — разные параметры: приложение должно учитывать размещение весов, кеш контекста и обмен между устройствами. NVIDIA также описывает разделение prefill и decode в системе инференса Dynamo.
Что измерять перед арендой
Сначала зафиксируйте модель, точность весов, длину входа и выхода и ожидаемую параллельность. Для короткого диалога важна задержка первого токена, для пакетной обработки — число завершённых заданий за час. Укажите оба показателя: высокая суммарная производительность не гарантирует приемлемого ожидания для одного пользователя.
Сравнивая аренду и управляемый API, учитывайте время простоя ресурса и расходы на обслуживание. Расчёт по стоимости часа GPU без фактической загрузки может завышать экономию. Сначала измерьте небольшой репрезентативный поток, затем оцените стоимость успешно завершённой задачи. Название ускорителя само по себе не является тарифом или гарантией скорости приложения.
Источники и документация
Следующий шаг — на практике.
Перед интеграцией проверьте ID модели, актуальную цену и формат запроса. Доступность зависит от модели и маршрута провайдера.
