SparkHost

DGX Spark vs RTX PRO 6000 Blackwell: что выбрать для LLM

NVIDIA DGX Spark 128 ГБ · NVIDIA RTX PRO 6000 Blackwell 96 ГБ

Модели до 96 ГБ карта генерирует в 3,5–7 раз быстрее; Spark дешевле карты, не требует станции, собирается в кластер и сдаётся в аренду.

Арендовать NVIDIA DGX Spark 128 ГБ — 49 990 ₽/мес

Без НДС · 1 узел на месяц, сразу в корзину · Подробнее о сервере

RTX PRO 6000 Blackwell — профессиональная видеокарта с 96 ГБ GDDR7: памяти почти столько, сколько DGX Spark оставляет под модель, а читает она её в 6,6 раза быстрее. Поэтому на одних и тех же моделях карта генерирует в 3,5–7 раз быстрее — от gpt-oss-120b до Llama 70B. Spark выигрывает ценой и форматом: это готовый компьютер на 240 Вт, который можно взять в аренду за 49 990 ₽ в месяц, а одна карта стоит около 1 080 000 ₽ и требует ещё и рабочей станции.

Скорость генерации

Замеры из открытых источников. В строке — только результаты, снятые одной методикой на обеих машинах: тот же движок, модель, квант и нагрузка. Основное число — скорость генерации, токенов в секунду; ниже — скорость обработки промпта; источник и дата — в каждой строке. Где под числом стоит «вход + выход», это другая метрика: суммарная пропускная способность при параллельных запросах, входные и выходные токены вместе, — сравнивать её можно только внутри строки.

МодельDGX SparkRTX PRO 6000
gpt-oss-120b · MXFP4Ollama, batch 1LMSYS, 2025-10-13LMSYS results sheet, 2025-10-1341,9153
Llama 3.1 70B · Q4_K_MOllama, batch 1LMSYS, 2025-10-13LMSYS results sheet, 2025-10-134,632,1
Qwen3 32B · Q4_K_MOllama, batch 1LMSYS, 2025-10-13LMSYS results sheet, 2025-10-139,557,2
Gemma 3 27B · Q4_K_MOllama, batch 1LMSYS, 2025-10-13LMSYS results sheet, 2025-10-1311,563,3
gpt-oss-20b · MXFP4Ollama, batch 1LMSYS, 2025-10-13LMSYS results sheet, 2025-10-1360,9215

Характеристики

Открыть в сравнении
NVIDIA DGX Spark 128 ГБNVIDIA RTX PRO 6000 Blackwell 96 ГБ
Память, ГБ12896
Под модель, ГБ (оценка)10896
Пропускная способность, ГБ/с2731 792
Накопитель, ТБ4—
FP4, TFLOPS1 0004 000
Мощность, Вт240600
Форм-факторНастольныйРабочая станция
Цена покупки699 000 ₽1 080 000 ₽
Аренда в месяц49 990 ₽—
ГБ на 1 000 ₽ аренды2,56—
ПримечанияМодели 70B–120B помещаются целиком благодаря 128 ГБ единой памяти; Аренда — 49 990 ₽/мес; покупка — от 699 тыс. ₽96 ГБ GDDR7 с ECC на 1 792 ГБ/с — в 6,6 раза быстрее памяти Spark; до 600 Вт, 4 000 TOPS в FP4 с разреженностью (спецификация NVIDIA); Цена — только за карту: 1 079 999 ₽ в рознице на старте продаж в феврале 2026 года; рекомендованная цена NVIDIA с тех пор выросла с $8 565 до $13 250 (июнь 2026); Нужен ещё компьютер: слот PCIe 5.0 x16, разъём питания 12V-2x6 и блок питания от 1 000 Вт

Отличия подсвечены. «Под модель» — сколько памяти остаётся под веса и контекст за вычетом системы или лимита видеопамяти.

Какие модели влезают

Расчёт под свою модель

При типовом кванте и контексте в RTX PRO 6000 помещаются 22 модели каталога из 32, в Spark — 22: по списку они близки, а лишние гигабайты Spark — около 108 ГБ против 96 ГБ — уходят на длинный контекст и параллельные запросы. Разница появляется, когда модели мало одного устройства: два Spark через ConnectX-7 вмещают 26 моделей, а для карты это вторая RTX PRO 6000 — ещё один слот и ещё одна такая же цена.

22 из 32
моделей каталога в DGX Spark
22 из 32
моделей каталога в RTX PRO 6000

Типовой квант и контекст каждой модели, одно устройство: под модель 108 и 96 ГБ.

Списки моделей совпадают — разница в запасе памяти под контекст.

Когда выбрать DGX Spark

  • Бюджет ограничен: DGX Spark целиком — от 699 000 ₽, а одна RTX PRO 6000 стоит около 1 080 000 ₽ без компьютера.
  • Нужен готовый узел, а не сборка: Spark потребляет до 240 Вт, а для карты на 600 Вт NVIDIA советует блок питания от 1 000 Вт.
  • Модель или контекст выходят за 96 ГБ — узлы Spark собираются в кластер до 4 штук.
  • Нужно проверить идею без покупки: сутки аренды — 3 990 ₽, месяц — 49 990 ₽.

Когда выбрать RTX PRO 6000

  • Скорость ответа важнее цены: на gpt-oss-120b карта даёт около 153 токенов в секунду против 42 у Spark в одном и том же тесте.
  • Модель обслуживает много пользователей или агентов с длинными цепочками вызовов — каждая секунда генерации на счету.
  • Станция с PCIe 5.0 и мощным блоком питания уже есть, и карта встаёт в неё.
  • Кроме LLM нужны рендер и графика: у карты четыре выхода DisplayPort 2.1b.

Стоимость: аренда или покупка

Посчитать в калькуляторе
49 990 ₽
Аренда DGX Spark в месяц
1 080 000 ₽
Покупка RTX PRO 6000
6 месяцев
Окупаемость покупки DGX Spark
перепродажа 60 %, электричество 1 500 ₽/мес

В российской рознице RTX PRO 6000 на старте продаж в феврале 2026 года стоила около 1 080 000 ₽ за одну карту, а рекомендованная цена NVIDIA с тех пор выросла с $8 565 до $13 250. К карте нужен компьютер с PCIe 5.0 и блоком питания на 1 000 Вт. Одна карта стоит как ≈21,6 мес. аренды Spark по 49 990 ₽. Сам Spark в покупке — от 699 000 ₽; при перепродаже за 60 % и электричестве 1 500 ₽ в месяц он окупается против аренды через 6 месяцев.

Вопросы

Насколько RTX PRO 6000 быстрее DGX Spark?

В замерах LMSYS в Ollama карта генерирует в 3,5–7 раз быстрее: gpt-oss-120b — 153 токена в секунду против 42, Llama 3.1 70B в 4 битах — 32 против 4,6. Причина — память: 1 792 ГБ/с против 273 ГБ/с. Цифры и источники — в таблице «Скорость генерации».

Влезут ли gpt-oss-120b и Llama 70B в 96 ГБ?

gpt-oss-120b с типовым контекстом занимает около 74 ГБ и помещается с запасом. Llama 3.3 70B в 8 битах тоже входит, но места под длинный контекст и параллельные запросы остаётся меньше, чем у Spark с его 108 ГБ.

Можно ли поставить RTX PRO 6000 в обычный компьютер?

Карта двухслотовая, с PCIe 5.0 x16 и одним разъёмом питания 12V-2x6 на 600 Вт; NVIDIA рекомендует блок питания от 1 000 Вт. Подойдёт рабочая станция или мощный настольный ПК — если его нет, он входит в расходы.

Что выгоднее: купить RTX PRO 6000 или арендовать Spark?

Одна карта стоит около 1 080 000 ₽ — это ≈21,6 мес. аренды Spark за 49 990 ₽, и это без компьютера и электричества. Если модель до 96 ГБ работает под постоянной нагрузкой и скорость приносит деньги, карта оправдана; для проекта, пилота или внутреннего сервиса дешевле аренда.

Другие сравнения

Все аналоги DGX Spark
52 490 ₽ с НДС
NVIDIA DGX Spark 128 ГБ · месяц