SparkHost

DGX Spark vs Jetson AGX Thor: в чём разница для LLM

NVIDIA DGX Spark 128 ГБ · NVIDIA Jetson AGX Thor 128 ГБ

Память одна — 128 ГБ на 273 ГБ/с; LLM-серверу удобнее Spark с DGX OS и ConnectX-7, Thor — для роботов и машин, где модель работает на борту.

Арендовать NVIDIA DGX Spark 128 ГБ — 49 990 ₽/мес

Без НДС · 1 узел на месяц, сразу в корзину · Подробнее о сервере

Jetson AGX Thor и DGX Spark — две машины NVIDIA на Blackwell с одинаковой памятью: 128 ГБ LPDDR5X на 273 ГБ/с. Задачи у них разные. Thor — модуль для роботов и автономных машин: до 130 Вт, ПО JetPack, сеть 4 × 25 GbE. Spark — настольный ИИ-компьютер: DGX OS с контейнерами NGC, ConnectX-7 на 200 Гбит/с для кластера и GPU с 6 144 ядрами CUDA против 2 560 у Thor. Под LLM-сервер проще взять Spark, под модель на борту робота — Thor.

Характеристики

Открыть в сравнении
NVIDIA DGX Spark 128 ГБNVIDIA Jetson AGX Thor 128 ГБ
Память, ГБ128128
Под модель, ГБ (оценка)108108
Пропускная способность, ГБ/с273273
Накопитель, ТБ41
FP4, TFLOPS1 0002 070
Мощность, Вт240130
Форм-факторНастольныйНастольный
Цена покупки699 000 ₽—
Аренда в месяц49 990 ₽—
ГБ на 1 000 ₽ аренды2,56—
ПримечанияМодели 70B–120B помещаются целиком благодаря 128 ГБ единой памяти; Аренда — 49 990 ₽/мес; покупка — от 699 тыс. ₽Память как у Spark — 128 ГБ LPDDR5X на 273 ГБ/с; GPU Blackwell на 2 560 ядер, 2 070 TFLOPS в FP4 с разреженностью, 40–130 Вт (спецификация NVIDIA); Платформа для роботов и автономных машин: ПО — JetPack, сеть — QSFP28 на 4 × 25 GbE, диск 1 ТБ; Комплект разработчика: $3 499 на старте в августе 2025 года, $5 499 с июля 2026; «Под модель» — наша оценка по аналогии со Spark

Отличия подсвечены. «Под модель» — сколько памяти остаётся под веса и контекст за вычетом системы или лимита видеопамяти.

Какие модели влезают

Расчёт под свою модель

Раз память одна и та же, совпадает и список: при типовых настройках в Spark помещаются 22 модели из 32, в Thor — 22; в обоих под модель мы закладываем около 108 ГБ, остальное оставляя системе. Различается то, что вокруг памяти. Модели крупнее одного узла на Spark запускают на двух узлах через ConnectX-7 — так вмещается 26 моделей, — а сеть Thor, QSFP28 на 4 × 25 Гбит/с, вдвое уже.

22 из 32
моделей каталога в DGX Spark
22 из 32
моделей каталога в Jetson AGX Thor

Типовой квант и контекст каждой модели, одно устройство: под модель 108 и 108 ГБ.

Списки моделей совпадают — разница в запасе памяти под контекст.

Когда выбрать DGX Spark

  • Нужен LLM-сервер для команды: vLLM, Ollama или TensorRT-LLM из контейнеров NGC по инструкциям NVIDIA для DGX Spark.
  • Модель не помещается в один узел — Spark собирается в кластер до 4 узлов через ConnectX-7.
  • Нужен диск побольше: у DGX Spark Founders Edition 4 ТБ, у комплекта Thor — 1 ТБ.
  • Сервер нужен на время: аренда — 3 990 ₽ в сутки или 49 990 ₽ в месяц.

Когда выбрать Jetson AGX Thor

  • Модель будет работать на борту робота, дрона или машины, где важны размер и питание 40–130 Вт.
  • Нужен стек робототехники NVIDIA: JetPack, Isaac, Holoscan.
  • Прототип на комплекте разработчика потом переедет на серийный модуль Jetson T5000.

Стоимость: аренда или покупка

Посчитать в калькуляторе
49 990 ₽
Аренда DGX Spark в месяц
уточняйте у продавца
Покупка Jetson AGX Thor
6 месяцев
Окупаемость покупки DGX Spark
перепродажа 60 %, электричество 1 500 ₽/мес

Комплект разработчика Jetson AGX Thor на старте продаж в августе 2025 года стоил $3 499, с июля 2026 года NVIDIA продаёт его за $5 499; российской розничной цены мы не нашли, поэтому в таблице её нет. Spark в покупке — от 699 000 ₽, это ≈14 мес. аренды по 49 990 ₽; при перепродаже за 60 % и электричестве 1 500 ₽ в месяц покупка окупается против аренды через 6 месяцев. Thor мы в аренду не сдаём: его ставят в робота, а не в стойку дата-центра.

Вопросы

Что быстрее для LLM: DGX Spark или Jetson AGX Thor?

Генерацию токенов ограничивает память, а она у обоих одинаковая — 273 ГБ/с, поэтому большой разницы на одиночных запросах ждать не из-за чего. На бумаге расходятся вычисления: NVIDIA указывает для Thor 2 070 TFLOPS в FP4, для Spark — 1 000 (оба числа с разреженностью), зато ядер CUDA у Spark больше — 6 144 против 2 560. Замеров обеих машин одной методикой в открытых источниках мы не нашли, поэтому скорость не приводим.

Можно ли сделать из Jetson AGX Thor сервер для LLM?

Можно: на нём работают CUDA, контейнеры и движки вроде vLLM и llama.cpp, а 128 ГБ вмещают те же модели, что и Spark. Но это платформа для встраиваемых систем: ПО — JetPack, а не DGX OS, сеть — 4 × 25 GbE вместо ConnectX-7, диск — 1 ТБ. Для сервера в стойке и кластера из нескольких узлов удобнее Spark.

Одинаковый ли софт на Spark и Thor?

Нет. На Spark — DGX OS на базе Ubuntu с CUDA, драйверами, контейнерами NGC и плейбуками NVIDIA для DGX Spark. На Thor — JetPack с Jetson Linux и стеком робототехники. Код на CUDA и PyTorch переносится между ними, но образы контейнеров берут под каждую платформу свои.

Другие сравнения

Все аналоги DGX Spark
52 490 ₽ с НДС
NVIDIA DGX Spark 128 ГБ · месяц
СравнитьАрендовать DGX Spark