DGX Spark или Ryzen AI Max+ 395: что выбрать для LLM
NVIDIA DGX Spark 128 ГБ · AMD Ryzen AI Max+ 395 128 ГБ
У обоих устройств по 128 ГБ общей памяти, и читают они её почти с одной скоростью: 273 ГБ/с у DGX Spark и 256 ГБ/с у Ryzen AI Max+ 395. Решает программный стек: Spark работает с CUDA и отдаёт модели около 108 ГБ, а на Strix Halo видеоядру в Windows выделяется до 96 ГБ, и CUDA там нет. Нужны vLLM, TensorRT-LLM или контейнеры NGC — выбирайте Spark; хватает llama.cpp на обычном x86-компьютере — мини-ПК на AMD.
Характеристики
Открыть в сравнении NVIDIA DGX Spark 128 ГБ |  AMD Ryzen AI Max+ 395 128 ГБ | |
|---|---|---|
| Память, ГБ | 128 | 128 |
| Под модель, ГБ (оценка) | 108 | 96 |
| Пропускная способность, ГБ/с | 273 | 256 |
| FP4, TFLOPS | 1 000 | — |
| Мощность, Вт | 240 | 120 |
| Форм-фактор | Настольный | Настольный |
| Цена покупки | 699 000 ₽ | — |
| Аренда в месяц | 49 000 ₽ | — |
| ГБ на 1 000 ₽ аренды | 2,61 | — |
| Примечания | Модели 70B–120B помещаются целиком благодаря 128 ГБ единой памяти; Аренда — 49 000 ₽/мес; покупка — от 699 тыс. ₽ | Strix Halo: 16 ядер Zen 5 и графика Radeon 8060S (40 CU, RDNA 3.5) в одном корпусе с общей памятью LPDDR5x-8000 — 128 ГБ, 256 ГБ/с (спецификация AMD); В Windows видеоядру можно отдать до 96 ГБ (Variable Graphics Memory), в Linux — больше; CUDA нет, модели запускают через ROCm, Vulkan или llama.cpp; Чип — до 120 Вт (настраиваемый TDP 45–120 Вт); мини-ПК выпускают разные производители, цена зависит от сборки и в 2026 году менялась вслед за ценами на память |
Отличия подсвечены. «Под модель» — сколько памяти остаётся под веса и контекст за вычетом системы или лимита видеопамяти.
Скорость генерации
Замеры из открытых источников. В строке — только результаты, снятые одной методикой на обеих машинах: тот же движок, модель, квант и нагрузка. Основное число — скорость генерации, токенов в секунду; ниже — скорость обработки промпта; источник и дата — в каждой строке. Где под числом стоит «вход + выход», это другая метрика: суммарная пропускная способность при параллельных запросах, входные и выходные токены вместе, — сравнивать её можно только внутри строки.
Какие модели влезают
Расчёт под свою модельПри типовом кванте и контексте в DGX Spark помещаются 22 модели из 32, в мини-ПК с лимитом 96 ГБ — 22. Лишние гигабайты Spark уходят не на новую модель, а на запас: длинный контекст и параллельные запросы, где KV-кэш растёт с каждым пользователем. Заметнее разница при объединении: два Spark через ConnectX-7 на 200 Гбит/с вмещают 26 моделей, а мини-ПК на Strix Halo связывают по USB4 или Ethernet — канал между узлами у них заметно уже.
Типовой квант и контекст каждой модели, одно устройство: под модель 108 и 96 ГБ.
Списки моделей совпадают — разница в запасе памяти под контекст.
Когда выбрать DGX Spark
- Проект опирается на CUDA: vLLM, SGLang, TensorRT-LLM, NeMo, образы NGC — и код потом переедет на серверные GPU NVIDIA.
- Планируете дообучение LoRA или QLoRA на PyTorch: под CUDA этот путь проверен лучше, чем под ROCm на встроенной графике.
- Модель не умещается в одно устройство — узлы Spark собираются в кластер до 4 штук по 200 Гбит/с.
- Покупать не хочется: Spark берут в аренду на сутки за 3 900 ₽ и проверяют модель на своих данных.
Когда выбрать Ryzen AI Max+ 395
- Нужен x86-компьютер с Windows или обычным Linux, на котором LLM — одна из задач, а не единственная.
- Хватает llama.cpp, Ollama или LM Studio через Vulkan или ROCm, а специфичный для CUDA софт не нужен.
- Устройство будет стоять у вас, работать для одного пользователя, и модели укладываются в 96 ГБ вместе с контекстом.
Стоимость: аренда или покупка
Посчитать в калькулятореЦены на мини-ПК со Strix Halo в 2026 году заметно менялись вслед за памятью, поэтому цены покупки в таблице нет — её называет продавец конкретной сборки. Для сравнения: DGX Spark в покупке стоит от 699 000 ₽, это ≈14,3 мес. аренды по 49 000 ₽, и при перепродаже за 60 % и электричестве 1 500 ₽ в месяц покупка окупается против аренды через 6 месяцев. Если вопрос в том, справятся ли 128 ГБ с вашей задачей, дешевле всего проверить это сутками аренды Spark за 3 900 ₽.
Вопросы
Что быстрее для LLM: DGX Spark или Ryzen AI Max+ 395?
По пропускной способности памяти они почти равны — 273 и 256 ГБ/с, поэтому и одиночный запрос генерируется близко: в замере llama.cpp на gpt-oss-120b Spark быстрее на 7–19 % в зависимости от бэкенда AMD. Сильнее расходится обработка промпта — на CUDA Spark считает его в 2–3,7 раза быстрее, а в vLLM при 64 параллельных запросах суммарно, считая входные и выходные токены, обрабатывает их в 2–3 раза больше. Цифры и источники — в таблице «Скорость генерации».
Работает ли CUDA на Ryzen AI Max+ 395?
Нет, CUDA есть только у NVIDIA. На AMD модели запускают через ROCm или Vulkan: llama.cpp, Ollama и LM Studio это умеют. У PyTorch и vLLM есть сборки под ROCm, но встроенную графику Strix Halo поддерживают не все их версии, а TensorRT-LLM и образы NGC работают только на NVIDIA.
Сколько памяти Ryzen AI Max+ 395 отдаёт под модель?
Из 128 ГБ в Windows видеоядру можно выделить до 96 ГБ через Variable Graphics Memory, в Linux предел задаётся параметрами ядра и бывает выше. У DGX Spark память не делится на «системную» и «видео»: ОС видит около 121 ГиБ, свободными для задач бывает около 117 ГБ, а под веса и контекст мы закладываем около 108 ГБ — остальное оставляем системе и движку.
Можно ли объединить несколько устройств?
DGX Spark — да: порты ConnectX-7 на 200 Гбит/с, кластер до 4 узлов, его можно взять в аренду. Мини-ПК на Strix Halo объединяют через USB4 или Ethernet, например в RPC-режиме llama.cpp: схема рабочая, но обмен между узлами медленнее.
Другие сравнения
Все аналоги DGX Spark- DGX Spark или Mac Studio M3 Ultra: что выбрать для LLM128 и 256 ГБ · 273 и 819 ГБ/с
- DGX Spark и ASUS Ascent GX10: в чём разница128 и 128 ГБ · 273 и 273 ГБ/с
- DGX Spark или RTX 5090: что выбрать для LLM128 и 32 ГБ · 273 и 1 792 ГБ/с
- DGX Spark или H100: что выбрать для LLM128 и 80 ГБ · 273 и 3 350 ГБ/с
- DGX Spark 128 ГБ или 64 ГБ: какую версию выбрать128 и 64 ГБ · 273 и 273 ГБ/с