Кластер на Ryzen AI Max+ 395: как объединить мини-ПК Strix Halo

Framework Desktop, Minisforum MS-S1 Max, GMKtec EVO-X2, Beelink GTR9 Pro и другие мини-ПК на Strix Halo

2 × AMD Ryzen AI Max+ 395 128 ГБ — 256 ГБ памяти. Не меньше даёт кластер 2 × NVIDIA DGX Spark 128 ГБ, который можно арендовать без покупки: 256 ГБ, сеть 200 Гбит/с с RDMA.

Запросить кластер 2 × NVIDIA DGX Spark 128 ГБ — 49 990 ₽/мес за узел

Без НДС · кластер на ConnectX-7 собираем по заявке · Подробнее о сервере

Мини-ПК на AMD Ryzen AI Max+ 395 (Strix Halo) — Framework Desktop, Minisforum MS-S1 Max, GMKtec EVO-X2, Beelink GTR9 Pro, HP Z2 Mini G1a — несут по 128 ГБ общей памяти на 256 ГБ/с, почти как DGX Spark. Быстрой сети для кластера в них нет: узлы соединяют обычным Ethernet на 2,5–10 Гбит/с или кабелем USB4, а модель делят через llama.cpp RPC. Так AMD запускала Kimi K2.5 на четырёх Framework Desktop и получила 9,45 токена в секунду при генерации.

Мини-ПК на AMD мы не сдаём. Кластер с не меньшим объёмом памяти можно арендовать из DGX Spark — с сетью 200 Гбит/с и RDMA.

Как соединяются узлы

Порты у производителей разные. У Framework Desktop — 5GbE и два USB4. У Minisforum MS-S1 Max — два порта 10GbE, два USB4 v2 на 80 Гбит/с и слот PCIe x4 под сетевую карту. У GMKtec EVO-X2 — один порт 2.5GbE и USB4, у Beelink GTR9 Pro — два порта 10GbE.

USB4 как сетевой интерфейс (thunderbolt-net в Linux) на практике даёт около 10 Гбит/с на линк вместо 40: так у Jeff Geerling и в замерах на форуме Level1Techs. Зато задержка у него ниже, чем у Ethernet через коммутатор. Штатного RDMA нет. Эксперимент с Soft-RoCE поверх USB4 дал 4,3 Гбит/с, а llama.cpp умеет RDMA только с картами RoCE, например Mellanox ConnectX, — такую можно поставить в слот PCIe, если он есть.

llama.cpp RPC почти не нагружает канал и упирается в задержку: AMD собирала свой кластер на 5GbE. Поэтому кластер Strix Halo наращивает объём памяти, а не скорость.

Связь между узлами: Ethernet 5/10 GbE, USB4, до 10 Гбит/с на узел jeffgeerling.com, 7 авг. 2025 г.
RDMA: штатно нет
2 узла: кабель напрямую — кабель USB4 или Ethernet напрямую, без коммутатора forum.level1techs.com, 29 янв. 2026 г.
4 узла: через коммутатор — коммутатор 5GbE: так соединены четыре Framework Desktop в руководстве AMD и у Jeff Geerling amd.com, 25 февр. 2026 г.
Сколько узлов: до 4 — по данным производителя или опубликованной сборки amd.com, 25 февр. 2026 г.

Что купить

Framework Desktop Mainboard (Ryzen AI Max+ 395, 128 GB) — плата без корпуса, под монтаж в стойку 10″ · 3 149 $ (ноябрь 2026 г.) frame.work, 5 нояб. 2026 г.
DeskPi RackMate 10" 2U Mini-ITX Shelf — полка под одну плату Mini-ITX; Framework продаёт её в своём магазине, инструкция по монтажу — на iFixit · 35 $ (ноябрь 2026 г.) frame.work, 5 нояб. 2026 г.
Коммутатор Ethernet 5/10 GbE — по порту на узел; модель и цену в руководствах не называют amd.com, 25 февр. 2026 г.

Цены — на месяц проверки, в долларах США у производителя; в России могут отличаться.

Софт и запуск по шагам

1
Подготовьте узлы
Linux (в руководстве AMD — Ubuntu 24.04.3) и ROCm 7.0.2 или готовые сборки llama.cpp под ROCm или Vulkan. Отдайте видеоядру больше памяти: AMD поднимает лимит до 120 ГБ на узел параметрами ядра ttm.pages_limit и amdgpu.gttsize.
AMD: 1T-parameter LLM on a Ryzen AI Max+ cluster kyuz0/amd-strix-halo-toolboxes
2
Соедините узлы
Ethernet через коммутатор или USB4 напрямую. Задайте статические адреса и проверьте скорость iperf3. Платы Framework можно поставить в стойку 10″.
Framework: rack mount guide
3
Запустите llama.cpp RPC
На каждом воркере — rpc-server из llama.cpp, на главном узле — llama-server с ключом --rpc и адресами воркеров. Локальный кэш тензоров (-c) ускоряет повторную загрузку модели. Разработчики llama.cpp предупреждают, что RPC экспериментальный и небезопасный, поэтому запускайте его только в закрытой сети.
llama.cpp RPC
4
Другие пути
vLLM на ROCm с тензорным параллелизмом через Ray поверх USB4 у энтузиастов запускается, но опубликованных замеров скорости нет. exo на Linux работает только на CPU и для Strix Halo не подходит.
exo

Какие модели влезают в кластер

Расчёт под свою модель

Под модель на одном узле считаем 96 ГБ — столько видеоядру отдаёт Windows (Variable Graphics Memory). В Linux можно больше: AMD в руководстве ставит 120 ГБ на узел, так что расчёт по нашей формуле — консервативный.

Кластер	Память	Моделей каталога	Самые большие
2 × AMD Ryzen AI Max+ 395 128 ГБLlama Nemotron Ultra 253B ≈ 155 ГБ, Qwen3 235B-A22B ≈ 138 ГБ, Command A 111B ≈ 137 ГБ	256 ГБ~192 ГБ под модель	25 из 32	Llama Nemotron Ultra 253B ≈ 155 ГБ, Qwen3 235B-A22B ≈ 138 ГБ, Command A 111B ≈ 137 ГБ
3 × AMD Ryzen AI Max+ 395 128 ГБLlama 3.1 405B ≈ 237 ГБ, Llama 4 Maverick 400B-A17B ≈ 236 ГБ, GLM-4.5 355B-A32B ≈ 214 ГБ	384 ГБ~288 ГБ под модель	28 из 32	Llama 3.1 405B ≈ 237 ГБ, Llama 4 Maverick 400B-A17B ≈ 236 ГБ, GLM-4.5 355B-A32B ≈ 214 ГБ
4 × AMD Ryzen AI Max+ 395 128 ГБQwen3-Coder 480B-A35B ≈ 292 ГБ, Llama 3.1 405B ≈ 237 ГБ, Llama 4 Maverick 400B-A17B ≈ 236 ГБ	512 ГБ~384 ГБ под модель	29 из 32	Qwen3-Coder 480B-A35B ≈ 292 ГБ, Llama 3.1 405B ≈ 237 ГБ, Llama 4 Maverick 400B-A17B ≈ 236 ГБ

Типовой квант и контекст каждой модели, формула «Вместимости моделей». Кластер добавляет память, но не ускоряет одиночный запрос пропорционально числу узлов.

Скорость кластера: опубликованные замеры

Замеры кластеров Strix Halo в llama.cpp RPC, источник и дата — в каждой строке. С кластером DGX Spark их сравнивать нельзя: одной методикой кластеры не мерили. По одному узлу есть сравнение одной методикой — llama-bench, gpt-oss-120b, один автор: Spark генерирует 56 токенов в секунду и обрабатывает промпт со скоростью 1 939 токенов в секунду, Strix Halo на ROCm — 47 и 1 000.

Модель	Узлы и связь	Генерация, ток/с	Источник
Kimi K2.5UD-Q2_K_XL · llama.cpp RPC (ROCm 7.0.2)amd.com, 25 февр. 2026 г.	4 × Framework Desktop5GbEtg 128; pp -b/-ub 4096, FA	9,5промпт 101	amd.com, 25 февр. 2026 г.
DeepSeek 671B (llama-bench: deepseek2 671B)Q2_K · llama.cpp RPC (Vulkan)jeffgeerling.com, 7 авг. 2025 г.	4 × Framework Desktop Mainboard5GbEpp512 / tg128	8,3промпт 26,9	jeffgeerling.com, 7 авг. 2025 г.
Qwen3.5-397B-A17BUD-Q4_K_XL · llama.cpp RPC (ROCm)github.com/visorcraft/strix-halo-llm-perf, 20 февр. 2026 г.	2 × GMKtec EVO-X2 + Beelink GTR9 ProUSB4pp512 / tg128	11,8промпт 148	github.com/visorcraft/strix-halo-llm-perf, 20 февр. 2026 г.
MiniMax-M2.5-REAP-139BQ8_0 · llama.cpp RPC (ROCm)github.com/visorcraft/strix-halo-llm-perf, 20 февр. 2026 г.	2 × GMKtec EVO-X2 + Beelink GTR9 ProUSB4pp512 / tg128	15,4промпт 332	github.com/visorcraft/strix-halo-llm-perf, 20 февр. 2026 г.

Основное число — генерация, токенов в секунду на один запрос; ниже — обработка промпта. Строки сравнимы только внутри одного источника.

Сравнение с кластерами других платформ

Узел	Память на узел	Связь узлов	Моделей в 2 узлах	Цена узла
NVIDIA DGX Spark 128 ГБдо 8 узлов · в аренду — до 4	128 ГБ, ~108 под модель273 ГБ/с	ConnectX-7, QSFP, 200 Гбит/сс RDMA docs.nvidia.com, октябрь 2026 г.	26 из 3232 в 8 узлах	49 990 ₽/месаренда у нас, без НДС
AMD Ryzen AI Max+ 395 128 ГБдо 4 узлов	128 ГБ, ~96 под модель256 ГБ/с	Ethernet 5/10 GbE, USB4, 10 Гбит/сбез RDMA jeffgeerling.com, 7 авг. 2025 г.	25 из 3229 в 4 узлах	3 449 $ (ноябрь 2026 г.)покупка, frame.work, 5 нояб. 2026 г.
Mac Studio M5 Ultra 256 ГБдо 4 узлов	256 ГБ, ~192 под модель1 200 ГБ/с	Thunderbolt 5, 120 Гбит/сс RDMA apple.com, 25 авг. 2026 г.	29 из 3232 в 4 узлах	10 799 $ (ноябрь 2026 г.)покупка, apple.com, 5 нояб. 2026 г.
Mac Studio M5 Max 128 ГБдо 4 узлов	128 ГБ, ~96 под модель614 ГБ/с	Thunderbolt 5, 120 Гбит/сс RDMA apple.com, 25 авг. 2026 г.	25 из 3229 в 4 узлах	5 399 $ (ноябрь 2026 г.)покупка, apple.com, 5 нояб. 2026 г.

Модели — из каталога сайта при типовом кванте и контексте. Цены покупки — на месяц проверки, в валюте источника.

Узел Strix Halo дешевле в покупке, но сеть в кластере в 20 раз медленнее, чем 200 Гбит/с у ConnectX-7 в Spark, и без RDMA. Поэтому каждый новый узел добавляет память, а скорость генерации почти не растёт или падает: у Jeff Geerling gpt-oss-120b на одном Framework давала 33 токена в секунду, а на четырёх через RPC — около 24. Замеров кластеров Strix Halo и DGX Spark одной методикой нет.

Запросить кластер 2 × NVIDIA DGX Spark 128 ГБ — 49 990 ₽/мес за узел

Вопросы

Можно ли объединить несколько мини-ПК на Ryzen AI Max+ 395?

Да, через llama.cpp RPC по Ethernet или USB4. AMD опубликовала руководство, как запустить модель на триллион параметров (Kimi K2.5) на четырёх Framework Desktop: генерация — 9,45 токена в секунду. Готового кластерного решения у производителей нет, всё собирается вручную.

Какая сеть нужна для кластера Strix Halo?

Хватает встроенной: 5GbE у Framework Desktop, 10GbE у Minisforum MS-S1 Max и Beelink GTR9 Pro или кабель USB4 напрямую — на практике около 10 Гбит/с. llama.cpp RPC упирается в задержку, а не в ширину канала.

Продаёт ли Framework стоечный кластер?

Нет. Готового кластера или комплекта для стойки в продаже нет. В магазине Framework есть плата Desktop Mainboard без корпуса — $3 149 за версию на 128 ГБ (ноябрь 2026) — и полка DeskPi RackMate для стойки 10″ за $35. Инструкция по монтажу — на iFixit.

Что быстрее: кластер Strix Halo или кластер DGX Spark?

Прямых замеров одной методикой нет. На одном узле Spark быстрее: на gpt-oss-120b в llama-bench у одного автора 56 против 47 токенов в секунду при генерации и почти вдвое быстрее на промпте. В кластере у Spark сеть 200 Гбит/с с RDMA против 5–10 Гбит/с без RDMA и vLLM с тензорным параллелизмом, который на Strix Halo пока экспериментальный.

Можно ли арендовать кластер Strix Halo?

Нет, мы сдаём серверы на NVIDIA GB10. Два Strix Halo и два DGX Spark дают одинаковые 256 ГБ памяти. Узел NVIDIA DGX Spark 128 ГБ стоит 49 990 ₽ в месяц без НДС, кластер можно запросить кнопкой вверху страницы.

Ещё по теме

Все кластеры

Источники

How to Run a One Trillion-Parameter LLM Locally: An AMD Ryzen AI Max+ Cluster Guide (AMD) — amd.com, 25 февр. 2026 г.
AMD — FAQs: Variable Graphics Memory, VRAM, AI model sizes — amd.com, 29 июл. 2025 г.
I clustered four Framework Mainboards to test huge LLMs (Jeff Geerling) — jeffgeerling.com, 7 авг. 2025 г.
Benchmarking USB4 performance on Strix Halo (Level1Techs Forums) — forum.level1techs.com, 29 янв. 2026 г.
Ryzen AI Halo USB4 clustering with RDMA — testing notes (Level1Techs Forums) — forum.level1techs.com, 25 июл. 2026 г.
llama.cpp — RPC (tools/rpc/README.md) — github.com/ggml-org/llama.cpp, 5 нояб. 2026 г.
Framework Desktop — tech specs — frame.work, 5 нояб. 2026 г.
Minisforum MS-S1 MAX — store.minisforum.com, 5 нояб. 2026 г.
How to Rack Mount your Framework Desktop (iFixit, Framework guide) — ifixit.com, 24 февр. 2026 г.
DGX Spark vs AMD Strix Halo (eugr, NVIDIA Developer Forums) — forums.developer.nvidia.com, 18 февр. 2026 г.
GMKtec EVO-X2 (Ryzen AI Max+ 395) — gmktec.com, 5 нояб. 2026 г.
Beelink GTR9 Pro (Ryzen AI Max+ 395) — bee-link.com, 5 нояб. 2026 г.
exo-explore/exo — README — github.com/exo-explore/exo, 5 нояб. 2026 г.