Кластер из Mac Studio: RDMA по Thunderbolt 5 и MLX
Mac Studio M5 Ultra и M5 Max, Mac mini M5 Pro — Thunderbolt 5 с RDMA в macOS 26.2 и новее
2 × Mac Studio M5 Ultra 256 ГБ — 512 ГБ памяти. Не меньше даёт кластер 4 × NVIDIA DGX Spark 128 ГБ, который можно арендовать без покупки: 512 ГБ, сеть 200 Гбит/с с RDMA.
Без НДС · кластер на ConnectX-7 собираем по заявке · Подробнее о сервере
Mac Studio объединяют в кластер кабелями Thunderbolt 5. С macOS 26.2 между Mac работает RDMA, и MLX делит модель по узлам с тензорным параллелизмом. Apple говорит о кластере из четырёх Mac Studio. По её замерам на M5 Ultra генерация ускоряется в 1,7–1,8 раза на двух узлах и в 2,6–3 раза на четырёх. Коммутаторов Thunderbolt нет, поэтому каждый Mac соединяют с каждым, и больше четырёх узлов на практике не собирают.
Mac мы не сдаём. Кластер с не меньшим объёмом памяти можно арендовать из DGX Spark — кнопка выше.
Как соединяются узлы
У Mac Studio с M5 Max и M5 Ultra до шести портов Thunderbolt 5; Apple указывает до 120 Гбит/с на порт. В реальном замере на M3 Ultra Jeff Geerling получил 50–60 Гбит/с. RDMA по Thunderbolt появился в macOS Tahoe 26.2 (декабрь 2025 года); по документации MLX задержка с ним на порядок ниже, чем у TCP.
Схема — «каждый с каждым»: по документации MLX бэкенду JACCL нужен прямой кабель между всеми парами Mac. Для четырёх узлов это шесть кабелей и по три порта на каждом Mac. Apple в своих замерах ставила по два кабеля на пару, чтобы удвоить канал. На WWDC26 Apple рассказала, что JACCL умеет и кольцо, которому нужно меньше портов, — в документации MLX этого пока нет.
Mac mini с M5 Pro — до 64 ГБ памяти на 307 ГБ/с, три порта Thunderbolt 5, версия на 64 ГБ и 1 ТБ стоит $3 199 (ноябрь 2026) — Apple тоже предлагает объединять в кластер через Thunderbolt 5. Трёх портов хватает, чтобы соединить «каждый с каждым» не больше четырёх Mac mini — 256 ГБ на всех.
- Связь между узлами
- Thunderbolt 5, до 120 Гбит/с на узел apple.com, 25 авг. 2026 г.
- RDMA
- есть developer.apple.com, 12 дек. 2025 г.
- 2 узла
- кабель напрямую — один или два кабеля Thunderbolt 5; Apple в замерах ставила два, чтобы удвоить канал machinelearning.apple.com, 15 окт. 2026 г.
- 3 узла
- каждый с каждым — каждый Mac с каждым: три кабеля, по два порта на Mac ml-explore.github.io, 5 нояб. 2026 г.
- 4 узла
- каждый с каждым — шесть кабелей, по три порта на Mac; коммутаторов Thunderbolt нет machinelearning.apple.com, 15 окт. 2026 г.
- Сколько узлов
- до 4 — по данным производителя или опубликованной сборки apple.com, 25 авг. 2026 г.
Что купить
- Кабель Thunderbolt 5 (USB‑C) — по одному на каждую пару Mac: один для двух узлов, три для трёх, шесть для четырёх; Apple в своих замерах ставила по два ml-explore.github.io, 5 нояб. 2026 г.
Цены — на месяц проверки, в долларах США у производителя; в России могут отличаться.
Софт и запуск по шагам
- 1
Обновите macOS на всех узлах
Нужна macOS Tahoe 26.2 или новее. exo требует одинаковую версию на всех Mac, вплоть до номера сборки.
- 2
Включите RDMA
По документации MLX — командой
rdma_ctl enableв Терминале режима восстановления с перезагрузкой; удалённо, даже через sudo, это не сделать. На WWDC26 Apple показала переключатель «Enable RDMA over Thunderbolt» в Системных настройках. Мост Thunderbolt Bridge отключите: в кольце из трёх и больше Mac он забивает сеть. - 3
Соедините Mac
Кабелем Thunderbolt 5 каждую пару узлов; два узла можно соединить двумя кабелями.
- 4
Запустите модель
MLX
mx.distributedс бэкендом JACCL (--backend jaccl, MLX 0.30.1 и новее) и mlx-lm — тензорный или конвейерный параллелизм. Проще всего приложение exo: оно само находит узлы и делит модель с RDMA. llama.cpp RPC тоже умеет RDMA по Thunderbolt на macOS 26.2 и новее.mlx-lmApple ML Research: MLX + RDMA on Mac Studioexollama.cpp RPC
Какие модели влезают в кластер
Расчёт под свою модельПод модель на одном Mac считаем около ¾ памяти: столько macOS по умолчанию отдаёт видеоядру, лимит поднимается системной настройкой. M3 Ultra снят с продажи и в таблицу не входит.
Типовой квант и контекст каждой модели, формула «Вместимости моделей». Кластер добавляет память, но не ускоряет одиночный запрос пропорционально числу узлов.
Скорость кластера: опубликованные замеры
Замеры Apple (MLX, Mac Studio M5 Ultra, октябрь 2026 года) с базой на одном Mac. Длину контекста Apple в таблице не подписывает; в статье пример команды — промпт 8 192 токена и 128 на выходе. Jeff Geerling на четырёх M3 Ultra в exo 1.0 получил 32 токена в секунду на Qwen3 235B и около 30 на Kimi K2 Thinking, но квант не указал, поэтому этих чисел в таблице нет.
Основное число — генерация, токенов в секунду на один запрос; ниже — обработка промпта. Строки сравнимы только внутри одного источника.
Сравнение с кластерами других платформ
Модели — из каталога сайта при типовом кванте и контексте. Цены покупки — на месяц проверки, в валюте источника.
У кластера Mac Studio больше памяти на узел (до 512 ГБ у M5 Ultra) и она быстрее: 1,2 ТБ/с против 273 ГБ/с у Spark. Зато сеть — Thunderbolt 5 (до 120 Гбит/с по Apple, 50–60 в замере) против 200 Гбит/с у ConnectX-7, и не больше четырёх узлов против восьми. Одной методикой кластеры Mac и Spark не сравнивали: Apple и NVIDIA мерили одну модель, Qwen 3.8 27B, на 1–4 узлах, но Apple — в BF16, а NVIDIA — в NVFP4, поэтому числа несопоставимы.
Вопросы
Сколько Mac Studio можно объединить в кластер?
Apple говорит о кластере из четырёх Mac Studio, и все опубликованные сборки — не больше четырёх узлов. Коммутаторов Thunderbolt нет, Mac соединяют каждый с каждым, поэтому число узлов ограничено портами: четырём Mac нужно по три порта Thunderbolt 5.
Что такое RDMA по Thunderbolt 5?
Прямой доступ к памяти соседнего Mac в обход сетевого стека. Он появился в macOS Tahoe 26.2. По документации MLX задержка с ним на порядок ниже, чем у TCP, — поэтому тензорный параллелизм между Mac и стал работать.
Насколько кластер ускоряет Mac Studio?
По замерам Apple на M5 Ultra (MLX, один запрос) генерация на двух Mac быстрее в 1,7–1,8 раза, на четырёх — в 2,6–3 раза. Плотные модели, по словам Apple, масштабируются лучше MoE.
Кластер Mac Studio или кластер DGX Spark?
У Mac больше и быстрее память на узел. У Spark — сеть 200 Гбит/с с RDMA, официально до восьми узлов, CUDA и стек NVIDIA (vLLM, TensorRT-LLM, NCCL). Ещё различается цена узла: Mac Studio M5 Ultra на 256 ГБ стоит $10 799 (ноябрь 2026), а DGX Spark можно арендовать за 49 990 ₽ в месяц.
Можно ли арендовать кластер Mac?
Нет, мы сдаём серверы на NVIDIA GB10. Кластер DGX Spark с не меньшим объёмом памяти можно запросить кнопкой вверху страницы; узел NVIDIA DGX Spark 128 ГБ стоит 49 990 ₽ в месяц без НДС.
Ещё по теме
Все кластеры- Кластер DGX Spark: как объединить два и больше узлов
- Кластер на Ryzen AI Max+ 395: как объединить мини-ПК Strix Halo
- DGX Spark vs Mac Studio M3 Ultra: что выбрать для LLM
- DGX Spark vs Mac Studio M5 Max: что выбрать для LLM
- DGX Spark vs Mac Studio M5 Ultra: что выбрать для LLM
- Вместимость моделей: расчёт под свою модель
Источники
- Apple introduces new Mac Studio with M5 Max and M5 Ultra (Apple Newsroom) — apple.com, 25 авг. 2026 г.
- macOS Tahoe 26.2 Release Notes (Apple) — developer.apple.com, 12 дек. 2025 г.
- Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio (Apple Machine Learning Research) — machinelearning.apple.com, 15 окт. 2026 г.
- MLX — Distributed Communication — ml-explore.github.io, 5 нояб. 2026 г.
- WWDC26 session 233 — distributed inference with MLX (Apple Developer) — developer.apple.com, июнь 2026 г.
- 1.5 TB of VRAM on Mac Studio — RDMA over Thunderbolt 5 (Jeff Geerling) — jeffgeerling.com, 18 дек. 2025 г.
- exo-explore/exo — README — github.com/exo-explore/exo, 5 нояб. 2026 г.
- llama.cpp — RPC (tools/rpc/README.md) — github.com/ggml-org/llama.cpp, 5 нояб. 2026 г.
- Apple unveils a more powerful Mac mini featuring the all-new M6 and M5 Pro (Apple Newsroom) — apple.com, 25 авг. 2026 г.
- Apple — Buy Mac mini (M5 Pro, 64 GB, 1 TB) — apple.com, 5 нояб. 2026 г.