Вместимость моделей
Подберите модель, квантование и контекст — получите объём памяти и число узлов.
Чтобы понять, какая LLM поместится в DGX Spark, сложите веса — число параметров × байт на параметр в выбранном квантовании с запасом на рантайм — и KV-кэш под нужную длину контекста. Модели доступно около 108 ГБ на узел: gpt-oss-120b в MXFP4 с контекстом 32K занимает примерно 74 ГБ и укладывается в один сервер, а DeepSeek-R1 671B влезает только в кластер и только при сильном квантовании.
Память
1 узел73,7 ГБ / 108 ГБ1 узел
Веса 58,5 ГБ KV-кэш 6,4 ГБ Накладные 8,8 ГБ
- Веса
- 58,5 ГБ
- KV-кэш
- 6,4 ГБ
- Накладные
- 8,8 ГБ
- Всего
- 73,7 ГБ
Все модели — настройки по умолчанию
Квантование и контекст — типовые для модели. Название ведёт на страницу модели, кнопка справа подставляет её в расчёт выше.
- Квант
- mxfp4
- Контекст
- 32K
- Нужно ГБ
- 73,7 ГБ
- Узлов
- 1 узел
- Квант
- mxfp4
- Контекст
- 32K
- Нужно ГБ
- 14,3 ГБ
- Узлов
- 1 узел
- Квант
- int4
- Контекст
- 8K
- Нужно ГБ
- 236,9 ГБ
- Узлов
- 3 узла
- Квант
- int4
- Контекст
- 32K
- Нужно ГБ
- 235,8 ГБ
- Узлов
- 3 узла
- Квант
- int4
- Контекст
- 32K
- Нужно ГБ
- 68,4 ГБ
- Узлов
- 1 узел
- Квант
- fp8
- Контекст
- 8K
- Нужно ГБ
- 83,1 ГБ
- Узлов
- 1 узел
- Квант
- fp16
- Контекст
- 32K
- Нужно ГБ
- 22,6 ГБ
- Узлов
- 1 узел
- Квант
- int4
- Контекст
- 64K
- Нужно ГБ
- 292 ГБ
- Узлов
- 3 узла
- Квант
- int4
- Контекст
- 8K
- Нужно ГБ
- 137,5 ГБ
- Узлов
- 2 узла
- Квант
- fp8
- Контекст
- 32K
- Нужно ГБ
- 45,4 ГБ
- Узлов
- 1 узел
- Квант
- fp8
- Контекст
- 8K
- Нужно ГБ
- 38,8 ГБ
- Узлов
- 1 узел
- Квант
- fp8
- Контекст
- 8K
- Нужно ГБ
- 35,5 ГБ
- Узлов
- 1 узел
- Квант
- fp16
- Контекст
- 32K
- Нужно ГБ
- 39,2 ГБ
- Узлов
- 1 узел
- Квант
- fp16
- Контекст
- 32K
- Нужно ГБ
- 23,3 ГБ
- Узлов
- 1 узел
- Квант
- int4
- Контекст
- 8K
- Нужно ГБ
- 389 ГБ
- Узлов
- 4 узла
- Квант
- int4
- Контекст
- 8K
- Нужно ГБ
- 389 ГБ
- Узлов
- 4 узла
- Квант
- fp8
- Контекст
- 8K
- Нужно ГБ
- 83,1 ГБ
- Узлов
- 1 узел
- Квант
- int4
- Контекст
- 32K
- Нужно ГБ
- 584,6 ГБ
- Узлов
- Больше 4 узлов
- Квант
- int4
- Контекст
- 32K
- Нужно ГБ
- 213,7 ГБ
- Узлов
- 2 узла
- Квант
- int4
- Контекст
- 32K
- Нужно ГБ
- 67,4 ГБ
- Узлов
- 1 узел
- Квант
- int4
- Контекст
- 32K
- Нужно ГБ
- 91,6 ГБ
- Узлов
- 1 узел
- Квант
- int4
- Контекст
- 8K
- Нужно ГБ
- 73,4 ГБ
- Узлов
- 1 узел
- Квант
- fp16
- Контекст
- 32K
- Нужно ГБ
- 60,3 ГБ
- Узлов
- 1 узел
- Квант
- int4
- Контекст
- 32K
- Нужно ГБ
- 155,1 ГБ
- Узлов
- 2 узла
- Квант
- fp8
- Контекст
- 32K
- Нужно ГБ
- 65,9 ГБ
- Узлов
- 1 узел
- Квант
- fp8
- Контекст
- 32K
- Нужно ГБ
- 137,3 ГБ
- Узлов
- 2 узла
- Квант
- fp8
- Контекст
- 8K
- Нужно ГБ
- 32,7 ГБ
- Узлов
- 1 узел
- Квант
- fp16
- Контекст
- 32K
- Нужно ГБ
- 32,4 ГБ
- Узлов
- 1 узел
- Квант
- fp16
- Контекст
- 16K
- Нужно ГБ
- 37 ГБ
- Узлов
- 1 узел
gpt-oss-120b
Llama 3.1 405B
Qwen3-Coder 480B-A35B
DeepSeek-V3 671B
Kimi K2 1T-A32B
GLM-4.5 355B-A32B
Mixtral 8x22B
Llama Nemotron Ultra 253B
Command A 111B
Gemma 3 27B
Phi-4 14B* Meta Platforms Inc. признана экстремистской организацией, её деятельность на территории РФ запрещена
1 узел
gpt-oss-120b · 73,7 ГБ