Je, DGX Spark ina kasi zaidi kuliko M4 Max kwa LLM?

M4 Max husoma kumbukumbu takriban 100% haraka zaidi kuliko DGX Spark (546 dhidi ya 273 GB/s), hivyo huandika takriban 100% haraka zaidi na modeli yoyote inayotosha zote mbili. Katika jaribio lililopimwa la llama.cpp, DGX Spark husoma kidokezo takriban mara 3.5 kwa kasi zaidi (tokeni 3,062 dhidi ya 886 kwa sekunde). Kusoma kidokezo hutegemea nguvu ya kukokotoa ya GPU, si kipimo data cha kumbukumbu, na ndicho huamua muda wa kusubiri neno la kwanza kwa hati ndefu au msimbo mkubwa.

Ipi inaweza kuendesha modeli kubwa zaidi, M4 Max au DGX Spark?

Zote mbili zina takriban GB 96 kwa modeli. Modeli wazi maarufu 47 kati ya 73 zinaendeshwa vizuri kwenye M4 Max, 39 kwenye DGX Spark.

Je, MLX Node inaendeshwa kwenye DGX Spark?

Hapana. MLX Node na MLX Harness zinaendeshwa kwenye Mac zenye Apple Silicon pekee, kwa mfumo wa MLX wa Apple.

M4 Max dhidi ya DGX Spark kwa LLM: kumbukumbu, kasi, ipi ununue

Kando kwa kando

	M4 Max	DGX Spark
Ni nini	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)	Kompyuta ndogo kamili
Ukubwa wa kumbukumbu	36, 48, 64, 128 GB	128 GB
Bandwidth ya kumbukumbu	410–546 GB/s	273 GB/s
Kwa modeli, upeo	takriban GB 96	takriban GB 96
Modeli zinazoenda vizuri	47 kati ya 73	39 kati ya 73
Iliyopimwa: kuandika	83 tok/s	57 tok/s
Iliyopimwa: kusoma kidokezo	886 tok/s	3,062 tok/s

Safu zilizopimwa: matokeo ya kasi zaidi ya kila mashine katika vipimo vya wazi vya llama.cpp kwa Llama 2 7B Q4_0, ikiandika tokeni 128 (tg128) na kusoma kidokezo cha tokeni 512 (pp512), kwa tokeni kwa sekunde. Mac ilitumia Metal, DGX Spark ilitumia CUDA. Matokeo ya Apple Silicon · Matokeo ya DGX Spark Kwa modeli tunahesabu takriban 75% ya kumbukumbu kwa zote mbili, kiwango cha kawaida cha macOS, kwa sababu DGX Spark pia hushiriki kumbukumbu moja kati ya CPU na GPU. Kiasi ambacho GPU yake inaweza kutumia hasa hutegemea mfumo wa uendeshaji na mipangilio.

Kila moja inashinda wapi

Kasi ya kuandika. M4 Max husoma kumbukumbu takriban 100% haraka zaidi kuliko DGX Spark (546 dhidi ya 273 GB/s), hivyo huandika takriban 100% haraka zaidi na modeli yoyote inayotosha zote mbili.
Ukubwa wa modeli. Zote mbili zina takriban GB 96 kwa modeli. Modeli wazi maarufu 47 kati ya 73 zinaendeshwa vizuri kwenye M4 Max, 39 kwenye DGX Spark.
Kusoma vidokezo virefu. Katika jaribio lililopimwa la llama.cpp, DGX Spark husoma kidokezo takriban mara 3.5 kwa kasi zaidi (tokeni 3,062 dhidi ya 886 kwa sekunde). Kusoma kidokezo hutegemea nguvu ya kukokotoa ya GPU, si kipimo data cha kumbukumbu, na ndicho huamua muda wa kusubiri neno la kwanza kwa hati ndefu au msimbo mkubwa.
Programu. DGX Spark hutumia CUDA ya NVIDIA, ambayo programu nyingi za AI huiunga mkono kwanza, ikiwemo msimbo wa mafunzo na zana nyingi za picha na video. Kwenye Mac unaendesha modeli kwa MLX, backend ya Metal ya llama.cpp au backend ya MPS ya PyTorch badala yake.
Kinachoizunguka. Zote mbili ni kompyuta kamili zinazohifadhi modeli katika kumbukumbu moja inayoshirikiwa na CPU na GPU.
Mac. Pia ni kompyuta ya kila siku, na huendesha MLX Harness na MLX Node, zilizotengenezwa kwa Apple Silicon.

Kasi na modeli maarufu

Tokeni kwa sekunde kwa mazungumzo moja, kila chipu ikiwa na ukubwa wake mkubwa zaidi wa kumbukumbu (GB 128 na GB 128), na toleo bora la modeli linalotosha.

Modeli	M4 Max	DGX Spark
Llama 3.1 8B Instruct8B	29–51 8-bit	14–26 8-bit
gpt-oss-20b21B · 3.6B zinazotumika	129–230 4.25-bit asili	65–115 4.25-bit asili
Qwen3.6 35B A3B35B · 3B zinazotumika	77–137 8-bit	38–68 8-bit
Qwen3.8 27B27B	11–20 6-bit	4–8 8-bit
Llama 3.3 70B Instruct70B	3–6 8-bit	2–3 8-bit
gpt-oss-120b117B · 5.1B zinazotumika	91–162 4.25-bit asili	45–81 4.25-bit asili
Qwen3.5 122B A10B122B · 10B zinazotumika	44–78 4-bit	22–39 4-bit
DeepSeek V4 Flash 0731284B · 13B zinazotumika	60–107 2-bit ubora wa chini	30–53 2-bit ubora wa chini

Maswali

Je, DGX Spark ina kasi zaidi kuliko M4 Max kwa LLM?: M4 Max husoma kumbukumbu takriban 100% haraka zaidi kuliko DGX Spark (546 dhidi ya 273 GB/s), hivyo huandika takriban 100% haraka zaidi na modeli yoyote inayotosha zote mbili. Katika jaribio lililopimwa la llama.cpp, DGX Spark husoma kidokezo takriban mara 3.5 kwa kasi zaidi (tokeni 3,062 dhidi ya 886 kwa sekunde). Kusoma kidokezo hutegemea nguvu ya kukokotoa ya GPU, si kipimo data cha kumbukumbu, na ndicho huamua muda wa kusubiri neno la kwanza kwa hati ndefu au msimbo mkubwa.
Ipi inaweza kuendesha modeli kubwa zaidi, M4 Max au DGX Spark?: Zote mbili zina takriban GB 96 kwa modeli. Modeli wazi maarufu 47 kati ya 73 zinaendeshwa vizuri kwenye M4 Max, 39 kwenye DGX Spark.
Je, MLX Node inaendeshwa kwenye DGX Spark?: Hapana. MLX Node na MLX Harness zinaendeshwa kwenye Mac zenye Apple Silicon pekee, kwa mfumo wa MLX wa Apple.

Ulinganisho zaidi

M4 Max kwa AI ya ndani ya kifaa · Linganisha kila modeli · Mac bora kwa LLM za ndani

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.

Data ya DGX Spark: NVIDIA: DGX Spark (specs).