साथ-साथ तुलना
| M5 Max | DGX Spark | |
|---|---|---|
| यह क्या है | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | एक पूरा छोटा कंप्यूटर |
| मेमोरी साइज़ | 36, 48, 64, 128 GB | 128 GB |
| मेमोरी बैंडविड्थ | 460–614 GB/s | 273 GB/s |
| मॉडल के लिए, अधिकतम | लगभग 96 GB | लगभग 96 GB |
| अच्छी तरह चलने वाले मॉडल | 73 में से 47 | 73 में से 39 |
| मापा गया: लिखना | 120 tok/s | 57 tok/s |
| मापा गया: प्रॉम्प्ट पढ़ना | 3,220 tok/s | 3,062 tok/s |
मापी गई पंक्तियाँ: llama.cpp के सार्वजनिक बेंचमार्क में Llama 2 7B Q4_0 के साथ हर मशीन का सबसे तेज़ नतीजा, 128 टोकन लिखते हुए (tg128) और 512 टोकन का प्रॉम्प्ट पढ़ते हुए (pp512), टोकन प्रति सेकंड में। Mac पर Metal और DGX Spark पर CUDA चला। Apple Silicon के नतीजे · DGX Spark के नतीजे मॉडल के लिए हम दोनों में लगभग 75% मेमोरी गिनते हैं, जो macOS का डिफ़ॉल्ट है, क्योंकि DGX Spark में भी CPU और GPU एक ही मेमोरी साझा करते हैं। उसका GPU असल में कितनी इस्तेमाल कर सकता है, यह ऑपरेटिंग सिस्टम और सेटिंग्स पर निर्भर है।
कौन कहाँ आगे है
- लिखने की रफ़्तार। M5 Max, DGX Spark से लगभग 125% तेज़ मेमोरी पढ़ता है (614 बनाम 273 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 125% तेज़ लिखता है।
- मॉडल का आकार। दोनों के पास मॉडल के लिए लगभग 96 GB है। 73 लोकप्रिय ओपन मॉडल में से 47 M5 Max पर अच्छे से चलते हैं, और 39 DGX Spark पर।
- लंबे प्रॉम्प्ट पढ़ना। llama.cpp के मापे गए टेस्ट में दोनों लगभग एक ही रफ़्तार से प्रॉम्प्ट पढ़ते हैं (3,220 और 3,062 टोकन प्रति सेकंड)।
- सॉफ़्टवेयर। DGX Spark NVIDIA का CUDA इस्तेमाल करता है, जिसे ज़्यादातर AI सॉफ़्टवेयर सबसे पहले सपोर्ट करते हैं, जिनमें ट्रेनिंग कोड और कई इमेज व वीडियो टूल शामिल हैं। Mac पर मॉडल इसके बजाय MLX, llama.cpp के Metal बैकएंड या PyTorch के MPS बैकएंड से चलते हैं।
- आसपास। दोनों पूरे कंप्यूटर हैं जो मॉडल को एक ही मेमोरी में रखते हैं, जिसे CPU और GPU साझा करते हैं।
- Mac। यह रोज़ का कंप्यूटर भी है, और Apple Silicon के लिए बने MLX Harness और MLX Node चलाता है।
लोकप्रिय मॉडल के साथ स्पीड
एक बातचीत के लिए टोकन प्रति सेकंड, हर चिप अपने सबसे बड़े मेमोरी साइज़ पर (128 GB और 128 GB), मॉडल के उस सबसे अच्छे वर्ज़न के साथ जो फ़िट होता है।
| मॉडल | M5 Max | DGX Spark |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-बिट | 14–26 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 145–259 नेटिव 4.25-बिट | 65–115 नेटिव 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 86–154 8-बिट | 38–68 8-बिट |
| Qwen3.8 27B27B | 10–17 8-बिट | 4–8 8-बिट |
| Llama 3.3 70B Instruct70B | 4–7 8-बिट | 2–3 8-बिट |
| gpt-oss-120b117B · 5.1B सक्रिय | 102–182 नेटिव 4.25-बिट | 45–81 नेटिव 4.25-बिट |
| Qwen3.5 122B A10B122B · 10B सक्रिय | 49–88 4-बिट | 22–39 4-बिट |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | 67–120 2-बिट कम क्वालिटी | 30–53 2-बिट कम क्वालिटी |
सवाल
- क्या LLM के लिए DGX Spark, M5 Max से तेज़ है?
- M5 Max, DGX Spark से लगभग 125% तेज़ मेमोरी पढ़ता है (614 बनाम 273 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 125% तेज़ लिखता है। llama.cpp के मापे गए टेस्ट में दोनों लगभग एक ही रफ़्तार से प्रॉम्प्ट पढ़ते हैं (3,220 और 3,062 टोकन प्रति सेकंड)।
- बड़े मॉडल कौन चला सकता है, M5 Max या DGX Spark?
- दोनों के पास मॉडल के लिए लगभग 96 GB है। 73 लोकप्रिय ओपन मॉडल में से 47 M5 Max पर अच्छे से चलते हैं, और 39 DGX Spark पर।
- क्या MLX Node DGX Spark पर चलता है?
- नहीं। MLX Node और MLX Harness सिर्फ़ Apple Silicon वाले Mac पर, Apple के MLX फ़्रेमवर्क के साथ चलते हैं।
और तुलनाएँ
- M5 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ PRO 495
- M5 Max vs RTX 5090
- M4 Max vs DGX Spark
- M3 Ultra vs DGX Spark
- M5 Ultra vs DGX Spark
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
लोकल AI के लिए M5 Max · हर मॉडल की तुलना करें · लोकल LLM के लिए सबसे अच्छा Mac
हिसाब कैसे लगाया गया
मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।
DGX Spark का डेटा: NVIDIA: DGX Spark (specs)।