शेजारी-शेजारी
| M5 Max | DGX Spark | |
|---|---|---|
| हे काय आहे | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | एक पूर्ण छोटा संगणक |
| मेमरी आकार | 36, 48, 64, 128 GB | 128 GB |
| मेमरी बँडविड्थ | 460–614 GB/s | 273 GB/s |
| मॉडेलसाठी, जास्तीत जास्त | सुमारे 96 GB | सुमारे 96 GB |
| चांगली चालणारी मॉडेल | 73 पैकी 47 | 73 पैकी 39 |
| मोजलेले: लिहिणे | 120 tok/s | 57 tok/s |
| मोजलेले: प्रॉम्प्ट वाचणे | 3,220 tok/s | 3,062 tok/s |
मोजलेल्या ओळी: llama.cpp च्या सार्वजनिक बेंचमार्कमध्ये Llama 2 7B Q4_0 सह प्रत्येक मशीनचा सर्वात वेगवान निकाल, 128 टोकन लिहिताना (tg128) आणि 512 टोकनचा प्रॉम्प्ट वाचताना (pp512), टोकन प्रति सेकंदात. Mac वर Metal आणि DGX Spark वर CUDA चालले. Apple Silicon चे निकाल · DGX Spark चे निकाल मॉडेलसाठी आम्ही दोन्हींमध्ये सुमारे 75% मेमरी मोजतो, जे macOS चे डीफॉल्ट आहे, कारण DGX Spark मध्येही CPU आणि GPU एकच मेमरी वाटून घेतात. त्याचा GPU प्रत्यक्षात किती वापरू शकतो हे ऑपरेटिंग सिस्टम आणि सेटिंग्जवर अवलंबून असते.
कोण कुठे पुढे आहे
- लिहिण्याचा वेग. M5 Max हा DGX Spark पेक्षा सुमारे 125% वेगाने मेमरी वाचतो (614 विरुद्ध 273 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 125% वेगाने लिहितो.
- मॉडेलचा आकार. दोन्हींकडे मॉडेलसाठी सुमारे 96 GB आहे. 73 लोकप्रिय ओपन मॉडेलपैकी 47 M5 Max वर चांगले चालतात, आणि 39 DGX Spark वर.
- लांब प्रॉम्प्ट वाचणे. llama.cpp च्या मोजलेल्या चाचणीत दोन्ही जवळजवळ समान वेगाने प्रॉम्प्ट वाचतात (3,220 आणि 3,062 टोकन प्रति सेकंद).
- सॉफ्टवेअर. DGX Spark NVIDIA चे CUDA वापरतो, ज्याला बहुतेक AI सॉफ्टवेअर सर्वात आधी सपोर्ट करतात, त्यात ट्रेनिंग कोड आणि अनेक इमेज व व्हिडिओ टूल्स येतात. Mac वर मॉडेल त्याऐवजी MLX, llama.cpp चा Metal बॅकएंड किंवा PyTorch चा MPS बॅकएंड वापरून चालतात.
- भोवतालचे. दोन्ही पूर्ण संगणक आहेत जे मॉडेल CPU आणि GPU वाटून घेणाऱ्या एकाच मेमरीत ठेवतात.
- Mac. हा रोजचा संगणकही आहे, आणि Apple Silicon साठी बनवलेले MLX Harness आणि MLX Node चालवतो.
लोकप्रिय मॉडेलसह वेग
एका संभाषणासाठी सेकंदाला टोकन, प्रत्येक चिप तिच्या सर्वात मोठ्या मेमरी आकारावर (128 GB आणि 128 GB), मॉडेलच्या बसणाऱ्या सर्वोत्तम आवृत्तीसह.
| मॉडेल | M5 Max | DGX Spark |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-बिट | 14–26 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 145–259 नेटिव्ह 4.25-बिट | 65–115 नेटिव्ह 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 86–154 8-बिट | 38–68 8-बिट |
| Qwen3.8 27B27B | 10–17 8-बिट | 4–8 8-बिट |
| Llama 3.3 70B Instruct70B | 4–7 8-बिट | 2–3 8-बिट |
| gpt-oss-120b117B · 5.1B सक्रिय | 102–182 नेटिव्ह 4.25-बिट | 45–81 नेटिव्ह 4.25-बिट |
| Qwen3.5 122B A10B122B · 10B सक्रिय | 49–88 4-बिट | 22–39 4-बिट |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | 67–120 2-बिट कमी गुणवत्ता | 30–53 2-बिट कमी गुणवत्ता |
प्रश्न
- LLM साठी DGX Spark हा M5 Max पेक्षा वेगवान आहे का?
- M5 Max हा DGX Spark पेक्षा सुमारे 125% वेगाने मेमरी वाचतो (614 विरुद्ध 273 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 125% वेगाने लिहितो. llama.cpp च्या मोजलेल्या चाचणीत दोन्ही जवळजवळ समान वेगाने प्रॉम्प्ट वाचतात (3,220 आणि 3,062 टोकन प्रति सेकंद).
- मोठी मॉडेल कोण चालवू शकतो, M5 Max की DGX Spark?
- दोन्हींकडे मॉडेलसाठी सुमारे 96 GB आहे. 73 लोकप्रिय ओपन मॉडेलपैकी 47 M5 Max वर चांगले चालतात, आणि 39 DGX Spark वर.
- MLX Node DGX Spark वर चालतो का?
- नाही. MLX Node आणि MLX Harness फक्त Apple Silicon असलेल्या Mac वर, Apple च्या MLX फ्रेमवर्कसह चालतात.
आणखी तुलना
- M5 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ PRO 495
- M5 Max vs RTX 5090
- M4 Max vs DGX Spark
- M3 Ultra vs DGX Spark
- M5 Ultra vs DGX Spark
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
लोकल AI साठी M5 Max · प्रत्येक मॉडेलची तुलना करा · लोकल LLM साठी सर्वोत्तम Mac
हिशोब कसा केला
मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.
DGX Spark चा डेटा: NVIDIA: DGX Spark (specs).