साथ-साथ तुलना
| M5 Max | Ryzen AI Max+ 395 | |
|---|---|---|
| यह क्या है | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | एक पूरा छोटा कंप्यूटर |
| मेमोरी साइज़ | 36, 48, 64, 128 GB | 128 GB |
| मेमोरी बैंडविड्थ | 460–614 GB/s | 256 GB/s |
| मॉडल के लिए, अधिकतम | लगभग 96 GB | लगभग 96 GB |
| अच्छी तरह चलने वाले मॉडल | 73 में से 47 | 73 में से 39 |
| मापा गया: लिखना | 120 tok/s | 54 tok/s |
| मापा गया: प्रॉम्प्ट पढ़ना | 3,220 tok/s | 1,289 tok/s |
मापी गई पंक्तियाँ: llama.cpp के सार्वजनिक बेंचमार्क में Llama 2 7B Q4_0 के साथ हर मशीन का सबसे तेज़ नतीजा, 128 टोकन लिखते हुए (tg128) और 512 टोकन का प्रॉम्प्ट पढ़ते हुए (pp512), टोकन प्रति सेकंड में। Mac पर Metal और Ryzen AI Max+ 395 पर Vulkan चला। Apple Silicon के नतीजे · Ryzen AI Max+ 395 के नतीजे मॉडल के लिए हम दोनों में लगभग 75% मेमोरी गिनते हैं, जो macOS का डिफ़ॉल्ट है, क्योंकि Ryzen AI Max+ 395 में भी CPU और GPU एक ही मेमोरी साझा करते हैं। उसका GPU असल में कितनी इस्तेमाल कर सकता है, यह ऑपरेटिंग सिस्टम और सेटिंग्स पर निर्भर है।
कौन कहाँ आगे है
- लिखने की रफ़्तार। M5 Max, Ryzen AI Max+ 395 से लगभग 140% तेज़ मेमोरी पढ़ता है (614 बनाम 256 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 140% तेज़ लिखता है।
- मॉडल का आकार। दोनों के पास मॉडल के लिए लगभग 96 GB है। 73 लोकप्रिय ओपन मॉडल में से 47 M5 Max पर अच्छे से चलते हैं, और 39 Ryzen AI Max+ 395 पर।
- लंबे प्रॉम्प्ट पढ़ना। llama.cpp के मापे गए टेस्ट में M5 Max प्रॉम्प्ट को लगभग 2.5× तेज़ पढ़ता है (3,220 बनाम 1,289 टोकन प्रति सेकंड)। प्रॉम्प्ट पढ़ना मेमोरी बैंडविड्थ पर नहीं, GPU की कंप्यूट ताक़त पर निर्भर है, और यही तय करता है कि लंबे दस्तावेज़ या कोडबेस के साथ पहले शब्द तक कितना इंतज़ार होगा।
- सॉफ़्टवेयर। Ryzen AI Max+ 395 Windows या Linux पर चलता है, और llama.cpp उसका GPU Vulkan से इस्तेमाल करता है। जिस सॉफ़्टवेयर को NVIDIA का CUDA चाहिए, वह दोनों में से किसी पर नहीं चलता।
- आसपास। दोनों पूरे कंप्यूटर हैं जो मॉडल को एक ही मेमोरी में रखते हैं, जिसे CPU और GPU साझा करते हैं।
- Mac। यह रोज़ का कंप्यूटर भी है, और Apple Silicon के लिए बने MLX Harness और MLX Node चलाता है।
लोकप्रिय मॉडल के साथ स्पीड
एक बातचीत के लिए टोकन प्रति सेकंड, हर चिप अपने सबसे बड़े मेमोरी साइज़ पर (128 GB और 128 GB), मॉडल के उस सबसे अच्छे वर्ज़न के साथ जो फ़िट होता है।
| मॉडल | M5 Max | Ryzen AI Max+ 395 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-बिट | 14–24 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 145–259 नेटिव 4.25-बिट | 61–108 नेटिव 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 86–154 8-बिट | 36–64 8-बिट |
| Qwen3.8 27B27B | 10–17 8-बिट | 4–7 8-बिट |
| Llama 3.3 70B Instruct70B | 4–7 8-बिट | 2–3 8-बिट |
| gpt-oss-120b117B · 5.1B सक्रिय | 102–182 नेटिव 4.25-बिट | 43–76 नेटिव 4.25-बिट |
| Qwen3.5 122B A10B122B · 10B सक्रिय | 49–88 4-बिट | 21–37 4-बिट |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | 67–120 2-बिट कम क्वालिटी | 28–50 2-बिट कम क्वालिटी |
सवाल
- क्या LLM के लिए Ryzen AI Max+ 395, M5 Max से तेज़ है?
- M5 Max, Ryzen AI Max+ 395 से लगभग 140% तेज़ मेमोरी पढ़ता है (614 बनाम 256 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 140% तेज़ लिखता है। llama.cpp के मापे गए टेस्ट में M5 Max प्रॉम्प्ट को लगभग 2.5× तेज़ पढ़ता है (3,220 बनाम 1,289 टोकन प्रति सेकंड)। प्रॉम्प्ट पढ़ना मेमोरी बैंडविड्थ पर नहीं, GPU की कंप्यूट ताक़त पर निर्भर है, और यही तय करता है कि लंबे दस्तावेज़ या कोडबेस के साथ पहले शब्द तक कितना इंतज़ार होगा।
- बड़े मॉडल कौन चला सकता है, M5 Max या Ryzen AI Max+ 395?
- दोनों के पास मॉडल के लिए लगभग 96 GB है। 73 लोकप्रिय ओपन मॉडल में से 47 M5 Max पर अच्छे से चलते हैं, और 39 Ryzen AI Max+ 395 पर।
- क्या MLX Node Ryzen AI Max+ 395 पर चलता है?
- नहीं। MLX Node और MLX Harness सिर्फ़ Apple Silicon वाले Mac पर, Apple के MLX फ़्रेमवर्क के साथ चलते हैं।
और तुलनाएँ
- M5 Max vs DGX Spark
- M5 Max vs Ryzen AI Max+ PRO 495
- M5 Max vs RTX 5090
- M4 Pro vs Ryzen AI Max+ 395
- M4 Max vs Ryzen AI Max+ 395
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
लोकल AI के लिए M5 Max · हर मॉडल की तुलना करें · लोकल LLM के लिए सबसे अच्छा Mac
हिसाब कैसे लगाया गया
मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।
Ryzen AI Max+ 395 की बैंडविड्थ AMD की बताई बस चौड़ाई और मेमोरी स्पीड से निकाली गई है, क्योंकि AMD इसे GB/s में नहीं बताता। Ryzen AI Max+ 395 का डेटा: AMD: Ryzen AI Max+ 395, Framework: Desktop specs, Framework: Desktop DIY configurator (32/64/128 GB)।