साथ-साथ तुलना
| M5 Max | M5 Ultra | |
|---|---|---|
| मेमोरी साइज़ | 36, 48, 64, 128 GB | 96, 256, 512 GB |
| मेमोरी बैंडविड्थ | 460–614 GB/s | 1,200 GB/s |
| मॉडल के लिए, अधिकतम | लगभग 96 GB | लगभग 384 GB |
| अच्छी तरह चलने वाले मॉडल | 73 में से 47 | 73 में से 61 |
| MLX सीट क्लास | Pro Latest | Ultra Latest |
| इनमें मिलता है | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | Mac Studio (M5 Max or M5 Ultra) |
लोकप्रिय मॉडल के साथ स्पीड
एक बातचीत के लिए टोकन प्रति सेकंड, हर चिप अपने सबसे बड़े मेमोरी साइज़ पर (128 GB और 512 GB), मॉडल के उस सबसे अच्छे वर्ज़न के साथ जो फ़िट होता है।
| मॉडल | M5 Max | M5 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-बिट | 64–113 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 145–259 नेटिव 4.25-बिट | 284–505 नेटिव 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 86–154 8-बिट | 169–300 8-बिट |
| Qwen3.8 27B27B | 10–17 8-बिट | 19–33 8-बिट |
| Llama 3.3 70B Instruct70B | 4–7 8-बिट | 14–24 4-बिट |
| gpt-oss-120b117B · 5.1B सक्रिय | 102–182 नेटिव 4.25-बिट | 200–356 नेटिव 4.25-बिट |
| Qwen3.5 122B A10B122B · 10B सक्रिय | 49–88 4-बिट | 51–91 8-बिट |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | 67–120 2-बिट कम क्वालिटी | 39–70 8-बिट |
सवाल
- क्या LLM के लिए M5 Ultra, M5 Max से तेज़ है?
- M5 Ultra, M5 Max से लगभग 95% तेज़ मेमोरी पढ़ता है (1,200 बनाम 614 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 95% तेज़ लिखता है। लंबा प्रॉम्प्ट पढ़ना GPU कंप्यूट पर निर्भर करता है, जो इस तुलना में शामिल नहीं है।
- बड़े मॉडल कौन चला सकता है, M5 Max या M5 Ultra?
- M5 Ultra: M5 Ultra में 512 GB तक मेमोरी मिलती है, M5 Max में 128 GB तक। अपने सबसे बड़े साइज़ पर यह 73 में से 61 ओपन मॉडल अच्छी तरह चलाता है, जबकि दूसरा 47।
और तुलनाएँ
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
- M4 Max vs M5 Max
- M5 Pro vs M5 Max
- M3 Ultra vs M5 Ultra
- M4 Max vs M5 Ultra
लोकल AI के लिए M5 Max · लोकल AI के लिए M5 Ultra · हर मॉडल की तुलना करें · लोकल LLM के लिए सबसे अच्छा Mac
हिसाब कैसे लगाया गया
मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।