साथ-साथ तुलना
| M5 | M5 Pro | |
|---|---|---|
| मेमोरी साइज़ | 16, 24, 32 GB | 24, 48, 64 GB |
| मेमोरी बैंडविड्थ | 153 GB/s | 307 GB/s |
| मॉडल के लिए, अधिकतम | लगभग 24 GB | लगभग 48 GB |
| अच्छी तरह चलने वाले मॉडल | 73 में से 28 | 73 में से 34 |
| MLX सीट क्लास | Core | Pro Latest |
| इनमें मिलता है | MacBook Pro (14-inch, M5), MacBook Air (13-inch, M5), MacBook Air (15-inch, M5) | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac mini (M6 or M5 Pro) |
लोकप्रिय मॉडल के साथ स्पीड
एक बातचीत के लिए टोकन प्रति सेकंड, हर चिप अपने सबसे बड़े मेमोरी साइज़ पर (32 GB और 64 GB), मॉडल के उस सबसे अच्छे वर्ज़न के साथ जो फ़िट होता है।
| मॉडल | M5 | M5 Pro |
|---|---|---|
| Llama 3.1 8B Instruct8B | 11–19 6-बिट | 16–29 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 36–64 नेटिव 4.25-बिट | 73–129 नेटिव 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 41–72 4-बिट | 43–77 8-बिट |
| Qwen3.8 27B27B | 3–6 6-बिट | 5–9 8-बिट |
| Llama 3.3 70B Instruct70B | 3–6 2-बिट कम क्वालिटी | 4–6 4-बिट |
| gpt-oss-120b117B · 5.1B सक्रिय | बहुत बड़ा | 86–154 2-बिट कम क्वालिटी |
| Qwen3.5 122B A10B122B · 10B सक्रिय | बहुत बड़ा | 45–79 2-बिट कम क्वालिटी |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | बहुत बड़ा | बहुत बड़ा |
सवाल
- क्या LLM के लिए M5 Pro, M5 से तेज़ है?
- M5 Pro, M5 से लगभग 101% तेज़ मेमोरी पढ़ता है (307 बनाम 153 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 101% तेज़ लिखता है। लंबा प्रॉम्प्ट पढ़ना GPU कंप्यूट पर निर्भर करता है, जो इस तुलना में शामिल नहीं है।
- बड़े मॉडल कौन चला सकता है, M5 या M5 Pro?
- M5 Pro: M5 Pro में 64 GB तक मेमोरी मिलती है, M5 में 32 GB तक। अपने सबसे बड़े साइज़ पर यह 73 में से 34 ओपन मॉडल अच्छी तरह चलाता है, जबकि दूसरा 28।
और तुलनाएँ
लोकल AI के लिए M5 · लोकल AI के लिए M5 Pro · हर मॉडल की तुलना करें · लोकल LLM के लिए सबसे अच्छा Mac
हिसाब कैसे लगाया गया
मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।