क्या LLM के लिए M5 Ultra, M4 Max से तेज़ है?

M5 Ultra, M4 Max से लगभग 120% तेज़ मेमोरी पढ़ता है (1,200 बनाम 546 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 120% तेज़ लिखता है। लंबा प्रॉम्प्ट पढ़ना GPU कंप्यूट पर निर्भर करता है, जो इस तुलना में शामिल नहीं है।

बड़े मॉडल कौन चला सकता है, M4 Max या M5 Ultra?

M5 Ultra: M5 Ultra में 512 GB तक मेमोरी मिलती है, M4 Max में 128 GB तक। अपने सबसे बड़े साइज़ पर यह 73 में से 61 ओपन मॉडल अच्छी तरह चलाता है, जबकि दूसरा 47।

LLM के लिए M4 Max बनाम M5 Ultra: मेमोरी, स्पीड, कौन-सा खरीदें

साथ-साथ तुलना

	M4 Max	M5 Ultra
मेमोरी साइज़	36, 48, 64, 128 GB	96, 256, 512 GB
मेमोरी बैंडविड्थ	410–546 GB/s	1,200 GB/s
मॉडल के लिए, अधिकतम	लगभग 96 GB	लगभग 384 GB
अच्छी तरह चलने वाले मॉडल	73 में से 47	73 में से 61
MLX सीट क्लास	Pro	Ultra Latest
इनमें मिलता है	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

लोकप्रिय मॉडल के साथ स्पीड

एक बातचीत के लिए टोकन प्रति सेकंड, हर चिप अपने सबसे बड़े मेमोरी साइज़ पर (128 GB और 512 GB), मॉडल के उस सबसे अच्छे वर्ज़न के साथ जो फ़िट होता है।

मॉडल	M4 Max	M5 Ultra
Llama 3.1 8B Instruct8B	29–51 8-बिट	64–113 8-बिट
gpt-oss-20b21B · 3.6B सक्रिय	129–230 नेटिव 4.25-बिट	284–505 नेटिव 4.25-बिट
Qwen3.6 35B A3B35B · 3B सक्रिय	77–137 8-बिट	169–300 8-बिट
Qwen3.8 27B27B	11–20 6-बिट	19–33 8-बिट
Llama 3.3 70B Instruct70B	3–6 8-बिट	14–24 4-बिट
gpt-oss-120b117B · 5.1B सक्रिय	91–162 नेटिव 4.25-बिट	200–356 नेटिव 4.25-बिट
Qwen3.5 122B A10B122B · 10B सक्रिय	44–78 4-बिट	51–91 8-बिट
DeepSeek V4 Flash 0731284B · 13B सक्रिय	60–107 2-बिट कम क्वालिटी	39–70 8-बिट

सवाल

क्या LLM के लिए M5 Ultra, M4 Max से तेज़ है?: M5 Ultra, M4 Max से लगभग 120% तेज़ मेमोरी पढ़ता है (1,200 बनाम 546 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 120% तेज़ लिखता है। लंबा प्रॉम्प्ट पढ़ना GPU कंप्यूट पर निर्भर करता है, जो इस तुलना में शामिल नहीं है।
बड़े मॉडल कौन चला सकता है, M4 Max या M5 Ultra?: M5 Ultra: M5 Ultra में 512 GB तक मेमोरी मिलती है, M4 Max में 128 GB तक। अपने सबसे बड़े साइज़ पर यह 73 में से 61 ओपन मॉडल अच्छी तरह चलाता है, जबकि दूसरा 47।

और तुलनाएँ

लोकल AI के लिए M4 Max · लोकल AI के लिए M5 Ultra · हर मॉडल की तुलना करें · लोकल LLM के लिए सबसे अच्छा Mac

हिसाब कैसे लगाया गया

मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।