लॉग इनवॉलेट बनाएँ

24 GB वाला M5 Pro क्या चला सकता है?

इस पर 73 में से 28 ओपन मॉडल अच्छी तरह चलते हैं। डिफ़ॉल्ट रूप से GPU इसकी 24 GB में से लगभग 18 GB इस्तेमाल कर सकता है, और यह 307 GB/s पर मेमोरी पढ़ता है, जिससे तय होता है कि यह कितनी तेज़ी से लिखता है। इनमें मिलता है: MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac mini (M6 or M5 Pro)।

सबसे स्मार्ट, जो अच्छी तरह चलता हैMiniCPM5 2B8-बिट · 2.7 GB · 51–91 tok/sसबसे बड़ा, जो अच्छी तरह चलता हैGemma 4 26B A4B4-बिट · 14.2 GB · 66–117 tok/sकोड के लिएDevstral Small 2 (24B)4-बिट · 13.5 GB · 10–18 tok/s

अच्छी तरह चलते हैं 36

कॉन्टेक्स्ट के लिए जगह के साथ फ़िट होते हैं, 10 या ज़्यादा टोकन प्रति सेकंड पर।

मॉडलवर्ज़नमेमोरीटोकन/सेकंड
MiniCPM5 2B2.52B · इंटेलिजेंस 12.58-बिट2.7 GB51–91
Qwen3.5 9B9B · इंटेलिजेंस 11.28-बिट9.6 GB14–26
Granite 4.2 8B8B · इंटेलिजेंस 11.18-बिट8.5 GB16–29
Granite 4.2 3B3B · इंटेलिजेंस 9.18-बिट3.2 GB43–77
gpt-oss-20b21B · 3.6B सक्रिय · इंटेलिजेंस 9नेटिव 4.25-बिट13.8 GB73–129
Gemma 4 E4B8B · इंटेलिजेंस 8.98-बिट8.5 GB29–51
Ministral 3 8B8.9B · इंटेलिजेंस 5.58-बिट9.5 GB15–26
Nemotron 3 Nano 4B3.97B · इंटेलिजेंस 4.88-बिट4.2 GB33–58
Gemma 4 26B A4B25.2B · 3.8B सक्रिय4-बिट14.2 GB66–117
Devstral Small 2 (24B)24B4-बिट13.5 GB10–18
Magistral Small 1.2 (2509)24B4-बिट13.5 GB10–18
Mistral Small 3.2 (24B)24B4-बिट13.5 GB10–18
LFM2.5 24B A2B24B · 2B सक्रिय4-बिट13.5 GB126–223
Phi-4 Reasoning Vision 15B15B6-बिट12.2 GB11–20
Phi-4 (14B)14B6-बिट11.4 GB12–22
Gemma 4 12B Unified12B8-बिट12.7 GB11–19
Qwen3 8B8.2B8-बिट8.7 GB16–28
Llama 3.1 8B Instruct8B8-बिट8.5 GB16–29
Gemma 4 E2B5.1B8-बिट5.4 GB58–102
Qwen3.5 4B4B8-बिट4.3 GB32–57
Phi-4 mini instruct3.8B8-बिट4 GB35–61
Llama 3.2 3B Instruct3.21B8-बिट3.4 GB41–72
SmolLM3 3B3B8-बिट3.2 GB43–77
LFM2.5 2.6B2.69B8-बिट2.9 GB48–85
Qwen3.5 2B2B8-बिट2.1 GB66–117
Llama 3.2 1B Instruct1.23B8-बिट1.3 GB106–189
Qwen3.5 0.8B0.8B8-बिट0.9 GB154–273
Qwen3 0.6B0.6B8-बिट0.6 GB230–409
Qwen3.6 35B A3B35B · 3B सक्रिय · इंटेलिजेंस 18.23-बिट कम क्वालिटी15.3 GB106–189
Muse Glimmer 30B29.6B · इंटेलिजेंस 17.53-बिट कम क्वालिटी13 GB11–19
Gemma 4 31B30.7B · इंटेलिजेंस 14.73-बिट कम क्वालिटी13.4 GB10–18
Nemotron 3.5 Lightning 30B A3B30B · 3B सक्रिय · इंटेलिजेंस 12.93-बिट कम क्वालिटी13.1 GB106–189
Granite 4.2 30B30B · इंटेलिजेंस 12.73-बिट कम क्वालिटी13.1 GB11–19
Nemotron 3 Nano 30B A3B30B · 3.5B सक्रिय · इंटेलिजेंस 8.93-बिट कम क्वालिटी13.1 GB92–164
Qwen3 Coder 30B A3B Instruct30.5B · 3.3B सक्रिय3-बिट कम क्वालिटी13.3 GB99–175
GLM-4.7 Flash30B · 3B सक्रिय3-बिट कम क्वालिटी13.1 GB106–189

चलते हैं, पर धीरे 2

फ़िट होते हैं, पर 10 टोकन प्रति सेकंड से कम: बैच काम के लिए ठीक, चैट के लिए धीमे।

मॉडलवर्ज़नमेमोरीटोकन/सेकंड
Qwen3.8 27B27B · इंटेलिजेंस 33.74-बिट15.2 GB9–16
Qwen3.6 27B27B4-बिट15.2 GB9–16

बहुत बड़े 35

24 GB से ज़्यादा मेमोरी चाहिए, 2 बिट पर भी।

दूसरे Mac

24 GB वाला हर Mac, किसी भी चिप के साथ।

कम या ज़्यादा मेमोरी वाला M5 Pro:

आस-पास की चिप:

आमने-सामने:

इसकी तुलना किसी भी Mac या GPU से करें · लोकल AI के लिए M5 Pro · लोकल LLM के लिए सबसे अच्छा Mac · हर Mac

सवाल

24 GB वाले M5 Pro के लिए सबसे अच्छा LLM कौन-सा है?
जिन मॉडलों का Intelligence Index प्रकाशित है, उनमें से यहाँ अच्छी तरह चलने वालों में MiniCPM5 2B का स्कोर सबसे ऊँचा है: 8-बिट, लगभग 51–91 टोकन प्रति सेकंड। अच्छी तरह चलने वाला सबसे बड़ा मॉडल Gemma 4 26B A4B है।
क्या 24 GB वाला M5 Pro Llama 3.3 70B चला सकता है?
नहीं: 2 बिट पर भी इसे उन 18 GB से ज़्यादा चाहिए जो GPU डिफ़ॉल्ट रूप से इस्तेमाल कर सकता है।
M5 Pro पर gpt-oss-20b कितना तेज़ चलता है?
लगभग 73–129 टोकन प्रति सेकंड (नेटिव 4.25-बिट), चिप की 307 GB/s मेमोरी बैंडविड्थ के आधार पर।

इन्हें MLX Harness (मुफ़्त, ओपन सोर्स) से या Terminal में Apple के mlx-lm से चलाएँ: स्टेप बाय स्टेप।

हिसाब कैसे लगाया गया

मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।

24 GB वाला M5 Pro कौन-से LLM चला सकता है? मॉडल और स्पीड