लॉग इनवॉलेट बनाएँ

लोकल AI के लिए M4 Pro वाला MacBook Pro।

M4 Pro 273 GB/s पर मेमोरी पढ़ता है, जिससे तय होता है कि यह कितनी तेज़ी से लिखता है। कौन-से मॉडल फ़िट होंगे, यह मेमोरी तय करती है, और इसे बाद में अपग्रेड नहीं किया जा सकता, इसलिए साइज़ यहीं चुनें।

24 GB25 मॉडल अच्छी तरह चलते हैंGemma 4 26B A4B · 59–104 tok/s48 GB30 मॉडल अच्छी तरह चलते हैंQwen3.6 35B A3B · 51–91 tok/s64 GB31 मॉडल अच्छी तरह चलते हैंNemotron 3.5 Bolt 74B A9B · 24–43 tok/s

मेमोरी साइज़ के हिसाब से

मेमोरीअच्छी तरह चलते हैंसबसे बड़ा, जो अच्छी तरह चलता हैgpt-oss-20b
24 GB273 GB/s25Gemma 4 26B A4B65–115 tok/s
48 GB273 GB/s30Qwen3.6 35B A3B65–115 tok/s
64 GB273 GB/s31Nemotron 3.5 Bolt 74B A9B65–115 tok/s

Mac मॉडल: MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024)। हर मेमोरी साइज़ हर Mac मॉडल में नहीं मिलता; किसके साथ क्या मिलता है, यह Apple के Tech Specs में दिया है।

सवाल

क्या M4 Pro वाला MacBook Pro लोकल LLM के लिए अच्छा है?
64 GB के साथ यह 73 में से 31 ओपन मॉडल अच्छी तरह चलाता है, Nemotron 3.5 Bolt 74B A9B तक, और gpt-oss-20b के साथ लगभग 65–115 टोकन प्रति सेकंड लिखता है। M4 Pro 273 GB/s पर मेमोरी पढ़ता है, जिससे तय होता है कि यह कितनी तेज़ी से लिखता है।
AI के लिए M4 Pro वाले MacBook Pro में कितनी मेमोरी होनी चाहिए?
24 GB के साथ यह 25 ओपन मॉडल अच्छी तरह चलाता है; 64 GB के साथ 31, Nemotron 3.5 Bolt 74B A9B तक। कौन-से मॉडल फ़िट होंगे, यह मेमोरी तय करती है, और इसे बाद में अपग्रेड नहीं किया जा सकता।

दूसरे Mac

दूसरे चिप वाले MacBook Pro:

M4 Pro वाले दूसरे Mac:

आमने-सामने:

PC और ग्राफ़िक्स कार्ड से मुक़ाबला:

लोकल AI के लिए M4 Pro · लोकल LLM के लिए सबसे अच्छा Mac · हर Mac

हिसाब कैसे लगाया गया

मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।

MacBook Pro M4 Pro पर कौन-से LLM चलते हैं: मेमोरी के हिसाब से