लॉग इनवॉलेट बनाएँ

लोकल AI के लिए M3 Pro वाला MacBook Pro।

M3 Pro 150 GB/s पर मेमोरी पढ़ता है, जिससे तय होता है कि यह कितनी तेज़ी से लिखता है। कौन-से मॉडल फ़िट होंगे, यह मेमोरी तय करती है, और इसे बाद में अपग्रेड नहीं किया जा सकता, इसलिए साइज़ यहीं चुनें।

18 GB20 मॉडल अच्छी तरह चलते हैंGemma 4 12B Unified · 10–18 tok/s36 GB28 मॉडल अच्छी तरह चलते हैंQwen3.6 35B A3B · 40–71 tok/s

मेमोरी साइज़ के हिसाब से

मेमोरीअच्छी तरह चलते हैंसबसे बड़ा, जो अच्छी तरह चलता हैgpt-oss-20b
18 GB150 GB/s20Gemma 4 12B Unified36–63 tok/s
36 GB150 GB/s28Qwen3.6 35B A3B36–63 tok/s

Mac मॉडल: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)। हर मेमोरी साइज़ हर Mac मॉडल में नहीं मिलता; किसके साथ क्या मिलता है, यह Apple के Tech Specs में दिया है।

सवाल

क्या M3 Pro वाला MacBook Pro लोकल LLM के लिए अच्छा है?
36 GB के साथ यह 73 में से 28 ओपन मॉडल अच्छी तरह चलाता है, Qwen3.6 35B A3B तक, और gpt-oss-20b के साथ लगभग 36–63 टोकन प्रति सेकंड लिखता है। M3 Pro 150 GB/s पर मेमोरी पढ़ता है, जिससे तय होता है कि यह कितनी तेज़ी से लिखता है।
AI के लिए M3 Pro वाले MacBook Pro में कितनी मेमोरी होनी चाहिए?
18 GB के साथ यह 20 ओपन मॉडल अच्छी तरह चलाता है; 36 GB के साथ 28, Qwen3.6 35B A3B तक। कौन-से मॉडल फ़िट होंगे, यह मेमोरी तय करती है, और इसे बाद में अपग्रेड नहीं किया जा सकता।

दूसरे Mac

दूसरे चिप वाले MacBook Pro:

आमने-सामने:

लोकल AI के लिए M3 Pro · लोकल LLM के लिए सबसे अच्छा Mac · हर Mac

हिसाब कैसे लगाया गया

मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।

MacBook Pro M3 Pro पर कौन-से LLM चलते हैं: मेमोरी के हिसाब से