लॉग इनवॉलेट बनाएँ

18 GB Mac के लिए सबसे अच्छे LLM।

18 GB में 73 में से 20 ओपन मॉडल अच्छी तरह चलते हैं। डिफ़ॉल्ट रूप से GPU इसमें से लगभग 14 GB इस्तेमाल कर सकता है। M3 Pro 150 GB/s पर मेमोरी पढ़ता है।

सबसे स्मार्ट, जो अच्छी तरह चलता हैMiniCPM5 2B8-बिट · 2.7 GB · 25–44 tok/sसबसे बड़ा, जो अच्छी तरह चलता हैGemma 4 12B Unified4-बिट · 6.7 GB · 10–18 tok/s

18 GB वाले Mac

M3 की 1 चिप 18 GB के साथ आती हैं। उसकी अपनी सूची और स्पीड देखने के लिए कोई भी चिप खोलें।

अच्छी तरह चलते हैं 27

कॉन्टेक्स्ट के लिए जगह के साथ फ़िट होते हैं, M3 Pro पर 10 या ज़्यादा टोकन प्रति सेकंड।

मॉडलवर्ज़नमेमोरीटोकन/सेकंड
MiniCPM5 2B2.52B · इंटेलिजेंस 12.58-बिट2.7 GB25–44
Qwen3.5 9B9B · इंटेलिजेंस 11.24-बिट5.1 GB13–24
Granite 4.2 8B8B · इंटेलिजेंस 11.16-बिट6.5 GB10–18
Granite 4.2 3B3B · इंटेलिजेंस 9.18-बिट3.2 GB21–38
Gemma 4 E4B8B · इंटेलिजेंस 8.98-बिट8.5 GB14–25
Ministral 3 8B8.9B · इंटेलिजेंस 5.54-बिट5 GB14–24
Nemotron 3 Nano 4B3.97B · इंटेलिजेंस 4.88-बिट4.2 GB16–29
Gemma 4 12B Unified12B4-बिट6.7 GB10–18
Qwen3 8B8.2B6-बिट6.7 GB10–18
Llama 3.1 8B Instruct8B6-बिट6.5 GB10–18
Gemma 4 E2B5.1B8-बिट5.4 GB28–50
Qwen3.5 4B4B8-बिट4.3 GB16–28
Phi-4 mini instruct3.8B8-बिट4 GB17–30
Llama 3.2 3B Instruct3.21B8-बिट3.4 GB20–35
SmolLM3 3B3B8-बिट3.2 GB21–38
LFM2.5 2.6B2.69B8-बिट2.9 GB23–41
Qwen3.5 2B2B8-बिट2.1 GB32–57
Llama 3.2 1B Instruct1.23B8-बिट1.3 GB52–92
Qwen3.5 0.8B0.8B8-बिट0.9 GB75–133
Qwen3 0.6B0.6B8-बिट0.6 GB113–200
Qwen3.6 35B A3B35B · 3B सक्रिय · इंटेलिजेंस 18.22-बिट कम क्वालिटी10.9 GB75–133
Nemotron 3.5 Lightning 30B A3B30B · 3B सक्रिय · इंटेलिजेंस 12.92-बिट कम क्वालिटी9.4 GB75–133
Nemotron 3 Nano 30B A3B30B · 3.5B सक्रिय · इंटेलिजेंस 8.92-बिट कम क्वालिटी9.4 GB61–109
Qwen3 Coder 30B A3B Instruct30.5B · 3.3B सक्रिय2-बिट कम क्वालिटी9.5 GB68–120
GLM-4.7 Flash30B · 3B सक्रिय2-बिट कम क्वालिटी9.4 GB75–133
Gemma 4 26B A4B25.2B · 3.8B सक्रिय3-बिट कम क्वालिटी11 GB40–71
LFM2.5 24B A2B24B · 2B सक्रिय3-बिट कम क्वालिटी10.5 GB75–133

चलते हैं, पर धीरे 10

फ़िट होते हैं, पर 10 टोकन प्रति सेकंड से कम: बैच काम के लिए ठीक, चैट के लिए धीमे।

मॉडलवर्ज़नमेमोरीटोकन/सेकंड
Phi-4 Reasoning Vision 15B15B4-बिट8.4 GB8–14
Phi-4 (14B)14B6-बिट11.4 GB6–11
Qwen3.8 27B27B · इंटेलिजेंस 33.73-बिट कम क्वालिटी11.8 GB6–10
Muse Glimmer 30B29.6B · इंटेलिजेंस 17.52-बिट कम क्वालिटी9.3 GB7–13
Gemma 4 31B30.7B · इंटेलिजेंस 14.72-बिट कम क्वालिटी9.6 GB7–13
Granite 4.2 30B30B · इंटेलिजेंस 12.72-बिट कम क्वालिटी9.4 GB7–13
Qwen3.6 27B27B3-बिट कम क्वालिटी11.8 GB6–10
Devstral Small 2 (24B)24B3-बिट कम क्वालिटी10.5 GB6–11
Magistral Small 1.2 (2509)24B3-बिट कम क्वालिटी10.5 GB6–11
Mistral Small 3.2 (24B)24B3-बिट कम क्वालिटी10.5 GB6–11

मुश्किल से फ़िट होते हैं 1

लगभग पूरी मेमोरी चाहिए: GPU मेमोरी की सीमा बढ़ाएँ और कॉन्टेक्स्ट छोटा रखें।

मॉडलवर्ज़नमेमोरीटोकन/सेकंड
gpt-oss-20b21B · 3.6B सक्रिय · इंटेलिजेंस 9नेटिव 4.25-बिट13.8 GB36–63

बहुत बड़े 35

18 GB से ज़्यादा मेमोरी चाहिए, 2 बिट पर भी।

सवाल

18 GB वाले Mac के लिए सबसे अच्छा LLM कौन-सा है?
जिन मॉडलों का Intelligence Index प्रकाशित है, उनमें से 18 GB में अच्छी तरह चलने वालों में MiniCPM5 2B का स्कोर सबसे ऊँचा है (8-बिट)। अच्छी तरह चलने वाला सबसे बड़ा मॉडल Gemma 4 12B Unified है।
क्या Mac पर लोकल AI के लिए 18 GB काफ़ी है?
यहाँ के 73 ओपन मॉडल में से 20 इसमें 4 बिट या उससे बेहतर पर अच्छी तरह चलते हैं। डिफ़ॉल्ट रूप से macOS GPU को इसमें से लगभग 14 GB इस्तेमाल करने देता है; मॉडल और उसका कॉन्टेक्स्ट उसी में फ़िट होने चाहिए।
क्या 18 GB Mac पर gpt-oss-20b चल सकता है?
मुश्किल से: GPU मेमोरी की सीमा बढ़ाएँ और कॉन्टेक्स्ट छोटा रखें।

दूसरे साइज़: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

इन्हें MLX Harness (मुफ़्त, ओपन सोर्स) से या Terminal में Apple के mlx-lm से चलाएँ: स्टेप बाय स्टेप।

हिसाब कैसे लगाया गया

मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।

18 GB Mac के लिए सबसे अच्छे लोकल LLM (M3): क्या चलता है