256 GB वाले Mac
M3 से M5 की 2 चिप 256 GB के साथ आती हैं। उसकी अपनी सूची और स्पीड देखने के लिए कोई भी चिप खोलें।
अच्छी तरह चलते हैं 61
कॉन्टेक्स्ट के लिए जगह के साथ फ़िट होते हैं, M5 Ultra पर 10 या ज़्यादा टोकन प्रति सेकंड।
| मॉडल | वर्ज़न | मेमोरी | M3 Ultra | M5 Ultra |
|---|---|---|---|---|
| Qwen3.8 Flash Next180B · 6B सक्रिय · इंटेलिजेंस 39.8 | 6-बिट | 146 GB | 75–134 | 110–196 |
| MiMo V2.6 Flash309B · 15B सक्रिय · इंटेलिजेंस 37.9 | नेटिव 4.48-बिट | 173 GB | 44–78 | 64–114 |
| Qwen3.8 27B27B · इंटेलिजेंस 33.7 | 8-बिट | 28.7 GB | 13–23 | 19–33 |
| Inkling Small276B · 12B सक्रिय · इंटेलिजेंस 25.7 | 4-बिट | 155 GB | 54–96 | 79–141 |
| Hy3295B · 21B सक्रिय · इंटेलिजेंस 25.3 | 4-बिट | 166 GB | 31–56 | 46–81 |
| Nemotron 3.5 Bolt 74B A9B74B · 9B सक्रिय · इंटेलिजेंस 21.4 | 8-बिट | 78.6 GB | 38–68 | 56–100 |
| Qwen3.6 35B A3B35B · 3B सक्रिय · इंटेलिजेंस 18.2 | 8-बिट | 37.2 GB | 115–205 | 169–300 |
| Muse Glimmer 30B29.6B · इंटेलिजेंस 17.5 | 8-बिट | 31.5 GB | 12–21 | 17–30 |
| Qwen3.5 122B A10B122B · 10B सक्रिय · इंटेलिजेंस 15.6 | 8-बिट | 130 GB | 35–62 | 51–91 |
| Gemma 4 31B30.7B · इंटेलिजेंस 14.7 | 8-बिट | 32.6 GB | 11–20 | 17–29 |
| Nemotron 3.5 Lightning 30B A3B30B · 3B सक्रिय · इंटेलिजेंस 12.9 | 8-बिट | 31.9 GB | 115–205 | 169–300 |
| Granite 4.2 30B30B · इंटेलिजेंस 12.7 | 8-बिट | 31.9 GB | 12–21 | 17–30 |
| MiniCPM5 2B2.52B · इंटेलिजेंस 12.5 | 8-बिट | 2.7 GB | 137–243 | 200–356 |
| gpt-oss-120b117B · 5.1B सक्रिय · इंटेलिजेंस 11.6 | नेटिव 4.25-बिट | 65.3 GB | 137–243 | 200–356 |
| Mistral Small 4 (119B)119B · 6.5B सक्रिय · इंटेलिजेंस 11.3 | 8-बिट | 126 GB | 53–95 | 78–139 |
| Qwen3.5 9B9B · इंटेलिजेंस 11.2 | 8-बिट | 9.6 GB | 38–68 | 56–100 |
| Granite 4.2 8B8B · इंटेलिजेंस 11.1 | 8-बिट | 8.5 GB | 43–77 | 64–113 |
| Qwen3 Coder Next80B · 3B सक्रिय · इंटेलिजेंस 9.2 | 8-बिट | 85 GB | 115–205 | 169–300 |
| Granite 4.2 3B3B · इंटेलिजेंस 9.1 | 8-बिट | 3.2 GB | 115–205 | 169–300 |
| gpt-oss-20b21B · 3.6B सक्रिय · इंटेलिजेंस 9 | नेटिव 4.25-बिट | 13.8 GB | 194–345 | 284–505 |
| Nemotron 3 Nano 30B A3B30B · 3.5B सक्रिय · इंटेलिजेंस 8.9 | 8-बिट | 31.9 GB | 100–177 | 146–259 |
| Gemma 4 E4B8B · इंटेलिजेंस 8.9 | 8-बिट | 8.5 GB | 77–137 | 113–200 |
| Llama 4 Scout 17B-16E Instruct109B · 17B सक्रिय · इंटेलिजेंस 6.5 | 8-बिट | 116 GB | 20–36 | 30–53 |
| Ministral 3 8B8.9B · इंटेलिजेंस 5.5 | 8-बिट | 9.5 GB | 39–69 | 57–101 |
| Nemotron 3 Nano 4B3.97B · इंटेलिजेंस 4.8 | 8-बिट | 4.2 GB | 88–156 | 129–229 |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | 4-बिट | 160 GB | 50–90 | 74–132 |
| MiniMax M2.7230B · 10B सक्रिय | 4-बिट | 129 GB | 66–117 | 96–171 |
| Ornith 1.5 122B122B · 10B सक्रिय | 8-बिट | 130 GB | 35–62 | 51–91 |
| Nemotron 3 Super 120B A12B120B · 12B सक्रिय | 8-बिट | 128 GB | 29–51 | 42–75 |
| GLM-4.5 Air106B · 12B सक्रिय | 8-बिट | 113 GB | 29–51 | 42–75 |
| Llama 3.3 70B Instruct70B | 4-बिट | 39.4 GB | 5–9 | 14–24 |
| Qwen3 Coder 30B A3B Instruct30.5B · 3.3B सक्रिय | 8-बिट | 32.4 GB | 105–187 | 154–274 |
| GLM-4.7 Flash30B · 3B सक्रिय | 8-बिट | 31.9 GB | 115–205 | 169–300 |
| Qwen3.6 27B27B | 8-बिट | 28.7 GB | 13–23 | 19–33 |
| Gemma 4 26B A4B25.2B · 3.8B सक्रिय | 8-बिट | 26.8 GB | 92–164 | 135–240 |
| Devstral Small 2 (24B)24B | 8-बिट | 25.5 GB | 14–26 | 21–38 |
| Magistral Small 1.2 (2509)24B | 8-बिट | 25.5 GB | 14–26 | 21–38 |
| Mistral Small 3.2 (24B)24B | 8-बिट | 25.5 GB | 14–26 | 21–38 |
| LFM2.5 24B A2B24B · 2B सक्रिय | 8-बिट | 25.5 GB | 176–312 | 257–457 |
| Phi-4 Reasoning Vision 15B15B | 8-बिट | 15.9 GB | 23–41 | 34–60 |
| Phi-4 (14B)14B | 8-बिट | 14.9 GB | 25–44 | 36–64 |
| Gemma 4 12B Unified12B | 8-बिट | 12.7 GB | 29–52 | 43–76 |
| Qwen3 8B8.2B | 8-बिट | 8.7 GB | 42–75 | 62–110 |
| Llama 3.1 8B Instruct8B | 8-बिट | 8.5 GB | 43–77 | 64–113 |
| Gemma 4 E2B5.1B | 8-बिट | 5.4 GB | 154–273 | 225–400 |
| Qwen3.5 4B4B | 8-बिट | 4.3 GB | 86–152 | 126–223 |
| Phi-4 mini instruct3.8B | 8-बिट | 4 GB | 92–164 | 135–240 |
| Llama 3.2 3B Instruct3.21B | 8-बिट | 3.4 GB | 108–193 | 159–282 |
| SmolLM3 3B3B | 8-बिट | 3.2 GB | 115–205 | 169–300 |
| LFM2.5 2.6B2.69B | 8-बिट | 2.9 GB | 127–226 | 186–331 |
| Qwen3.5 2B2B | 8-बिट | 2.1 GB | 176–312 | 257–457 |
| Llama 3.2 1B Instruct1.23B | 8-बिट | 1.3 GB | 284–504 | 415–738 |
| Qwen3.5 0.8B0.8B | 8-बिट | 0.9 GB | 410–728 | 600–1067 |
| Qwen3 0.6B0.6B | 8-बिट | 0.6 GB | 614–1092 | 900–1600 |
| DeepSeek V4.1 Flash 1017552B · 16B सक्रिय · इंटेलिजेंस 45.1 | 2-बिट कम क्वालिटी | 173 GB | 74–131 | 108–192 |
| GLM-5.3 Flash320B · 18B सक्रिय · इंटेलिजेंस 41.8 | 3-बिट कम क्वालिटी | 140 GB | 47–83 | 68–122 |
| Beam 1.0501B · 23B सक्रिय · इंटेलिजेंस 30.3 | 2-बिट कम क्वालिटी | 157 GB | 51–91 | 75–133 |
| MiniMax M3428B · 23B सक्रिय · इंटेलिजेंस 29.2 | 2-बिट कम क्वालिटी | 134 GB | 51–91 | 75–133 |
| Nemotron 3 Ultra 550B A55B550B · 55B सक्रिय · इंटेलिजेंस 22.9 | 2-बिट कम क्वालिटी | 172 GB | 21–38 | 31–56 |
| Qwen3.5 397B A17B397B · 17B सक्रिय · इंटेलिजेंस 18.4 | 3-बिट कम क्वालिटी | 174 GB | 50–89 | 73–130 |
| Llama 4 Maverick 17B-128E Instruct400B · 17B सक्रिय · इंटेलिजेंस 9.3 | 3-बिट कम क्वालिटी | 175 GB | 50–89 | 73–130 |
चलते हैं, पर धीरे 2
फ़िट होते हैं, पर 10 टोकन प्रति सेकंड से कम: बैच काम के लिए ठीक, चैट के लिए धीमे।
| मॉडल | वर्ज़न | मेमोरी | M3 Ultra | M5 Ultra |
|---|---|---|---|---|
| Mistral Medium 3.5 (128B)128B · इंटेलिजेंस 14.2 | 8-बिट | 136 GB | 3–5 | 4–7 |
| Devstral 2 (123B)123B | 8-बिट | 131 GB | 3–5 | 4–7 |
मुश्किल से फ़िट होते हैं 1
लगभग पूरी मेमोरी चाहिए: GPU मेमोरी की सीमा बढ़ाएँ और कॉन्टेक्स्ट छोटा रखें।
| मॉडल | वर्ज़न | मेमोरी | M3 Ultra | M5 Ultra |
|---|---|---|---|---|
| Mistral Large 3 (675B)675B · 41B सक्रिय | 2-बिट कम क्वालिटी | 211 GB | 29–51 | 42–75 |
बहुत बड़े 9
256 GB से ज़्यादा मेमोरी चाहिए, 2 बिट पर भी।
सवाल
- 256 GB वाले Mac के लिए सबसे अच्छा LLM कौन-सा है?
- जिन मॉडलों का Intelligence Index प्रकाशित है, उनमें से 256 GB में अच्छी तरह चलने वालों में Qwen3.8 Flash Next का स्कोर सबसे ऊँचा है (6-बिट)। अच्छी तरह चलने वाला सबसे बड़ा मॉडल MiMo V2.6 Flash है। कोड के लिए: Qwen3 Coder Next।
- क्या Mac पर लोकल AI के लिए 256 GB काफ़ी है?
- यहाँ के 73 ओपन मॉडल में से 54 इसमें 4 बिट या उससे बेहतर पर अच्छी तरह चलते हैं। डिफ़ॉल्ट रूप से macOS GPU को इसमें से लगभग 192 GB इस्तेमाल करने देता है; मॉडल और उसका कॉन्टेक्स्ट उसी में फ़िट होने चाहिए।
- क्या 256 GB Mac पर gpt-oss-20b चल सकता है?
- हाँ, नेटिव 4.25-बिट पर, M3 Ultra पर लगभग 194–345 टोकन प्रति सेकंड और M5 Ultra पर 284–505।
दूसरे साइज़: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB
इन्हें MLX Harness (मुफ़्त, ओपन सोर्स) से या Terminal में Apple के mlx-lm से चलाएँ: स्टेप बाय स्टेप।
हिसाब कैसे लगाया गया
मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।