प्रत्येक प्रिसिजनला मेमरी
| आवृत्ती | वेट | कॉन्टेक्स्टसह | सर्वात लहान Mac |
|---|---|---|---|
| 8-बिट | 85 GB | 91.8 GB | 128 GB |
| 6-बिट | 65 GB | 70.2 GB | 96 GB |
| 4-बिट | 45 GB | 48.6 GB | 96 GB |
| 3-बिट कमी गुणवत्ता | 35 GB | 37.8 GB | 64 GB |
| 2-बिट कमी गुणवत्ता | 25 GB | 27 GB | 36 GB |
प्रत्येक Apple चिपवर
प्रत्येक चिपचा Qwen3 Coder Next चालवणारा सर्वात लहान मेमरी आकार, त्यात बसणारी सर्वोत्तम आवृत्ती, आणि अपेक्षित लिहिण्याचा वेग.
| चिप | लागते | आवृत्ती | टोकन/सेकंद |
|---|---|---|---|
| M6 | 32 GB | 2-बिट जेमतेम | 85–151 |
| M5 Ultra | 96 GB | 6-बिट चांगले चालते | 225–400 |
| M5 Max | 128 GB | 8-बिट चांगले चालते | 86–154 |
| M5 Pro | 48 GB | 2-बिट चांगले चालते | 154–273 |
| M5 | 32 GB | 2-बिट जेमतेम | 77–136 |
| M4 Max | 128 GB | 8-बिट चांगले चालते | 77–137 |
| M4 Pro | 48 GB | 2-बिट चांगले चालते | 137–243 |
| M4 | 32 GB | 2-बिट जेमतेम | 60–107 |
| M3 Ultra | 96 GB | 6-बिट चांगले चालते | 154–273 |
| M3 Max | 96 GB | 6-बिट चांगले चालते | 56–100 |
| M3 Pro | 36 GB | 2-बिट चांगले चालते | 75–133 |
| M3 | कोणताही आकार बसत नाही | खूप मोठे | – |
| M2 Ultra | 128 GB | 8-बिट चांगले चालते | 113–200 |
| M2 Max | 96 GB | 6-बिट चांगले चालते | 75–133 |
| M2 Pro | 32 GB | 2-बिट जेमतेम | 100–178 |
| M2 | कोणताही आकार बसत नाही | खूप मोठे | – |
| M1 Ultra | 128 GB | 8-बिट चांगले चालते | 113–200 |
| M1 Max | 64 GB | 3-बिट चांगले चालते | 138–246 |
| M1 Pro | 32 GB | 2-बिट जेमतेम | 100–178 |
| M1 | कोणताही आकार बसत नाही | खूप मोठे | – |
ते कसे चालवायचे
- सोपा मार्ग: MLX Harness डाउनलोड करा, ते मोफत आणि ओपन सोर्स आहे. Qwen3 Coder Next शोधा, तुमच्या Mac मध्ये बसणारी आवृत्ती डाउनलोड करा, आणि चॅट करा. ते OpenAI-compatible API द्वारे हे मॉडेल तुमच्या इतर ॲप्सनाही देते.MLX Harness डाउनलोड करामोफत · Apple Silicon · macOS 14.5 किंवा नंतरचे
- Terminal मध्ये Apple च्या MLX सह:
pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-Next-4bitबिल्ड: Hugging Face वर mlx-community/Qwen3-Coder-Next-4bit. इतर प्रिसिजन त्याच्याच शेजारी आहेत.
टप्प्याटप्प्याने: Mac वर LLM डाउनलोड करा आणि चालवा · MLX Harness कसे वापरायचे · MLX विरुद्ध Ollama विरुद्ध llama.cpp
Qwen3 Coder Next बद्दल
| निर्माते | Qwen (Alibaba) |
|---|---|
| पॅरामीटर | 80B एकूण · 3B सक्रिय (mixture of experts) |
| कॉन्टेक्स्ट | 256K टोकन |
| परवाना | Apache-2.0 |
| प्रकाशित | 2026-01 |
| इनपुट | मजकूर |
| इंटेलिजन्स | Artificial Analysis Intelligence Index वर 9.2 |
| वेट | Qwen/Qwen3-Coder-Next |
प्रश्न
- Qwen3 Coder Next ला किती मेमरी लागते?
- 4-बिट ला सुमारे 45 GB वेट, शिवाय कॉन्टेक्स्टसाठी जागा: एकूण 48.6 GB. Mac वर याचा अर्थ 96 GB किंवा जास्त युनिफाइड मेमरी, कारण डिफॉल्टनुसार macOS GPU ला त्यापैकी सुमारे 75% वापरू देते.
- Mac वर Qwen3 Coder Next किती वेगाने चालते?
- लिहिण्याचा वेग मेमरी बँडविड्थवर अवलंबून असतो. यासाठी इथला सर्वात वेगवान Mac 96 GB असलेला M5 Ultra आहे, सेकंदाला सुमारे 225–400 टोकन (6-बिट). ते चालवणारा सर्वात लहान Mac, 96 GB असलेला M5 Ultra, सुमारे 225–400 पर्यंत पोहोचतो.
- Qwen3 Coder Next त्याच्या आकाराच्या मानाने वेगाने का चालते?
- हे mixture-of-experts मॉडेल आहे: ते मेमरीत 80B पॅरामीटर ठेवते, पण प्रत्येक टोकनसाठी फक्त 3B वाचते, त्यामुळे ते खूप लहान मॉडेलच्या वेगाने लिहिते.
तत्सम मॉडेल
तुमच्या मॉडेल कार्ड किंवा README साठी
Qwen3 Coder Next चांगले चालवणारा सर्वात लहान Mac दाखवते आणि इथे लिंक करते.
[](https://mlx.app/run/qwen3-coder-next)हिशोब कसा केला
मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.