प्रत्येक प्रिसिजनला मेमरी
| आवृत्ती | वेट | कॉन्टेक्स्टसह | सर्वात लहान Mac |
|---|---|---|---|
| 8-बिट | 37.2 GB | 40.2 GB | 64 GB |
| 6-बिट | 28.4 GB | 30.7 GB | 48 GB |
| 4-बिट | 19.7 GB | 21.3 GB | 32 GB |
| 3-बिट कमी गुणवत्ता | 15.3 GB | 16.8 GB | 24 GB |
| 2-बिट कमी गुणवत्ता | 10.9 GB | 12.4 GB | 18 GB |
प्रत्येक Apple चिपवर
प्रत्येक चिपचा Qwen3.6 35B A3B चालवणारा सर्वात लहान मेमरी आकार, त्यात बसणारी सर्वोत्तम आवृत्ती, आणि अपेक्षित लिहिण्याचा वेग.
| चिप | लागते | आवृत्ती | टोकन/सेकंद |
|---|---|---|---|
| M6 | 32 GB | 4-बिट चांगले चालते | 45–80 |
| M5 Ultra | 96 GB | 8-बिट चांगले चालते | 169–300 |
| M5 Max | 36 GB | 4-बिट चांगले चालते | 122–216 |
| M5 Pro | 48 GB | 6-बिट चांगले चालते | 58–102 |
| M5 | 32 GB | 4-बिट चांगले चालते | 41–72 |
| M4 Max | 36 GB | 4-बिट चांगले चालते | 109–193 |
| M4 Pro | 48 GB | 6-बिट चांगले चालते | 51–91 |
| M4 | 32 GB | 4-बिट चांगले चालते | 32–56 |
| M3 Ultra | 96 GB | 8-बिट चांगले चालते | 115–205 |
| M3 Max | 36 GB | 4-बिट चांगले चालते | 79–141 |
| M3 Pro | 36 GB | 4-बिट चांगले चालते | 40–71 |
| M3 | 24 GB | 3-बिट चांगले चालते | 35–62 |
| M2 Ultra | 64 GB | 8-बिट चांगले चालते | 113–200 |
| M2 Max | 32 GB | 4-बिट चांगले चालते | 106–188 |
| M2 Pro | 32 GB | 4-बिट चांगले चालते | 53–94 |
| M2 | 24 GB | 3-बिट चांगले चालते | 35–62 |
| M1 Ultra | 64 GB | 8-बिट चांगले चालते | 113–200 |
| M1 Max | 32 GB | 4-बिट चांगले चालते | 106–188 |
| M1 Pro | 32 GB | 4-बिट चांगले चालते | 53–94 |
| M1 | 16 GB | 2-बिट जेमतेम | 34–60 |
ते कसे चालवायचे
- सोपा मार्ग: MLX Harness डाउनलोड करा, ते मोफत आणि ओपन सोर्स आहे. Qwen3.6 35B A3B शोधा, तुमच्या Mac मध्ये बसणारी आवृत्ती डाउनलोड करा, आणि चॅट करा. ते OpenAI-compatible API द्वारे हे मॉडेल तुमच्या इतर ॲप्सनाही देते.MLX Harness डाउनलोड करामोफत · Apple Silicon · macOS 14.5 किंवा नंतरचे
- Terminal मध्ये Apple च्या MLX सह:
pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.6-35B-A3B-4bitबिल्ड: Hugging Face वर mlx-community/Qwen3.6-35B-A3B-4bit. इतर प्रिसिजन त्याच्याच शेजारी आहेत.
टप्प्याटप्प्याने: Mac वर LLM डाउनलोड करा आणि चालवा · MLX Harness कसे वापरायचे · MLX विरुद्ध Ollama विरुद्ध llama.cpp
Qwen3.6 35B A3B बद्दल
| निर्माते | Qwen (Alibaba) |
|---|---|
| पॅरामीटर | 35B एकूण · 3B सक्रिय (mixture of experts) |
| कॉन्टेक्स्ट | 256K टोकन |
| परवाना | Apache-2.0 |
| प्रकाशित | 2026-04 |
| इनपुट | मजकूर आणि प्रतिमा |
| इंटेलिजन्स | Artificial Analysis Intelligence Index वर 18.2 |
| वेट | Qwen/Qwen3.6-35B-A3B |
प्रश्न
- Qwen3.6 35B A3B ला किती मेमरी लागते?
- 4-बिट ला सुमारे 19.7 GB वेट, शिवाय कॉन्टेक्स्टसाठी जागा: एकूण 21.3 GB. Mac वर याचा अर्थ 32 GB किंवा जास्त युनिफाइड मेमरी, कारण डिफॉल्टनुसार macOS GPU ला त्यापैकी सुमारे 75% वापरू देते.
- Mac वर Qwen3.6 35B A3B किती वेगाने चालते?
- लिहिण्याचा वेग मेमरी बँडविड्थवर अवलंबून असतो. यासाठी इथला सर्वात वेगवान Mac 96 GB असलेला M5 Ultra आहे, सेकंदाला सुमारे 169–300 टोकन (8-बिट). ते चालवणारा सर्वात लहान Mac, 32 GB असलेला M2 Max, सुमारे 106–188 पर्यंत पोहोचतो.
- Qwen3.6 35B A3B त्याच्या आकाराच्या मानाने वेगाने का चालते?
- हे mixture-of-experts मॉडेल आहे: ते मेमरीत 35B पॅरामीटर ठेवते, पण प्रत्येक टोकनसाठी फक्त 3B वाचते, त्यामुळे ते खूप लहान मॉडेलच्या वेगाने लिहिते.
तत्सम मॉडेल
तुमच्या मॉडेल कार्ड किंवा README साठी
Qwen3.6 35B A3B चांगले चालवणारा सर्वात लहान Mac दाखवते आणि इथे लिंक करते.
[](https://mlx.app/run/qwen3.6-35b-a3b)हिशोब कसा केला
मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.