ప్రతి ప్రెసిషన్ వద్ద మెమరీ
| వెర్షన్ | వెయిట్లు | కాంటెక్స్ట్‌తో | అతిచిన్న Mac |
|---|---|---|---|
| 8-బిట్ | 85 GB | 91.8 GB | 128 GB |
| 6-బిట్ | 65 GB | 70.2 GB | 96 GB |
| 4-బిట్ | 45 GB | 48.6 GB | 96 GB |
| 3-బిట్ తక్కువ నాణ్యత | 35 GB | 37.8 GB | 64 GB |
| 2-బిట్ తక్కువ నాణ్యత | 25 GB | 27 GB | 36 GB |
ప్రతి Apple చిప్‌పై
Qwen3 Coder Nextను నడిపే ప్రతి చిప్ యొక్క అతిచిన్న మెమరీ సైజు, దానిలో సరిపోయే ఉత్తమ వెర్షన్, ఆశించదగిన రాసే వేగం.
| చిప్ | కావాలి | వెర్షన్ | టోకెన్లు/సెకను |
|---|---|---|---|
| M6 | 32 GB | 2-బిట్ అతికష్టంగా | 85–151 |
| M5 Ultra | 96 GB | 6-బిట్ బాగా నడుస్తుంది | 225–400 |
| M5 Max | 128 GB | 8-బిట్ బాగా నడుస్తుంది | 86–154 |
| M5 Pro | 48 GB | 2-బిట్ బాగా నడుస్తుంది | 154–273 |
| M5 | 32 GB | 2-బిట్ అతికష్టంగా | 77–136 |
| M4 Max | 128 GB | 8-బిట్ బాగా నడుస్తుంది | 77–137 |
| M4 Pro | 48 GB | 2-బిట్ బాగా నడుస్తుంది | 137–243 |
| M4 | 32 GB | 2-బిట్ అతికష్టంగా | 60–107 |
| M3 Ultra | 96 GB | 6-బిట్ బాగా నడుస్తుంది | 154–273 |
| M3 Max | 96 GB | 6-బిట్ బాగా నడుస్తుంది | 56–100 |
| M3 Pro | 36 GB | 2-బిట్ బాగా నడుస్తుంది | 75–133 |
| M3 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M2 Ultra | 128 GB | 8-బిట్ బాగా నడుస్తుంది | 113–200 |
| M2 Max | 96 GB | 6-బిట్ బాగా నడుస్తుంది | 75–133 |
| M2 Pro | 32 GB | 2-బిట్ అతికష్టంగా | 100–178 |
| M2 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 Ultra | 128 GB | 8-బిట్ బాగా నడుస్తుంది | 113–200 |
| M1 Max | 64 GB | 3-బిట్ బాగా నడుస్తుంది | 138–246 |
| M1 Pro | 32 GB | 2-బిట్ అతికష్టంగా | 100–178 |
| M1 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
దీన్ని ఎలా నడపాలి
- సులభమైన మార్గం: ఉచితమైన, ఓపెన్ సోర్స్ MLX Harnessను డౌన్‌లోడ్ చేయండి. Qwen3 Coder Next కోసం వెతికి, మీ Macలో సరిపోయే వెర్షన్‌ను డౌన్‌లోడ్ చేసి, చాట్ చేయండి. ఇది OpenAI-compatible API ద్వారా ఆ మోడల్‌ను మీ ఇతర యాప్‌లకు కూడా అందిస్తుంది.MLX Harness డౌన్‌లోడ్ చేయండిఉచితం · Apple Silicon · macOS 14.5 లేదా తర్వాతి వెర్షన్
- Terminalలో Apple MLXతో:
pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-Next-4bitబిల్డ్: Hugging Faceలో mlx-community/Qwen3-Coder-Next-4bit. ఇతర ప్రెసిషన్‌లు దాని పక్కనే ఉన్నాయి.
దశలవారీగా: Macలో LLMలను డౌన్‌లోడ్ చేసి నడపండి · MLX Harnessను ఎలా వాడాలి · MLX vs Ollama vs llama.cpp
Qwen3 Coder Next గురించి
| తయారీదారు | Qwen (Alibaba) |
|---|---|
| పారామీటర్‌లు | మొత్తం 80B · యాక్టివ్ 3B (mixture of experts) |
| కాంటెక్స్ట్ | 256K టోకెన్లు |
| లైసెన్స్ | Apache-2.0 |
| విడుదల | 2026-01 |
| ఇన్‌పుట్ | టెక్స్ట్ |
| ఇంటెలిజెన్స్ | Artificial Analysis Intelligence Indexలో 9.2 |
| వెయిట్లు | Qwen/Qwen3-Coder-Next |
ప్రశ్నలు
- Qwen3 Coder Nextకు ఎంత మెమరీ కావాలి?
- 4-బిట్ వద్ద సుమారు 45 GB వెయిట్లు, దానితో పాటు కాంటెక్స్ట్కు చోటు: మొత్తం 48.6 GB. Macలో అంటే 96 GB లేదా అంతకంటే ఎక్కువ యూనిఫైడ్ మెమరీ, ఎందుకంటే డిఫాల్ట్గా macOS దానిలో సుమారు 75%ను మాత్రమే GPU వాడుకోనిస్తుంది.
- Macలో Qwen3 Coder Next ఎంత వేగంగా నడుస్తుంది?
- రాసే వేగం మెమరీ బ్యాండ్విడ్త్పై ఆధారపడుతుంది. ఇక్కడ దీనికి అత్యంత వేగవంతమైన Mac 96 GB ఉన్న M5 Ultra, సెకనుకు సుమారు 225–400 టోకెన్లు (6-బిట్). దీన్ని నడిపే అతిచిన్న Mac, 96 GB ఉన్న M5 Ultra, సుమారు 225–400 వరకు చేరుతుంది.
- Qwen3 Coder Next దాని సైజుకు మించిన వేగంతో ఎందుకు నడుస్తుంది?
- ఇది mixture-of-experts మోడల్: మెమరీలో 80B పారామీటర్లను ఉంచుతుంది, కానీ ప్రతి టోకెన్కు 3B మాత్రమే చదువుతుంది, అందుకే చాలా చిన్న మోడల్ వేగంతో రాస్తుంది.
ఇలాంటి మోడల్‌లు
మీ మోడల్ కార్డ్ లేదా README కోసం
Qwen3 Coder Nextను బాగా నడిపే అతిచిన్న Macను చూపి, ఇక్కడికి లింక్ ఇస్తుంది.
[](https://mlx.app/run/qwen3-coder-next)ఎలా లెక్కించాం
మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్‌ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్కు చోటు. డిఫాల్ట్గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.