લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Qwen3 Coder Next ચાલી શકે?

હા, 96 GB કે વધુ યુનિફાઇડ મેમરી સાથે. Qwen3 Coder Nextમાં 80B પૅરામીટર છે, જેમાંથી દરેક ટોકન માટે 3B સક્રિય રહે છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી48.6 GBવેઇટ 45 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac96 GB6-બિટ · 32 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac225–400ટોકન/સેકન્ડ · M5 Ultra 96 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ85 GB91.8 GB128 GB
6-બિટ65 GB70.2 GB96 GB
4-બિટ45 GB48.6 GB96 GB
3-બિટ ઓછી ગુણવત્તા35 GB37.8 GB64 GB
2-બિટ ઓછી ગુણવત્તા25 GB27 GB36 GB

દરેક Apple ચિપ પર

દરેક ચિપની Qwen3 Coder Next ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M632 GB2-બિટ માંડ માંડ85–151
M5 Ultra96 GB6-બિટ સારું ચાલે છે225–400
M5 Max128 GB8-બિટ સારું ચાલે છે86–154
M5 Pro48 GB2-બિટ સારું ચાલે છે154–273
M532 GB2-બિટ માંડ માંડ77–136
M4 Max128 GB8-બિટ સારું ચાલે છે77–137
M4 Pro48 GB2-બિટ સારું ચાલે છે137–243
M432 GB2-બિટ માંડ માંડ60–107
M3 Ultra96 GB6-બિટ સારું ચાલે છે154–273
M3 Max96 GB6-બિટ સારું ચાલે છે56–100
M3 Pro36 GB2-બિટ સારું ચાલે છે75–133
M3કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Ultra128 GB8-બિટ સારું ચાલે છે113–200
M2 Max96 GB6-બિટ સારું ચાલે છે75–133
M2 Pro32 GB2-બિટ માંડ માંડ100–178
M2કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Ultra128 GB8-બિટ સારું ચાલે છે113–200
M1 Max64 GB3-બિટ સારું ચાલે છે138–246
M1 Pro32 GB2-બિટ માંડ માંડ100–178
M1કોઈ સાઇઝ સમાતી નથીબહુ મોટું–

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Qwen3 Coder Next શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-Next-4bitબિલ્ડ: Hugging Face પર mlx-community/Qwen3-Coder-Next-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Qwen3 Coder Next વિશે

બનાવનારQwen (Alibaba)
પૅરામીટર80B કુલ · 3B સક્રિય (mixture of experts)
કૉન્ટેક્સ્ટ256K ટોકન
લાઇસન્સApache-2.0
રિલીઝ2026-01
ઇનપુટટેક્સ્ટ
ઇન્ટેલિજન્સArtificial Analysis Intelligence Index પર 9.2
વેઇટQwen/Qwen3-Coder-Next

પ્રશ્નો

Qwen3 Coder Nextને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 45 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 48.6 GB. Mac પર એનો અર્થ 96 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર Qwen3 Coder Next કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 96 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 225–400 ટોકન (6-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 96 GBવાળું M5 Ultra, આશરે 225–400 સુધી પહોંચે છે.
Qwen3 Coder Next તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 80B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 3B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Qwen3 Coder Next Qwen3 Coder Nextને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-coder-next.svg)](https://mlx.app/run/qwen3-coder-next)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર Qwen3 Coder Next ચાલી શકે? મેમરી અને ઝડપ