લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Qwen3.6 35B A3B ચાલી શકે?

હા, 32 GB કે વધુ યુનિફાઇડ મેમરી સાથે. Qwen3.6 35B A3Bમાં 35B પૅરામીટર છે, જેમાંથી દરેક ટોકન માટે 3B સક્રિય રહે છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી21.3 GBવેઇટ 19.7 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac32 GB4-બિટ · 47 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac169–300ટોકન/સેકન્ડ · M5 Ultra 96 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ37.2 GB40.2 GB64 GB
6-બિટ28.4 GB30.7 GB48 GB
4-બિટ19.7 GB21.3 GB32 GB
3-બિટ ઓછી ગુણવત્તા15.3 GB16.8 GB24 GB
2-બિટ ઓછી ગુણવત્તા10.9 GB12.4 GB18 GB

દરેક Apple ચિપ પર

દરેક ચિપની Qwen3.6 35B A3B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M632 GB4-બિટ સારું ચાલે છે45–80
M5 Ultra96 GB8-બિટ સારું ચાલે છે169–300
M5 Max36 GB4-બિટ સારું ચાલે છે122–216
M5 Pro48 GB6-બિટ સારું ચાલે છે58–102
M532 GB4-બિટ સારું ચાલે છે41–72
M4 Max36 GB4-બિટ સારું ચાલે છે109–193
M4 Pro48 GB6-બિટ સારું ચાલે છે51–91
M432 GB4-બિટ સારું ચાલે છે32–56
M3 Ultra96 GB8-બિટ સારું ચાલે છે115–205
M3 Max36 GB4-બિટ સારું ચાલે છે79–141
M3 Pro36 GB4-બિટ સારું ચાલે છે40–71
M324 GB3-બિટ સારું ચાલે છે35–62
M2 Ultra64 GB8-બિટ સારું ચાલે છે113–200
M2 Max32 GB4-બિટ સારું ચાલે છે106–188
M2 Pro32 GB4-બિટ સારું ચાલે છે53–94
M224 GB3-બિટ સારું ચાલે છે35–62
M1 Ultra64 GB8-બિટ સારું ચાલે છે113–200
M1 Max32 GB4-બિટ સારું ચાલે છે106–188
M1 Pro32 GB4-બિટ સારું ચાલે છે53–94
M116 GB2-બિટ માંડ માંડ34–60

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Qwen3.6 35B A3B શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.6-35B-A3B-4bitબિલ્ડ: Hugging Face પર mlx-community/Qwen3.6-35B-A3B-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Qwen3.6 35B A3B વિશે

બનાવનારQwen (Alibaba)
પૅરામીટર35B કુલ · 3B સક્રિય (mixture of experts)
કૉન્ટેક્સ્ટ256K ટોકન
લાઇસન્સApache-2.0
રિલીઝ2026-04
ઇનપુટટેક્સ્ટ અને ઇમેજ
ઇન્ટેલિજન્સArtificial Analysis Intelligence Index પર 18.2
વેઇટQwen/Qwen3.6-35B-A3B

પ્રશ્નો

Qwen3.6 35B A3Bને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 19.7 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 21.3 GB. Mac પર એનો અર્થ 32 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર Qwen3.6 35B A3B કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 96 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 169–300 ટોકન (8-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 32 GBવાળું M2 Max, આશરે 106–188 સુધી પહોંચે છે.
Qwen3.6 35B A3B તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 35B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 3B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Qwen3.6 35B A3B Qwen3.6 35B A3Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.6-35b-a3b.svg)](https://mlx.app/run/qwen3.6-35b-a3b)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર Qwen3.6 35B A3B ચાલી શકે? મેમરી અને ઝડપ