લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Qwen3.5 122B A10B ચાલી શકે?

હા, 128 GB કે વધુ યુનિફાઇડ મેમરી સાથે. Qwen3.5 122B A10Bમાં 122B પૅરામીટર છે, જેમાંથી દરેક ટોકન માટે 10B સક્રિય રહે છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી74.1 GBવેઇટ 68.6 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac128 GB4-બિટ · 23 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac64–114ટોકન/સેકન્ડ · M2 Ultra 128 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ130 GB140 GB192 GB
6-બિટ99.1 GB107 GB192 GB
4-બિટ68.6 GB74.1 GB128 GB
3-બિટ ઓછી ગુણવત્તા53.4 GB57.7 GB96 GB
2-બિટ ઓછી ગુણવત્તા38.1 GB41.1 GB64 GB

દરેક Apple ચિપ પર

દરેક ચિપની Qwen3.5 122B A10B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M6કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Ultra256 GB8-બિટ સારું ચાલે છે51–91
M5 Max128 GB4-બિટ સારું ચાલે છે49–88
M5 Pro64 GB2-બિટ સારું ચાલે છે45–79
M5કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Max128 GB4-બિટ સારું ચાલે છે44–78
M4 Pro64 GB2-બિટ સારું ચાલે છે40–70
M4કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Ultra256 GB8-બિટ સારું ચાલે છે35–62
M3 Max128 GB4-બિટ સારું ચાલે છે32–57
M3 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Ultra128 GB4-બિટ સારું ચાલે છે64–114
M2 Max64 GB2-બિટ સારું ચાલે છે58–103
M2 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Ultra128 GB4-બિટ સારું ચાલે છે64–114
M1 Max64 GB2-બિટ સારું ચાલે છે58–103
M1 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1કોઈ સાઇઝ સમાતી નથીબહુ મોટું–

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Qwen3.5 122B A10B શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.5-122B-A10B-4bitબિલ્ડ: Hugging Face પર mlx-community/Qwen3.5-122B-A10B-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Qwen3.5 122B A10B વિશે

બનાવનારQwen (Alibaba)
પૅરામીટર122B કુલ · 10B સક્રિય (mixture of experts)
કૉન્ટેક્સ્ટ256K ટોકન
લાઇસન્સApache-2.0
રિલીઝ2026-02
ઇનપુટટેક્સ્ટ અને ઇમેજ
ઇન્ટેલિજન્સArtificial Analysis Intelligence Index પર 15.6
વેઇટQwen/Qwen3.5-122B-A10B

પ્રશ્નો

Qwen3.5 122B A10Bને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 68.6 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 74.1 GB. Mac પર એનો અર્થ 128 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર Qwen3.5 122B A10B કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 128 GBવાળું M2 Ultra છે, સેકન્ડના આશરે 64–114 ટોકન (4-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 128 GBવાળું M2 Ultra, આશરે 64–114 સુધી પહોંચે છે.
Qwen3.5 122B A10B તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 122B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 10B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Qwen3.5 122B A10B Qwen3.5 122B A10Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.5-122b-a10b.svg)](https://mlx.app/run/qwen3.5-122b-a10b)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર Qwen3.5 122B A10B ચાલી શકે? મેમરી અને ઝડપ