લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Qwen3.5 397B A17B ચાલી શકે?

હા, 512 GB કે વધુ યુનિફાઇડ મેમરી સાથે. Qwen3.5 397B A17Bમાં 397B પૅરામીટર છે, જેમાંથી દરેક ટોકન માટે 17B સક્રિય રહે છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી241 GBવેઇટ 223 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac512 GB6-બિટ · 5 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac39–70ટોકન/સેકન્ડ · M5 Ultra 512 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ422 GB456 GBકોઈ પણ Mac કરતાં વધુ
6-બિટ323 GB348 GB512 GB
4-બિટ223 GB241 GB512 GB
3-બિટ ઓછી ગુણવત્તા174 GB188 GB256 GB
2-બિટ ઓછી ગુણવત્તા124 GB134 GB192 GB

દરેક Apple ચિપ પર

દરેક ચિપની Qwen3.5 397B A17B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M6કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Ultra512 GB6-બિટ સારું ચાલે છે39–70
M5 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Ultra512 GB6-બિટ સારું ચાલે છે27–47
M3 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Ultra192 GB2-બિટ સારું ચાલે છે68–121
M2 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1કોઈ સાઇઝ સમાતી નથીબહુ મોટું–

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Qwen3.5 397B A17B શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.5-397B-A17B-4bitબિલ્ડ: Hugging Face પર mlx-community/Qwen3.5-397B-A17B-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Qwen3.5 397B A17B વિશે

બનાવનારQwen (Alibaba)
પૅરામીટર397B કુલ · 17B સક્રિય (mixture of experts)
કૉન્ટેક્સ્ટ256K ટોકન
લાઇસન્સApache-2.0
રિલીઝ2026-02
ઇનપુટટેક્સ્ટ અને ઇમેજ
ઇન્ટેલિજન્સArtificial Analysis Intelligence Index પર 18.4
વેઇટQwen/Qwen3.5-397B-A17B

પ્રશ્નો

Qwen3.5 397B A17Bને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 223 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 241 GB. Mac પર એનો અર્થ 512 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર Qwen3.5 397B A17B કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 512 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 39–70 ટોકન (6-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 512 GBવાળું M5 Ultra, આશરે 39–70 સુધી પહોંચે છે.
Qwen3.5 397B A17B તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 397B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 17B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Qwen3.5 397B A17B Qwen3.5 397B A17Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.5-397b-a17b.svg)](https://mlx.app/run/qwen3.5-397b-a17b)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર Qwen3.5 397B A17B ચાલી શકે? મેમરી અને ઝડપ