દરેક પ્રિસિઝન પર મેમરી
| વર્ઝન | વેઇટ | કૉન્ટેક્સ્ટ સાથે | સૌથી નાનું Mac |
|---|---|---|---|
| 8-બિટ | 191 GB | 207 GB | 512 GB |
| 6-બિટ | 146 GB | 158 GB | 256 GB |
| 4-બિટ | 101 GB | 109 GB | 192 GB |
| 3-બિટ ઓછી ગુણવત્તા | 78.8 GB | 85.1 GB | 128 GB |
| 2-બિટ ઓછી ગુણવત્તા | 56.3 GB | 60.8 GB | 96 GB |
દરેક Apple ચિપ પર
દરેક ચિપની Qwen3.8 Flash Next ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.
| ચિપ | જરૂર | વર્ઝન | ટોકન/સેકન્ડ |
|---|---|---|---|
| M6 | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M5 Ultra | 256 GB | 6-બિટ સારું ચાલે છે | 110–196 |
| M5 Max | 128 GB | 3-બિટ સારું ચાલે છે | 106–189 |
| M5 Pro | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M5 | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M4 Max | 128 GB | 3-બિટ સારું ચાલે છે | 95–168 |
| M4 Pro | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M4 | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M3 Ultra | 256 GB | 6-બિટ સારું ચાલે છે | 75–134 |
| M3 Max | 96 GB | 2-બિટ સારું ચાલે છે | 71–126 |
| M3 Pro | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M3 | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M2 Ultra | 192 GB | 4-બિટ સારું ચાલે છે | 106–188 |
| M2 Max | 96 GB | 2-બિટ સારું ચાલે છે | 95–168 |
| M2 Pro | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M2 | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M1 Ultra | 128 GB | 3-બિટ સારું ચાલે છે | 138–246 |
| M1 Max | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M1 Pro | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
| M1 | કોઈ સાઇઝ સમાતી નથી | બહુ મોટું | – |
તેને કેવી રીતે ચલાવવું
- સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Qwen3.8 Flash Next શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
- Terminalમાં Appleના MLX સાથે:
pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.8-Flash-Next-4bitબિલ્ડ: Hugging Face પર mlx-community/Qwen3.8-Flash-Next-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.
સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp
Qwen3.8 Flash Next વિશે
| બનાવનાર | Qwen (Alibaba) |
|---|---|
| પૅરામીટર | 180B કુલ · 6B સક્રિય (mixture of experts) |
| કૉન્ટેક્સ્ટ | 256K ટોકન |
| લાઇસન્સ | Qwen Community License 1.0 (qwen-community-1.0) |
| રિલીઝ | 2026-08 |
| ઇનપુટ | ટેક્સ્ટ અને ઇમેજ |
| ઇન્ટેલિજન્સ | Artificial Analysis Intelligence Index પર 39.8 |
| વેઇટ | Qwen/Qwen3.8-Flash-Next |
પ્રશ્નો
- Qwen3.8 Flash Nextને કેટલી મેમરી જોઈએ?
- 4-બિટ પર આશરે 101 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 109 GB. Mac પર એનો અર્થ 192 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
- Mac પર Qwen3.8 Flash Next કેટલું ઝડપી ચાલે છે?
- લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 256 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 110–196 ટોકન (6-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 192 GBવાળું M2 Ultra, આશરે 106–188 સુધી પહોંચે છે.
- Qwen3.8 Flash Next તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
- તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 180B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 6B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.
મળતાં આવતાં મૉડલ
તમારા મૉડલ કાર્ડ કે README માટે
Qwen3.8 Flash Nextને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.
[](https://mlx.app/run/qwen3.8-flash-next)ગણતરી કેવી રીતે થઈ
મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.