લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Ling 3.1 Flash ચાલી શકે?

હા, 512 GB કે વધુ યુનિફાઇડ મેમરી સાથે. Ling 3.1 Flashમાં 560B પૅરામીટર છે, જેમાંથી દરેક ટોકન માટે 25B સક્રિય રહે છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

અપડેટ

4-બિટ પર મેમરી340 GBવેઇટ 315 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac512 GB4-બિટ · 4 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac38–68ટોકન/સેકન્ડ · M5 Ultra 512 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ595 GB643 GBકોઈ પણ Mac કરતાં વધુ
6-બિટ455 GB491 GBકોઈ પણ Mac કરતાં વધુ
4-બિટ315 GB340 GB512 GB
3-બિટ ઓછી ગુણવત્તા245 GB265 GB512 GB
2-બિટ ઓછી ગુણવત્તા175 GB189 GB256 GB

દરેક Apple ચિપ પર

દરેક ચિપની Ling 3.1 Flash ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M6કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Ultra512 GB4-બિટ સારું ચાલે છે38–68
M5 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Ultra512 GB4-બિટ સારું ચાલે છે26–46
M3 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1કોઈ સાઇઝ સમાતી નથીબહુ મોટું–

તેને કેવી રીતે ચલાવવું

  1. Terminalમાં Appleના MLX સાથે: હજી કોઈ MLX બિલ્ડ નથી, અને સામાન્ય mlx-lm હજી સત્તાવાર વેઇટ્સને રૂપાંતરિત કરી શકતું નથી (bailing_moe_v3.py).

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Ling 3.1 Flash વિશે

બનાવનારinclusionAI
પૅરામીટર560B કુલ · 25B સક્રિય (mixture of experts)
કૉન્ટેક્સ્ટ256K ટોકન
લાઇસન્સMIT
રિલીઝ2026-10
ઇનપુટટેક્સ્ટ
ઇન્ટેલિજન્સArtificial Analysis Intelligence Index પર 41.1
વેઇટinclusionAI/Ling-3.1-flash

પ્રશ્નો

Ling 3.1 Flashને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 315 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 340 GB. Mac પર એનો અર્થ 512 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર Ling 3.1 Flash કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 512 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 38–68 ટોકન (4-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 512 GBવાળું M5 Ultra, આશરે 38–68 સુધી પહોંચે છે.
Ling 3.1 Flash તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 560B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 25B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Ling 3.1 Flash Ling 3.1 Flashને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/ling-3.1-flash.svg)](https://mlx.app/run/ling-3.1-flash)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

ઓપન ડેટા: mlx.app/data (JSON, CSV)

શું Mac પર Ling 3.1 Flash ચાલી શકે? મેમરી અને ઝડપ