લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Mistral Large 3 (675B) ચાલી શકે?

હા, 512 GB કે વધુ યુનિફાઇડ મેમરી સાથે. Mistral Large 3 (675B)માં 675B પૅરામીટર છે, જેમાંથી દરેક ટોકન માટે 41B સક્રિય રહે છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી410 GBવેઇટ 380 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac512 GB3-બિટ · 2 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac30–54ટોકન/સેકન્ડ · M5 Ultra 512 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ717 GB775 GBકોઈ પણ Mac કરતાં વધુ
6-બિટ548 GB592 GBકોઈ પણ Mac કરતાં વધુ
4-બિટ380 GB410 GBકોઈ પણ Mac કરતાં વધુ
3-બિટ ઓછી ગુણવત્તા295 GB319 GB512 GB
2-બિટ ઓછી ગુણવત્તા211 GB228 GB512 GB

દરેક Apple ચિપ પર

દરેક ચિપની Mistral Large 3 (675B) ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M6કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Ultra512 GB3-બિટ સારું ચાલે છે30–54
M5 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Ultra512 GB3-બિટ સારું ચાલે છે21–37
M3 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1કોઈ સાઇઝ સમાતી નથીબહુ મોટું–

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Mistral Large 3 (675B) શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bitબિલ્ડ: Hugging Face પર mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Mistral Large 3 (675B) વિશે

બનાવનારMistral AI
પૅરામીટર675B કુલ · 41B સક્રિય (mixture of experts)
કૉન્ટેક્સ્ટ256K ટોકન
લાઇસન્સApache-2.0
રિલીઝ2025-11
ઇનપુટટેક્સ્ટ અને ઇમેજ
વેઇટmistralai/Mistral-Large-3-675B-Instruct-2512

પ્રશ્નો

Mistral Large 3 (675B)ને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 380 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 410 GB. આજે કોઈ Mac પાસે આટલી મેમરી નથી.
Mac પર Mistral Large 3 (675B) કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 512 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 30–54 ટોકન (3-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 512 GBવાળું M5 Ultra, આશરે 30–54 સુધી પહોંચે છે.
Mistral Large 3 (675B) તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 675B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 41B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Mistral Large 3 (675B) Mistral Large 3 (675B)ને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/mistral-large-3.svg)](https://mlx.app/run/mistral-large-3)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર Mistral Large 3 (675B) ચાલી શકે? મેમરી અને ઝડપ