શું LLM માટે M5 Max, M4 Max કરતાં ઝડપી છે?

M5 Max, M4 Max કરતાં આશરે 12% ઝડપથી મેમરી વાંચે છે (614 વિ. 546 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 12% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.

મોટાં મૉડલ કોણ ચલાવી શકે, M4 Max કે M5 Max?

બેમાંથી કોઈ નહીં: બંનેમાં 128 GB સુધી મેમરી મળે છે. એ સાઇઝ પર 73 ઓપન મૉડલમાંથી M4 Max પર 47 અને M5 Max પર 47 સારાં ચાલે છે; ઝડપી ચિપ તેમાંથી વધુ મૉડલને સેકન્ડના 10 ટોકનથી ઉપર લઈ જાય છે.

લોકલ LLM માટે M4 Max વિ. M5 Max: મેમરી, ઝડપ, કયું ખરીદવું

બાજુ-બાજુમાં

	M4 Max	M5 Max
મેમરી સાઇઝ	36, 48, 64, 128 GB	36, 48, 64, 128 GB
મેમરી બૅન્ડવિડ્થ	410–546 GB/s	460–614 GB/s
મૉડલ માટે, વધુમાં વધુ	આશરે 96 GB	આશરે 96 GB
સારાં ચાલતાં મૉડલ	73માંથી 47	73માંથી 47
MLX સીટ વર્ગ	Pro	Pro Latest
આમાં મળે છે	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)

લોકપ્રિય મૉડલ સાથે ઝડપ

એક વાતચીત માટે સેકન્ડ દીઠ ટોકન, દરેક ચિપ તેની સૌથી મોટી મેમરી સાઇઝ પર (128 GB અને 128 GB), મૉડલના સમાતા શ્રેષ્ઠ વર્ઝન સાથે.

મૉડલ	M4 Max	M5 Max
Llama 3.1 8B Instruct8B	29–51 8-બિટ	33–58 8-બિટ
gpt-oss-20b21B · 3.6B સક્રિય	129–230 નેટિવ 4.25-બિટ	145–259 નેટિવ 4.25-બિટ
Qwen3.6 35B A3B35B · 3B સક્રિય	77–137 8-બિટ	86–154 8-બિટ
Qwen3.8 27B27B	11–20 6-બિટ	10–17 8-બિટ
Llama 3.3 70B Instruct70B	3–6 8-બિટ	4–7 8-બિટ
gpt-oss-120b117B · 5.1B સક્રિય	91–162 નેટિવ 4.25-બિટ	102–182 નેટિવ 4.25-બિટ
Qwen3.5 122B A10B122B · 10B સક્રિય	44–78 4-બિટ	49–88 4-બિટ
DeepSeek V4 Flash 0731284B · 13B સક્રિય	60–107 2-બિટ ઓછી ગુણવત્તા	67–120 2-બિટ ઓછી ગુણવત્તા

પ્રશ્નો

શું LLM માટે M5 Max, M4 Max કરતાં ઝડપી છે?: M5 Max, M4 Max કરતાં આશરે 12% ઝડપથી મેમરી વાંચે છે (614 વિ. 546 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 12% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.
મોટાં મૉડલ કોણ ચલાવી શકે, M4 Max કે M5 Max?: બેમાંથી કોઈ નહીં: બંનેમાં 128 GB સુધી મેમરી મળે છે. એ સાઇઝ પર 73 ઓપન મૉડલમાંથી M4 Max પર 47 અને M5 Max પર 47 સારાં ચાલે છે; ઝડપી ચિપ તેમાંથી વધુ મૉડલને સેકન્ડના 10 ટોકનથી ઉપર લઈ જાય છે.

વધુ સરખામણીઓ

લોકલ AI માટે M4 Max · લોકલ AI માટે M5 Max · દરેક મૉડલની સરખામણી કરો · લોકલ LLM માટે શ્રેષ્ઠ Mac

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.