શું LLM માટે M5 Pro, M4 Pro કરતાં ઝડપી છે?

M5 Pro, M4 Pro કરતાં આશરે 12% ઝડપથી મેમરી વાંચે છે (307 વિ. 273 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 12% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.

મોટાં મૉડલ કોણ ચલાવી શકે, M4 Pro કે M5 Pro?

બેમાંથી કોઈ નહીં: બંનેમાં 64 GB સુધી મેમરી મળે છે. એ સાઇઝ પર 73 ઓપન મૉડલમાંથી M4 Pro પર 31 અને M5 Pro પર 34 સારાં ચાલે છે; ઝડપી ચિપ તેમાંથી વધુ મૉડલને સેકન્ડના 10 ટોકનથી ઉપર લઈ જાય છે.

લોકલ LLM માટે M4 Pro વિ. M5 Pro: મેમરી, ઝડપ, કયું ખરીદવું

બાજુ-બાજુમાં

	M4 Pro	M5 Pro
મેમરી સાઇઝ	24, 48, 64 GB	24, 48, 64 GB
મેમરી બૅન્ડવિડ્થ	273 GB/s	307 GB/s
મૉડલ માટે, વધુમાં વધુ	આશરે 48 GB	આશરે 48 GB
સારાં ચાલતાં મૉડલ	73માંથી 31	73માંથી 34
MLX સીટ વર્ગ	Pro	Pro Latest
આમાં મળે છે	Mac mini (2024), MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024)	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac mini (M6 or M5 Pro)

લોકપ્રિય મૉડલ સાથે ઝડપ

એક વાતચીત માટે સેકન્ડ દીઠ ટોકન, દરેક ચિપ તેની સૌથી મોટી મેમરી સાઇઝ પર (64 GB અને 64 GB), મૉડલના સમાતા શ્રેષ્ઠ વર્ઝન સાથે.

મૉડલ	M4 Pro	M5 Pro
Llama 3.1 8B Instruct8B	14–26 8-બિટ	16–29 8-બિટ
gpt-oss-20b21B · 3.6B સક્રિય	65–115 નેટિવ 4.25-બિટ	73–129 નેટિવ 4.25-બિટ
Qwen3.6 35B A3B35B · 3B સક્રિય	38–68 8-બિટ	43–77 8-બિટ
Qwen3.8 27B27B	4–8 8-બિટ	5–9 8-બિટ
Llama 3.3 70B Instruct70B	3–6 4-બિટ	4–6 4-બિટ
gpt-oss-120b117B · 5.1B સક્રિય	77–137 2-બિટ ઓછી ગુણવત્તા	86–154 2-બિટ ઓછી ગુણવત્તા
Qwen3.5 122B A10B122B · 10B સક્રિય	40–70 2-બિટ ઓછી ગુણવત્તા	45–79 2-બિટ ઓછી ગુણવત્તા
DeepSeek V4 Flash 0731284B · 13B સક્રિય	બહુ મોટું	બહુ મોટું

પ્રશ્નો

શું LLM માટે M5 Pro, M4 Pro કરતાં ઝડપી છે?: M5 Pro, M4 Pro કરતાં આશરે 12% ઝડપથી મેમરી વાંચે છે (307 વિ. 273 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 12% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.
મોટાં મૉડલ કોણ ચલાવી શકે, M4 Pro કે M5 Pro?: બેમાંથી કોઈ નહીં: બંનેમાં 64 GB સુધી મેમરી મળે છે. એ સાઇઝ પર 73 ઓપન મૉડલમાંથી M4 Pro પર 31 અને M5 Pro પર 34 સારાં ચાલે છે; ઝડપી ચિપ તેમાંથી વધુ મૉડલને સેકન્ડના 10 ટોકનથી ઉપર લઈ જાય છે.

વધુ સરખામણીઓ

લોકલ AI માટે M4 Pro · લોકલ AI માટે M5 Pro · દરેક મૉડલની સરખામણી કરો · લોકલ LLM માટે શ્રેષ્ઠ Mac

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.