શું LLM માટે M3 Pro, M2 Pro કરતાં ઝડપી છે?

M2 Pro, M3 Pro કરતાં આશરે 33% ઝડપથી મેમરી વાંચે છે (200 વિ. 150 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 33% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.

મોટાં મૉડલ કોણ ચલાવી શકે, M2 Pro કે M3 Pro?

M3 Pro: M3 Proમાં 36 GB સુધી મેમરી મળે છે, M2 Proમાં 32 GB સુધી. તેની સૌથી મોટી સાઇઝ પર તે 73માંથી 28 ઓપન મૉડલ સારી રીતે ચલાવે છે, બીજું 30.

લોકલ LLM માટે M2 Pro વિ. M3 Pro: મેમરી, ઝડપ, કયું ખરીદવું

બાજુ-બાજુમાં

	M2 Pro	M3 Pro
મેમરી સાઇઝ	16, 32 GB	18, 36 GB
મેમરી બૅન્ડવિડ્થ	200 GB/s	150 GB/s
મૉડલ માટે, વધુમાં વધુ	આશરે 24 GB	આશરે 27 GB
સારાં ચાલતાં મૉડલ	73માંથી 30	73માંથી 28
MLX સીટ વર્ગ	Pro	Pro
આમાં મળે છે	MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac mini (2023)	MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)

લોકપ્રિય મૉડલ સાથે ઝડપ

એક વાતચીત માટે સેકન્ડ દીઠ ટોકન, દરેક ચિપ તેની સૌથી મોટી મેમરી સાઇઝ પર (32 GB અને 36 GB), મૉડલના સમાતા શ્રેષ્ઠ વર્ઝન સાથે.

મૉડલ	M2 Pro	M3 Pro
Llama 3.1 8B Instruct8B	11–19 8-બિટ	10–18 6-બિટ
gpt-oss-20b21B · 3.6B સક્રિય	47–84 નેટિવ 4.25-બિટ	36–63 નેટિવ 4.25-બિટ
Qwen3.6 35B A3B35B · 3B સક્રિય	53–94 4-બિટ	40–71 4-બિટ
Qwen3.8 27B27B	4–7 6-બિટ	3–5 6-બિટ
Llama 3.3 70B Instruct70B	4–7 2-બિટ ઓછી ગુણવત્તા	3–5 2-બિટ ઓછી ગુણવત્તા
gpt-oss-120b117B · 5.1B સક્રિય	બહુ મોટું	બહુ મોટું
Qwen3.5 122B A10B122B · 10B સક્રિય	બહુ મોટું	બહુ મોટું
DeepSeek V4 Flash 0731284B · 13B સક્રિય	બહુ મોટું	બહુ મોટું

પ્રશ્નો

શું LLM માટે M3 Pro, M2 Pro કરતાં ઝડપી છે?: M2 Pro, M3 Pro કરતાં આશરે 33% ઝડપથી મેમરી વાંચે છે (200 વિ. 150 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 33% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.
મોટાં મૉડલ કોણ ચલાવી શકે, M2 Pro કે M3 Pro?: M3 Pro: M3 Proમાં 36 GB સુધી મેમરી મળે છે, M2 Proમાં 32 GB સુધી. તેની સૌથી મોટી સાઇઝ પર તે 73માંથી 28 ઓપન મૉડલ સારી રીતે ચલાવે છે, બીજું 30.

વધુ સરખામણીઓ

લોકલ AI માટે M2 Pro · લોકલ AI માટે M3 Pro · દરેક મૉડલની સરખામણી કરો · લોકલ LLM માટે શ્રેષ્ઠ Mac

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.