શું LLM માટે M5 Max, M3 Ultra કરતાં ઝડપી છે?

M3 Ultra, M5 Max કરતાં આશરે 33% ઝડપથી મેમરી વાંચે છે (819 વિ. 614 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 33% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.

મોટાં મૉડલ કોણ ચલાવી શકે, M3 Ultra કે M5 Max?

M3 Ultra: M3 Ultraમાં 512 GB સુધી મેમરી મળે છે, M5 Maxમાં 128 GB સુધી. તેની સૌથી મોટી સાઇઝ પર તે 73માંથી 60 ઓપન મૉડલ સારી રીતે ચલાવે છે, બીજું 47.

લોકલ LLM માટે M3 Ultra વિ. M5 Max: મેમરી, ઝડપ, કયું ખરીદવું

બાજુ-બાજુમાં

	M3 Ultra	M5 Max
મેમરી સાઇઝ	96, 256, 512 GB	36, 48, 64, 128 GB
મેમરી બૅન્ડવિડ્થ	819 GB/s	460–614 GB/s
મૉડલ માટે, વધુમાં વધુ	આશરે 384 GB	આશરે 96 GB
સારાં ચાલતાં મૉડલ	73માંથી 60	73માંથી 47
MLX સીટ વર્ગ	Ultra	Pro Latest
આમાં મળે છે	Mac Studio (2025)	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)

લોકપ્રિય મૉડલ સાથે ઝડપ

એક વાતચીત માટે સેકન્ડ દીઠ ટોકન, દરેક ચિપ તેની સૌથી મોટી મેમરી સાઇઝ પર (512 GB અને 128 GB), મૉડલના સમાતા શ્રેષ્ઠ વર્ઝન સાથે.

મૉડલ	M3 Ultra	M5 Max
Llama 3.1 8B Instruct8B	43–77 8-બિટ	33–58 8-બિટ
gpt-oss-20b21B · 3.6B સક્રિય	194–345 નેટિવ 4.25-બિટ	145–259 નેટિવ 4.25-બિટ
Qwen3.6 35B A3B35B · 3B સક્રિય	115–205 8-બિટ	86–154 8-બિટ
Qwen3.8 27B27B	13–23 8-બિટ	10–17 8-બિટ
Llama 3.3 70B Instruct70B	5–9 8-બિટ	4–7 8-બિટ
gpt-oss-120b117B · 5.1B સક્રિય	137–243 નેટિવ 4.25-બિટ	102–182 નેટિવ 4.25-બિટ
Qwen3.5 122B A10B122B · 10B સક્રિય	35–62 8-બિટ	49–88 4-બિટ
DeepSeek V4 Flash 0731284B · 13B સક્રિય	27–47 8-બિટ	67–120 2-બિટ ઓછી ગુણવત્તા

પ્રશ્નો

શું LLM માટે M5 Max, M3 Ultra કરતાં ઝડપી છે?: M3 Ultra, M5 Max કરતાં આશરે 33% ઝડપથી મેમરી વાંચે છે (819 વિ. 614 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 33% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.
મોટાં મૉડલ કોણ ચલાવી શકે, M3 Ultra કે M5 Max?: M3 Ultra: M3 Ultraમાં 512 GB સુધી મેમરી મળે છે, M5 Maxમાં 128 GB સુધી. તેની સૌથી મોટી સાઇઝ પર તે 73માંથી 60 ઓપન મૉડલ સારી રીતે ચલાવે છે, બીજું 47.

વધુ સરખામણીઓ

લોકલ AI માટે M3 Ultra · લોકલ AI માટે M5 Max · દરેક મૉડલની સરખામણી કરો · લોકલ LLM માટે શ્રેષ્ઠ Mac

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.