શું LLM માટે Ryzen AI Max+ 395, M4 Pro કરતાં ઝડપી છે?

M4 Pro, Ryzen AI Max+ 395 કરતાં આશરે 7% ઝડપથી મેમરી વાંચે છે (273 વિ. 256 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 7% ઝડપથી લખે છે. llama.cpp ના માપેલા ટેસ્ટમાં Ryzen AI Max+ 395 પ્રોમ્પ્ટ લગભગ 2.9× ઝડપથી વાંચે છે (1,289 વિરુદ્ધ 440 ટોકન પ્રતિ સેકન્ડ). પ્રોમ્પ્ટ વાંચવું મેમરી બેન્ડવિડ્થ પર નહીં પણ GPU ની ગણતરી શક્તિ પર આધાર રાખે છે, અને લાંબા દસ્તાવેજ કે કોડબેઝ સાથે પહેલા શબ્દ સુધી કેટલી રાહ જોવી પડશે તે આ જ નક્કી કરે છે.

મોટાં મૉડલ કોણ ચલાવી શકે, M4 Pro કે Ryzen AI Max+ 395?

Ryzen AI Max+ 395 પાસે મોડેલ માટે લગભગ 96 GB છે, M4 Pro પાસે લગભગ 48 GB. 73 લોકપ્રિય ઓપન મોડેલમાંથી 31 M4 Pro પર સારી રીતે ચાલે છે, અને 39 Ryzen AI Max+ 395 પર.

શું MLX Node Ryzen AI Max+ 395 પર ચાલે છે?

ના. MLX Node અને MLX Harness ફક્ત Apple Silicon વાળા Mac પર, Apple ના MLX ફ્રેમવર્ક સાથે ચાલે છે.

લોકલ LLM માટે M4 Pro વિ. Ryzen AI Max+ 395: મેમરી, ઝડપ, કયું ખરીદવું

બાજુ-બાજુમાં

	M4 Pro	Ryzen AI Max+ 395
આ શું છે	Mac mini (2024), MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024)	એક સંપૂર્ણ નાનું કમ્પ્યુટર
મેમરી સાઇઝ	24, 48, 64 GB	128 GB
મેમરી બૅન્ડવિડ્થ	273 GB/s	256 GB/s
મૉડલ માટે, વધુમાં વધુ	આશરે 48 GB	આશરે 96 GB
સારાં ચાલતાં મૉડલ	73માંથી 31	73માંથી 39
માપેલું: લખવું	51 tok/s	54 tok/s
માપેલું: પ્રોમ્પ્ટ વાંચવો	440 tok/s	1,289 tok/s

માપેલી હરોળો: llama.cpp ના જાહેર બેન્ચમાર્કમાં Llama 2 7B Q4_0 સાથે દરેક મશીનનું સૌથી ઝડપી પરિણામ, 128 ટોકન લખતી વખતે (tg128) અને 512 ટોકનનો પ્રોમ્પ્ટ વાંચતી વખતે (pp512), ટોકન પ્રતિ સેકન્ડમાં. Mac પર Metal અને Ryzen AI Max+ 395 પર Vulkan ચાલ્યું. Apple Silicon ના પરિણામો · Ryzen AI Max+ 395 ના પરિણામો મોડેલ માટે અમે બંનેમાં લગભગ 75% મેમરી ગણીએ છીએ, જે macOS નું ડિફૉલ્ટ છે, કારણ કે Ryzen AI Max+ 395 માં પણ CPU અને GPU એક જ મેમરી વહેંચે છે. તેનું GPU ખરેખર કેટલી વાપરી શકે તે ઑપરેટિંગ સિસ્ટમ અને સેટિંગ્સ પર આધાર રાખે છે.

કોણ ક્યાં આગળ છે

લખવાની ઝડપ. M4 Pro, Ryzen AI Max+ 395 કરતાં આશરે 7% ઝડપથી મેમરી વાંચે છે (273 વિ. 256 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 7% ઝડપથી લખે છે.
મોડેલનું કદ. Ryzen AI Max+ 395 પાસે મોડેલ માટે લગભગ 96 GB છે, M4 Pro પાસે લગભગ 48 GB. 73 લોકપ્રિય ઓપન મોડેલમાંથી 31 M4 Pro પર સારી રીતે ચાલે છે, અને 39 Ryzen AI Max+ 395 પર.
લાંબા પ્રોમ્પ્ટ વાંચવા. llama.cpp ના માપેલા ટેસ્ટમાં Ryzen AI Max+ 395 પ્રોમ્પ્ટ લગભગ 2.9× ઝડપથી વાંચે છે (1,289 વિરુદ્ધ 440 ટોકન પ્રતિ સેકન્ડ). પ્રોમ્પ્ટ વાંચવું મેમરી બેન્ડવિડ્થ પર નહીં પણ GPU ની ગણતરી શક્તિ પર આધાર રાખે છે, અને લાંબા દસ્તાવેજ કે કોડબેઝ સાથે પહેલા શબ્દ સુધી કેટલી રાહ જોવી પડશે તે આ જ નક્કી કરે છે.
સોફ્ટવેર. Ryzen AI Max+ 395 Windows કે Linux પર ચાલે છે, અને llama.cpp તેનું GPU Vulkan દ્વારા વાપરે છે. જે સોફ્ટવેરને NVIDIA નું CUDA જોઈએ તે બંનેમાંથી કોઈ પર ચાલતું નથી.
આસપાસ. બંને સંપૂર્ણ કમ્પ્યુટર છે જે મોડેલને CPU અને GPU વહેંચે છે તે એક જ મેમરીમાં રાખે છે.
Mac. તે રોજનું કમ્પ્યુટર પણ છે, અને Apple Silicon માટે બનેલા MLX Harness અને MLX Node ચલાવે છે.

લોકપ્રિય મૉડલ સાથે ઝડપ

એક વાતચીત માટે સેકન્ડ દીઠ ટોકન, દરેક ચિપ તેની સૌથી મોટી મેમરી સાઇઝ પર (64 GB અને 128 GB), મૉડલના સમાતા શ્રેષ્ઠ વર્ઝન સાથે.

મૉડલ	M4 Pro	Ryzen AI Max+ 395
Llama 3.1 8B Instruct8B	14–26 8-બિટ	14–24 8-બિટ
gpt-oss-20b21B · 3.6B સક્રિય	65–115 નેટિવ 4.25-બિટ	61–108 નેટિવ 4.25-બિટ
Qwen3.6 35B A3B35B · 3B સક્રિય	38–68 8-બિટ	36–64 8-બિટ
Qwen3.8 27B27B	4–8 8-બિટ	4–7 8-બિટ
Llama 3.3 70B Instruct70B	3–6 4-બિટ	2–3 8-બિટ
gpt-oss-120b117B · 5.1B સક્રિય	77–137 2-બિટ ઓછી ગુણવત્તા	43–76 નેટિવ 4.25-બિટ
Qwen3.5 122B A10B122B · 10B સક્રિય	40–70 2-બિટ ઓછી ગુણવત્તા	21–37 4-બિટ
DeepSeek V4 Flash 0731284B · 13B સક્રિય	બહુ મોટું	28–50 2-બિટ ઓછી ગુણવત્તા

પ્રશ્નો

શું LLM માટે Ryzen AI Max+ 395, M4 Pro કરતાં ઝડપી છે?: M4 Pro, Ryzen AI Max+ 395 કરતાં આશરે 7% ઝડપથી મેમરી વાંચે છે (273 વિ. 256 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 7% ઝડપથી લખે છે. llama.cpp ના માપેલા ટેસ્ટમાં Ryzen AI Max+ 395 પ્રોમ્પ્ટ લગભગ 2.9× ઝડપથી વાંચે છે (1,289 વિરુદ્ધ 440 ટોકન પ્રતિ સેકન્ડ). પ્રોમ્પ્ટ વાંચવું મેમરી બેન્ડવિડ્થ પર નહીં પણ GPU ની ગણતરી શક્તિ પર આધાર રાખે છે, અને લાંબા દસ્તાવેજ કે કોડબેઝ સાથે પહેલા શબ્દ સુધી કેટલી રાહ જોવી પડશે તે આ જ નક્કી કરે છે.
મોટાં મૉડલ કોણ ચલાવી શકે, M4 Pro કે Ryzen AI Max+ 395?: Ryzen AI Max+ 395 પાસે મોડેલ માટે લગભગ 96 GB છે, M4 Pro પાસે લગભગ 48 GB. 73 લોકપ્રિય ઓપન મોડેલમાંથી 31 M4 Pro પર સારી રીતે ચાલે છે, અને 39 Ryzen AI Max+ 395 પર.
શું MLX Node Ryzen AI Max+ 395 પર ચાલે છે?: ના. MLX Node અને MLX Harness ફક્ત Apple Silicon વાળા Mac પર, Apple ના MLX ફ્રેમવર્ક સાથે ચાલે છે.

વધુ સરખામણીઓ

લોકલ AI માટે M4 Pro · દરેક મૉડલની સરખામણી કરો · લોકલ LLM માટે શ્રેષ્ઠ Mac

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

Ryzen AI Max+ 395 ની બેન્ડવિડ્થ AMD એ જણાવેલી બસ પહોળાઈ અને મેમરી ઝડપ પરથી ગણી છે, કારણ કે AMD તેને GB/s માં જણાવતું નથી. Ryzen AI Max+ 395 નો ડેટા: AMD: Ryzen AI Max+ 395, Framework: Desktop specs, Framework: Desktop DIY configurator (32/64/128 GB).