शेजारी-शेजारी
| M4 Pro | Ryzen AI Max+ 395 | |
|---|---|---|
| हे काय आहे | Mac mini (2024), MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024) | एक पूर्ण छोटा संगणक |
| मेमरी आकार | 24, 48, 64 GB | 128 GB |
| मेमरी बँडविड्थ | 273 GB/s | 256 GB/s |
| मॉडेलसाठी, जास्तीत जास्त | सुमारे 48 GB | सुमारे 96 GB |
| चांगली चालणारी मॉडेल | 73 पैकी 31 | 73 पैकी 39 |
| मोजलेले: लिहिणे | 51 tok/s | 54 tok/s |
| मोजलेले: प्रॉम्प्ट वाचणे | 440 tok/s | 1,289 tok/s |
मोजलेल्या ओळी: llama.cpp च्या सार्वजनिक बेंचमार्कमध्ये Llama 2 7B Q4_0 सह प्रत्येक मशीनचा सर्वात वेगवान निकाल, 128 टोकन लिहिताना (tg128) आणि 512 टोकनचा प्रॉम्प्ट वाचताना (pp512), टोकन प्रति सेकंदात. Mac वर Metal आणि Ryzen AI Max+ 395 वर Vulkan चालले. Apple Silicon चे निकाल · Ryzen AI Max+ 395 चे निकाल मॉडेलसाठी आम्ही दोन्हींमध्ये सुमारे 75% मेमरी मोजतो, जे macOS चे डीफॉल्ट आहे, कारण Ryzen AI Max+ 395 मध्येही CPU आणि GPU एकच मेमरी वाटून घेतात. त्याचा GPU प्रत्यक्षात किती वापरू शकतो हे ऑपरेटिंग सिस्टम आणि सेटिंग्जवर अवलंबून असते.
कोण कुठे पुढे आहे
- लिहिण्याचा वेग. M4 Pro हा Ryzen AI Max+ 395 पेक्षा सुमारे 7% वेगाने मेमरी वाचतो (273 विरुद्ध 256 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 7% वेगाने लिहितो.
- मॉडेलचा आकार. Ryzen AI Max+ 395 कडे मॉडेलसाठी सुमारे 96 GB आहे, M4 Pro कडे सुमारे 48 GB. 73 लोकप्रिय ओपन मॉडेलपैकी 31 M4 Pro वर चांगले चालतात, आणि 39 Ryzen AI Max+ 395 वर.
- लांब प्रॉम्प्ट वाचणे. llama.cpp च्या मोजलेल्या चाचणीत Ryzen AI Max+ 395 प्रॉम्प्ट सुमारे 2.9× वेगाने वाचतो (1,289 विरुद्ध 440 टोकन प्रति सेकंद). प्रॉम्प्ट वाचणे मेमरी बँडविड्थवर नाही तर GPU च्या संगणन क्षमतेवर अवलंबून असते, आणि लांब दस्तऐवज किंवा कोडबेससह पहिल्या शब्दापर्यंत किती थांबावे लागेल हे तेच ठरवते.
- सॉफ्टवेअर. Ryzen AI Max+ 395 Windows किंवा Linux वर चालतो, आणि llama.cpp त्याचा GPU Vulkan द्वारे वापरतो. ज्या सॉफ्टवेअरला NVIDIA चे CUDA लागते ते दोन्हीपैकी कुठेच चालत नाही.
- भोवतालचे. दोन्ही पूर्ण संगणक आहेत जे मॉडेल CPU आणि GPU वाटून घेणाऱ्या एकाच मेमरीत ठेवतात.
- Mac. हा रोजचा संगणकही आहे, आणि Apple Silicon साठी बनवलेले MLX Harness आणि MLX Node चालवतो.
लोकप्रिय मॉडेलसह वेग
एका संभाषणासाठी सेकंदाला टोकन, प्रत्येक चिप तिच्या सर्वात मोठ्या मेमरी आकारावर (64 GB आणि 128 GB), मॉडेलच्या बसणाऱ्या सर्वोत्तम आवृत्तीसह.
| मॉडेल | M4 Pro | Ryzen AI Max+ 395 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 14–26 8-बिट | 14–24 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 65–115 नेटिव्ह 4.25-बिट | 61–108 नेटिव्ह 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 38–68 8-बिट | 36–64 8-बिट |
| Qwen3.8 27B27B | 4–8 8-बिट | 4–7 8-बिट |
| Llama 3.3 70B Instruct70B | 3–6 4-बिट | 2–3 8-बिट |
| gpt-oss-120b117B · 5.1B सक्रिय | 77–137 2-बिट कमी गुणवत्ता | 43–76 नेटिव्ह 4.25-बिट |
| Qwen3.5 122B A10B122B · 10B सक्रिय | 40–70 2-बिट कमी गुणवत्ता | 21–37 4-बिट |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | खूप मोठे | 28–50 2-बिट कमी गुणवत्ता |
प्रश्न
- LLM साठी Ryzen AI Max+ 395 हा M4 Pro पेक्षा वेगवान आहे का?
- M4 Pro हा Ryzen AI Max+ 395 पेक्षा सुमारे 7% वेगाने मेमरी वाचतो (273 विरुद्ध 256 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 7% वेगाने लिहितो. llama.cpp च्या मोजलेल्या चाचणीत Ryzen AI Max+ 395 प्रॉम्प्ट सुमारे 2.9× वेगाने वाचतो (1,289 विरुद्ध 440 टोकन प्रति सेकंद). प्रॉम्प्ट वाचणे मेमरी बँडविड्थवर नाही तर GPU च्या संगणन क्षमतेवर अवलंबून असते, आणि लांब दस्तऐवज किंवा कोडबेससह पहिल्या शब्दापर्यंत किती थांबावे लागेल हे तेच ठरवते.
- मोठी मॉडेल कोण चालवू शकतो, M4 Pro की Ryzen AI Max+ 395?
- Ryzen AI Max+ 395 कडे मॉडेलसाठी सुमारे 96 GB आहे, M4 Pro कडे सुमारे 48 GB. 73 लोकप्रिय ओपन मॉडेलपैकी 31 M4 Pro वर चांगले चालतात, आणि 39 Ryzen AI Max+ 395 वर.
- MLX Node Ryzen AI Max+ 395 वर चालतो का?
- नाही. MLX Node आणि MLX Harness फक्त Apple Silicon असलेल्या Mac वर, Apple च्या MLX फ्रेमवर्कसह चालतात.
आणखी तुलना
- M4 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ 395
- M1 Pro vs M4 Pro
- M3 Pro vs M4 Pro
- M4 vs M4 Pro
- M4 Pro vs M4 Max
- M4 Pro vs M5 Pro
- M4 Pro vs M5 Max
लोकल AI साठी M4 Pro · प्रत्येक मॉडेलची तुलना करा · लोकल LLM साठी सर्वोत्तम Mac
हिशोब कसा केला
मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.
Ryzen AI Max+ 395 ची बँडविड्थ AMD ने सांगितलेल्या बस रुंदी आणि मेमरी वेगावरून काढली आहे, कारण AMD ती GB/s मध्ये सांगत नाही. Ryzen AI Max+ 395 चा डेटा: AMD: Ryzen AI Max+ 395, Framework: Desktop specs, Framework: Desktop DIY configurator (32/64/128 GB).