शेजारी-शेजारी
| M5 Max | Ryzen AI Max+ 395 | |
|---|---|---|
| हे काय आहे | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | एक पूर्ण छोटा संगणक |
| मेमरी आकार | 36, 48, 64, 128 GB | 128 GB |
| मेमरी बँडविड्थ | 460–614 GB/s | 256 GB/s |
| मॉडेलसाठी, जास्तीत जास्त | सुमारे 96 GB | सुमारे 96 GB |
| चांगली चालणारी मॉडेल | 73 पैकी 47 | 73 पैकी 39 |
| मोजलेले: लिहिणे | 120 tok/s | 54 tok/s |
| मोजलेले: प्रॉम्प्ट वाचणे | 3,220 tok/s | 1,289 tok/s |
मोजलेल्या ओळी: llama.cpp च्या सार्वजनिक बेंचमार्कमध्ये Llama 2 7B Q4_0 सह प्रत्येक मशीनचा सर्वात वेगवान निकाल, 128 टोकन लिहिताना (tg128) आणि 512 टोकनचा प्रॉम्प्ट वाचताना (pp512), टोकन प्रति सेकंदात. Mac वर Metal आणि Ryzen AI Max+ 395 वर Vulkan चालले. Apple Silicon चे निकाल · Ryzen AI Max+ 395 चे निकाल मॉडेलसाठी आम्ही दोन्हींमध्ये सुमारे 75% मेमरी मोजतो, जे macOS चे डीफॉल्ट आहे, कारण Ryzen AI Max+ 395 मध्येही CPU आणि GPU एकच मेमरी वाटून घेतात. त्याचा GPU प्रत्यक्षात किती वापरू शकतो हे ऑपरेटिंग सिस्टम आणि सेटिंग्जवर अवलंबून असते.
कोण कुठे पुढे आहे
- लिहिण्याचा वेग. M5 Max हा Ryzen AI Max+ 395 पेक्षा सुमारे 140% वेगाने मेमरी वाचतो (614 विरुद्ध 256 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 140% वेगाने लिहितो.
- मॉडेलचा आकार. दोन्हींकडे मॉडेलसाठी सुमारे 96 GB आहे. 73 लोकप्रिय ओपन मॉडेलपैकी 47 M5 Max वर चांगले चालतात, आणि 39 Ryzen AI Max+ 395 वर.
- लांब प्रॉम्प्ट वाचणे. llama.cpp च्या मोजलेल्या चाचणीत M5 Max प्रॉम्प्ट सुमारे 2.5× वेगाने वाचतो (3,220 विरुद्ध 1,289 टोकन प्रति सेकंद). प्रॉम्प्ट वाचणे मेमरी बँडविड्थवर नाही तर GPU च्या संगणन क्षमतेवर अवलंबून असते, आणि लांब दस्तऐवज किंवा कोडबेससह पहिल्या शब्दापर्यंत किती थांबावे लागेल हे तेच ठरवते.
- सॉफ्टवेअर. Ryzen AI Max+ 395 Windows किंवा Linux वर चालतो, आणि llama.cpp त्याचा GPU Vulkan द्वारे वापरतो. ज्या सॉफ्टवेअरला NVIDIA चे CUDA लागते ते दोन्हीपैकी कुठेच चालत नाही.
- भोवतालचे. दोन्ही पूर्ण संगणक आहेत जे मॉडेल CPU आणि GPU वाटून घेणाऱ्या एकाच मेमरीत ठेवतात.
- Mac. हा रोजचा संगणकही आहे, आणि Apple Silicon साठी बनवलेले MLX Harness आणि MLX Node चालवतो.
लोकप्रिय मॉडेलसह वेग
एका संभाषणासाठी सेकंदाला टोकन, प्रत्येक चिप तिच्या सर्वात मोठ्या मेमरी आकारावर (128 GB आणि 128 GB), मॉडेलच्या बसणाऱ्या सर्वोत्तम आवृत्तीसह.
| मॉडेल | M5 Max | Ryzen AI Max+ 395 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-बिट | 14–24 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 145–259 नेटिव्ह 4.25-बिट | 61–108 नेटिव्ह 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 86–154 8-बिट | 36–64 8-बिट |
| Qwen3.8 27B27B | 10–17 8-बिट | 4–7 8-बिट |
| Llama 3.3 70B Instruct70B | 4–7 8-बिट | 2–3 8-बिट |
| gpt-oss-120b117B · 5.1B सक्रिय | 102–182 नेटिव्ह 4.25-बिट | 43–76 नेटिव्ह 4.25-बिट |
| Qwen3.5 122B A10B122B · 10B सक्रिय | 49–88 4-बिट | 21–37 4-बिट |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | 67–120 2-बिट कमी गुणवत्ता | 28–50 2-बिट कमी गुणवत्ता |
प्रश्न
- LLM साठी Ryzen AI Max+ 395 हा M5 Max पेक्षा वेगवान आहे का?
- M5 Max हा Ryzen AI Max+ 395 पेक्षा सुमारे 140% वेगाने मेमरी वाचतो (614 विरुद्ध 256 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 140% वेगाने लिहितो. llama.cpp च्या मोजलेल्या चाचणीत M5 Max प्रॉम्प्ट सुमारे 2.5× वेगाने वाचतो (3,220 विरुद्ध 1,289 टोकन प्रति सेकंद). प्रॉम्प्ट वाचणे मेमरी बँडविड्थवर नाही तर GPU च्या संगणन क्षमतेवर अवलंबून असते, आणि लांब दस्तऐवज किंवा कोडबेससह पहिल्या शब्दापर्यंत किती थांबावे लागेल हे तेच ठरवते.
- मोठी मॉडेल कोण चालवू शकतो, M5 Max की Ryzen AI Max+ 395?
- दोन्हींकडे मॉडेलसाठी सुमारे 96 GB आहे. 73 लोकप्रिय ओपन मॉडेलपैकी 47 M5 Max वर चांगले चालतात, आणि 39 Ryzen AI Max+ 395 वर.
- MLX Node Ryzen AI Max+ 395 वर चालतो का?
- नाही. MLX Node आणि MLX Harness फक्त Apple Silicon असलेल्या Mac वर, Apple च्या MLX फ्रेमवर्कसह चालतात.
आणखी तुलना
- M5 Max vs DGX Spark
- M5 Max vs Ryzen AI Max+ PRO 495
- M5 Max vs RTX 5090
- M4 Pro vs Ryzen AI Max+ 395
- M4 Max vs Ryzen AI Max+ 395
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
लोकल AI साठी M5 Max · प्रत्येक मॉडेलची तुलना करा · लोकल LLM साठी सर्वोत्तम Mac
हिशोब कसा केला
मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.
Ryzen AI Max+ 395 ची बँडविड्थ AMD ने सांगितलेल्या बस रुंदी आणि मेमरी वेगावरून काढली आहे, कारण AMD ती GB/s मध्ये सांगत नाही. Ryzen AI Max+ 395 चा डेटा: AMD: Ryzen AI Max+ 395, Framework: Desktop specs, Framework: Desktop DIY configurator (32/64/128 GB).