शेजारी-शेजारी
| M5 Max | RTX 5090 | |
|---|---|---|
| हे काय आहे | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | डेस्कटॉप PC साठी ग्राफिक्स कार्ड |
| मेमरी आकार | 36, 48, 64, 128 GB | 32 GB |
| मेमरी बँडविड्थ | 460–614 GB/s | 1,792 GB/s |
| मॉडेलसाठी, जास्तीत जास्त | सुमारे 96 GB | सुमारे 31 GB |
| चांगली चालणारी मॉडेल | 73 पैकी 47 | 73 पैकी 38 |
| मोजलेले: लिहिणे | 120 tok/s | 290 tok/s |
| मोजलेले: प्रॉम्प्ट वाचणे | 3,220 tok/s | 14,073 tok/s |
मोजलेल्या ओळी: llama.cpp च्या सार्वजनिक बेंचमार्कमध्ये Llama 2 7B Q4_0 सह प्रत्येक मशीनचा सर्वात वेगवान निकाल, 128 टोकन लिहिताना (tg128) आणि 512 टोकनचा प्रॉम्प्ट वाचताना (pp512), टोकन प्रति सेकंदात. Mac वर Metal आणि RTX 5090 वर CUDA चालले. Apple Silicon चे निकाल · RTX 5090 चे निकाल मॉडेलसाठी आम्ही RTX 5090 ची स्वतःची 32 GB मधून सुमारे 1 GB वजा करून, आणि Mac च्या युनिफाइड मेमरीचे सुमारे 75% मोजतो, जे macOS चे डीफॉल्ट आहे.
कोण कुठे पुढे आहे
- लिहिण्याचा वेग. RTX 5090 हा M5 Max पेक्षा सुमारे 192% वेगाने मेमरी वाचतो (1,792 विरुद्ध 614 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 192% वेगाने लिहितो.
- मॉडेलचा आकार. M5 Max कडे मॉडेलसाठी सुमारे 96 GB आहे, RTX 5090 कडे सुमारे 31 GB. 73 लोकप्रिय ओपन मॉडेलपैकी 47 M5 Max वर चांगले चालतात, आणि 38 RTX 5090 वर.
- लांब प्रॉम्प्ट वाचणे. llama.cpp च्या मोजलेल्या चाचणीत RTX 5090 प्रॉम्प्ट सुमारे 4.4× वेगाने वाचतो (14,073 विरुद्ध 3,220 टोकन प्रति सेकंद). प्रॉम्प्ट वाचणे मेमरी बँडविड्थवर नाही तर GPU च्या संगणन क्षमतेवर अवलंबून असते, आणि लांब दस्तऐवज किंवा कोडबेससह पहिल्या शब्दापर्यंत किती थांबावे लागेल हे तेच ठरवते.
- सॉफ्टवेअर. RTX 5090 NVIDIA चे CUDA वापरतो, ज्याला बहुतेक AI सॉफ्टवेअर सर्वात आधी सपोर्ट करतात, त्यात ट्रेनिंग कोड आणि अनेक इमेज व व्हिडिओ टूल्स येतात. Mac वर मॉडेल त्याऐवजी MLX, llama.cpp चा Metal बॅकएंड किंवा PyTorch चा MPS बॅकएंड वापरून चालतात.
- भोवतालचे. ग्राफिक्स कार्डला भोवती एक PC लागतो, आणि त्याची स्वतःची 32 GB हीच मर्यादा आहे: जे मॉडेल बसत नाही ते काही प्रमाणात PC च्या खूप हळू सिस्टम मेमरीतून चालवावे लागते, किंवा दुसऱ्या कार्डवर वाटावे लागते.
- Mac. हा रोजचा संगणकही आहे, आणि Apple Silicon साठी बनवलेले MLX Harness आणि MLX Node चालवतो.
लोकप्रिय मॉडेलसह वेग
एका संभाषणासाठी सेकंदाला टोकन, प्रत्येक चिप तिच्या सर्वात मोठ्या मेमरी आकारावर (128 GB आणि 32 GB), मॉडेलच्या बसणाऱ्या सर्वोत्तम आवृत्तीसह.
| मॉडेल | M5 Max | RTX 5090 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-बिट | 95–169 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 145–259 नेटिव्ह 4.25-बिट | 424–755 नेटिव्ह 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 86–154 8-बिट | 336–597 6-बिट |
| Qwen3.8 27B27B | 10–17 8-बिट | 28–50 8-बिट |
| Llama 3.3 70B Instruct70B | 4–7 8-बिट | 37–65 2-बिट कमी गुणवत्ता |
| gpt-oss-120b117B · 5.1B सक्रिय | 102–182 नेटिव्ह 4.25-बिट | खूप मोठे |
| Qwen3.5 122B A10B122B · 10B सक्रिय | 49–88 4-बिट | खूप मोठे |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | 67–120 2-बिट कमी गुणवत्ता | खूप मोठे |
प्रश्न
- LLM साठी RTX 5090 हा M5 Max पेक्षा वेगवान आहे का?
- RTX 5090 हा M5 Max पेक्षा सुमारे 192% वेगाने मेमरी वाचतो (1,792 विरुद्ध 614 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 192% वेगाने लिहितो. llama.cpp च्या मोजलेल्या चाचणीत RTX 5090 प्रॉम्प्ट सुमारे 4.4× वेगाने वाचतो (14,073 विरुद्ध 3,220 टोकन प्रति सेकंद). प्रॉम्प्ट वाचणे मेमरी बँडविड्थवर नाही तर GPU च्या संगणन क्षमतेवर अवलंबून असते, आणि लांब दस्तऐवज किंवा कोडबेससह पहिल्या शब्दापर्यंत किती थांबावे लागेल हे तेच ठरवते.
- मोठी मॉडेल कोण चालवू शकतो, M5 Max की RTX 5090?
- M5 Max कडे मॉडेलसाठी सुमारे 96 GB आहे, RTX 5090 कडे सुमारे 31 GB. 73 लोकप्रिय ओपन मॉडेलपैकी 47 M5 Max वर चांगले चालतात, आणि 38 RTX 5090 वर.
- MLX Node RTX 5090 वर चालतो का?
- नाही. MLX Node आणि MLX Harness फक्त Apple Silicon असलेल्या Mac वर, Apple च्या MLX फ्रेमवर्कसह चालतात.
आणखी तुलना
- M5 Max vs DGX Spark
- M5 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ PRO 495
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
- M4 Max vs M5 Max
- M5 Pro vs M5 Max
लोकल AI साठी M5 Max · प्रत्येक मॉडेलची तुलना करा · लोकल LLM साठी सर्वोत्तम Mac
हिशोब कसा केला
मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.
RTX 5090 चा डेटा: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).