साथ-साथ तुलना
| M5 Max | RTX 5090 | |
|---|---|---|
| यह क्या है | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | डेस्कटॉप PC के लिए ग्राफ़िक्स कार्ड |
| मेमोरी साइज़ | 36, 48, 64, 128 GB | 32 GB |
| मेमोरी बैंडविड्थ | 460–614 GB/s | 1,792 GB/s |
| मॉडल के लिए, अधिकतम | लगभग 96 GB | लगभग 31 GB |
| अच्छी तरह चलने वाले मॉडल | 73 में से 47 | 73 में से 38 |
| मापा गया: लिखना | 120 tok/s | 290 tok/s |
| मापा गया: प्रॉम्प्ट पढ़ना | 3,220 tok/s | 14,073 tok/s |
मापी गई पंक्तियाँ: llama.cpp के सार्वजनिक बेंचमार्क में Llama 2 7B Q4_0 के साथ हर मशीन का सबसे तेज़ नतीजा, 128 टोकन लिखते हुए (tg128) और 512 टोकन का प्रॉम्प्ट पढ़ते हुए (pp512), टोकन प्रति सेकंड में। Mac पर Metal और RTX 5090 पर CUDA चला। Apple Silicon के नतीजे · RTX 5090 के नतीजे मॉडल के लिए हम RTX 5090 की अपनी 32 GB में से लगभग 1 GB घटाकर, और Mac की यूनिफ़ाइड मेमोरी का लगभग 75% गिनते हैं, जो macOS का डिफ़ॉल्ट है।
कौन कहाँ आगे है
- लिखने की रफ़्तार। RTX 5090, M5 Max से लगभग 192% तेज़ मेमोरी पढ़ता है (1,792 बनाम 614 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 192% तेज़ लिखता है।
- मॉडल का आकार। M5 Max के पास मॉडल के लिए लगभग 96 GB है, RTX 5090 के पास लगभग 31 GB। 73 लोकप्रिय ओपन मॉडल में से 47 M5 Max पर अच्छे से चलते हैं, और 38 RTX 5090 पर।
- लंबे प्रॉम्प्ट पढ़ना। llama.cpp के मापे गए टेस्ट में RTX 5090 प्रॉम्प्ट को लगभग 4.4× तेज़ पढ़ता है (14,073 बनाम 3,220 टोकन प्रति सेकंड)। प्रॉम्प्ट पढ़ना मेमोरी बैंडविड्थ पर नहीं, GPU की कंप्यूट ताक़त पर निर्भर है, और यही तय करता है कि लंबे दस्तावेज़ या कोडबेस के साथ पहले शब्द तक कितना इंतज़ार होगा।
- सॉफ़्टवेयर। RTX 5090 NVIDIA का CUDA इस्तेमाल करता है, जिसे ज़्यादातर AI सॉफ़्टवेयर सबसे पहले सपोर्ट करते हैं, जिनमें ट्रेनिंग कोड और कई इमेज व वीडियो टूल शामिल हैं। Mac पर मॉडल इसके बजाय MLX, llama.cpp के Metal बैकएंड या PyTorch के MPS बैकएंड से चलते हैं।
- आसपास। ग्राफ़िक्स कार्ड को अपने आसपास एक PC चाहिए, और उसकी अपनी 32 GB ही सीमा है: जो मॉडल इसमें न समाए, उसे कुछ हिस्सा PC की कहीं धीमी सिस्टम मेमोरी से चलाना पड़ता है, या दूसरे कार्ड पर बाँटना पड़ता है।
- Mac। यह रोज़ का कंप्यूटर भी है, और Apple Silicon के लिए बने MLX Harness और MLX Node चलाता है।
लोकप्रिय मॉडल के साथ स्पीड
एक बातचीत के लिए टोकन प्रति सेकंड, हर चिप अपने सबसे बड़े मेमोरी साइज़ पर (128 GB और 32 GB), मॉडल के उस सबसे अच्छे वर्ज़न के साथ जो फ़िट होता है।
| मॉडल | M5 Max | RTX 5090 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-बिट | 95–169 8-बिट |
| gpt-oss-20b21B · 3.6B सक्रिय | 145–259 नेटिव 4.25-बिट | 424–755 नेटिव 4.25-बिट |
| Qwen3.6 35B A3B35B · 3B सक्रिय | 86–154 8-बिट | 336–597 6-बिट |
| Qwen3.8 27B27B | 10–17 8-बिट | 28–50 8-बिट |
| Llama 3.3 70B Instruct70B | 4–7 8-बिट | 37–65 2-बिट कम क्वालिटी |
| gpt-oss-120b117B · 5.1B सक्रिय | 102–182 नेटिव 4.25-बिट | बहुत बड़ा |
| Qwen3.5 122B A10B122B · 10B सक्रिय | 49–88 4-बिट | बहुत बड़ा |
| DeepSeek V4 Flash 0731284B · 13B सक्रिय | 67–120 2-बिट कम क्वालिटी | बहुत बड़ा |
सवाल
- क्या LLM के लिए RTX 5090, M5 Max से तेज़ है?
- RTX 5090, M5 Max से लगभग 192% तेज़ मेमोरी पढ़ता है (1,792 बनाम 614 GB/s), इसलिए दोनों में फ़िट होने वाले किसी भी मॉडल के साथ यह लगभग 192% तेज़ लिखता है। llama.cpp के मापे गए टेस्ट में RTX 5090 प्रॉम्प्ट को लगभग 4.4× तेज़ पढ़ता है (14,073 बनाम 3,220 टोकन प्रति सेकंड)। प्रॉम्प्ट पढ़ना मेमोरी बैंडविड्थ पर नहीं, GPU की कंप्यूट ताक़त पर निर्भर है, और यही तय करता है कि लंबे दस्तावेज़ या कोडबेस के साथ पहले शब्द तक कितना इंतज़ार होगा।
- बड़े मॉडल कौन चला सकता है, M5 Max या RTX 5090?
- M5 Max के पास मॉडल के लिए लगभग 96 GB है, RTX 5090 के पास लगभग 31 GB। 73 लोकप्रिय ओपन मॉडल में से 47 M5 Max पर अच्छे से चलते हैं, और 38 RTX 5090 पर।
- क्या MLX Node RTX 5090 पर चलता है?
- नहीं। MLX Node और MLX Harness सिर्फ़ Apple Silicon वाले Mac पर, Apple के MLX फ़्रेमवर्क के साथ चलते हैं।
और तुलनाएँ
- M5 Max vs DGX Spark
- M5 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ PRO 495
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
- M4 Max vs M5 Max
- M5 Pro vs M5 Max
लोकल AI के लिए M5 Max · हर मॉडल की तुलना करें · लोकल LLM के लिए सबसे अच्छा Mac
हिसाब कैसे लगाया गया
मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।
RTX 5090 का डेटा: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4)।