ساتھ ساتھ
| M5 Max | RTX 5090 | |
|---|---|---|
| یہ کیا ہے | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | ڈیسک ٹاپ PC کے لیے گرافکس کارڈ |
| میموری سائز | 36, 48, 64, 128 GB | 32 GB |
| میموری بینڈوڈتھ | 460–614 GB/s | 1,792 GB/s |
| ماڈلز کے لیے، زیادہ سے زیادہ | تقریباً 96 GB | تقریباً 31 GB |
| اچھا چلنے والے ماڈلز | 73 میں سے 47 | 73 میں سے 38 |
| ناپا گیا: لکھنا | 120 tok/s | 290 tok/s |
| ناپا گیا: پرامپٹ پڑھنا | 3,220 tok/s | 14,073 tok/s |
ناپی گئی قطاریں: llama.cpp کے عوامی بینچ مارکس میں Llama 2 7B Q4_0 کے ساتھ ہر مشین کا تیز ترین نتیجہ، 128 ٹوکن لکھتے ہوئے (tg128) اور 512 ٹوکن کا پرامپٹ پڑھتے ہوئے (pp512)، ٹوکن فی سیکنڈ میں۔ Mac نے Metal اور RTX 5090 نے CUDA استعمال کیا۔ Apple Silicon کے نتائج · RTX 5090 کے نتائج ماڈلز کے لیے ہم RTX 5090 کی اپنی 32 GB میں سے تقریباً 1 GB کم، اور Mac کی یونیفائیڈ میموری کا تقریباً 75% گنتے ہیں، جو macOS کا ڈیفالٹ ہے۔
کون کہاں آگے ہے
- لکھنے کی رفتار۔ RTX 5090 میموری کو M5 Max سے تقریباً 192% تیز پڑھتا ہے (1,792 بمقابلہ 614 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 192% تیز لکھتا ہے۔
- ماڈل کا سائز۔ M5 Max کے پاس ماڈلز کے لیے تقریباً 96 GB ہیں، RTX 5090 کے پاس تقریباً 31 GB۔ 73 مقبول اوپن ماڈلز میں سے 47 M5 Max پر اچھی طرح چلتے ہیں، اور 38 RTX 5090 پر۔
- لمبے پرامپٹ پڑھنا۔ llama.cpp کے ناپے گئے ٹیسٹ میں RTX 5090 پرامپٹ تقریباً 4.4× تیز پڑھتا ہے (14,073 بمقابلہ 3,220 ٹوکن فی سیکنڈ)۔ پرامپٹ پڑھنا میموری بینڈوڈتھ پر نہیں بلکہ GPU کی کمپیوٹ طاقت پر منحصر ہے، اور یہی لمبی دستاویز یا کوڈ بیس کے ساتھ پہلے لفظ تک انتظار طے کرتا ہے۔
- سافٹ ویئر۔ RTX 5090 NVIDIA کا CUDA استعمال کرتا ہے، جسے زیادہ تر AI سافٹ ویئر سب سے پہلے سپورٹ کرتے ہیں، بشمول ٹریننگ کوڈ اور تصویر و ویڈیو کے بہت سے ٹولز۔ Mac پر ماڈلز اس کے بجائے MLX، llama.cpp کے Metal بیک اینڈ یا PyTorch کے MPS بیک اینڈ سے چلتے ہیں۔
- اس کے گرد۔ گرافکس کارڈ کو اپنے گرد ایک PC چاہیے، اور اس کی اپنی 32 GB ہی حد ہے: جو ماڈل اس میں نہ سمائے اسے جزوی طور پر PC کی کہیں سست سسٹم میموری سے چلانا پڑتا ہے، یا دوسرے کارڈ پر بانٹنا پڑتا ہے۔
- Mac۔ یہ روزمرہ کا کمپیوٹر بھی ہے، اور Apple Silicon کے لیے بنے MLX Harness اور MLX Node چلاتا ہے۔
مقبول ماڈلز کے ساتھ رفتار
ایک گفتگو کے لیے فی سیکنڈ ٹوکن، ہر چپ اپنے سب سے بڑے میموری سائز پر (128 GB اور 32 GB)، ماڈل کے اس بہترین ورژن کے ساتھ جو سماتا ہے۔
| ماڈل | M5 Max | RTX 5090 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-bit | 95–169 8-bit |
| gpt-oss-20b21B · 3.6B فعال | 145–259 اصل 4.25-bit | 424–755 اصل 4.25-bit |
| Qwen3.6 35B A3B35B · 3B فعال | 86–154 8-bit | 336–597 6-bit |
| Qwen3.8 27B27B | 10–17 8-bit | 28–50 8-bit |
| Llama 3.3 70B Instruct70B | 4–7 8-bit | 37–65 2-bit کم معیار |
| gpt-oss-120b117B · 5.1B فعال | 102–182 اصل 4.25-bit | بہت بڑا |
| Qwen3.5 122B A10B122B · 10B فعال | 49–88 4-bit | بہت بڑا |
| DeepSeek V4 Flash 0731284B · 13B فعال | 67–120 2-bit کم معیار | بہت بڑا |
سوالات
- کیا LLMs کے لیے RTX 5090، M5 Max سے تیز ہے؟
- RTX 5090 میموری کو M5 Max سے تقریباً 192% تیز پڑھتا ہے (1,792 بمقابلہ 614 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 192% تیز لکھتا ہے۔ llama.cpp کے ناپے گئے ٹیسٹ میں RTX 5090 پرامپٹ تقریباً 4.4× تیز پڑھتا ہے (14,073 بمقابلہ 3,220 ٹوکن فی سیکنڈ)۔ پرامپٹ پڑھنا میموری بینڈوڈتھ پر نہیں بلکہ GPU کی کمپیوٹ طاقت پر منحصر ہے، اور یہی لمبی دستاویز یا کوڈ بیس کے ساتھ پہلے لفظ تک انتظار طے کرتا ہے۔
- بڑے ماڈلز کون چلا سکتا ہے، M5 Max یا RTX 5090؟
- M5 Max کے پاس ماڈلز کے لیے تقریباً 96 GB ہیں، RTX 5090 کے پاس تقریباً 31 GB۔ 73 مقبول اوپن ماڈلز میں سے 47 M5 Max پر اچھی طرح چلتے ہیں، اور 38 RTX 5090 پر۔
- کیا MLX Node RTX 5090 پر چلتا ہے؟
- نہیں۔ MLX Node اور MLX Harness صرف Apple Silicon والے Mac پر، Apple کے MLX فریم ورک کے ساتھ چلتے ہیں۔
مزید موازنے
- M5 Max vs DGX Spark
- M5 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ PRO 495
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
- M4 Max vs M5 Max
- M5 Pro vs M5 Max
لوکل AI کے لیے M5 Max · ہر ماڈل کا موازنہ کریں · لوکل LLMs کے لیے بہترین Mac
یہ کیسے نکالا گیا
میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔
RTX 5090 کا ڈیٹا: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4)۔