ساتھ ساتھ
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| یہ کیا ہے | Mac Studio (M5 Max or M5 Ultra) | ڈیسک ٹاپ PC کے لیے گرافکس کارڈ |
| میموری سائز | 96, 256, 512 GB | 96 GB |
| میموری بینڈوڈتھ | 1,200 GB/s | 1,792 GB/s |
| ماڈلز کے لیے، زیادہ سے زیادہ | تقریباً 384 GB | تقریباً 95 GB |
| اچھا چلنے والے ماڈلز | 73 میں سے 61 | 73 میں سے 50 |
| ناپا گیا: لکھنا | 179 tok/s | 274 tok/s |
| ناپا گیا: پرامپٹ پڑھنا | 4,945 tok/s | 14,855 tok/s |
ناپی گئی قطاریں: llama.cpp کے عوامی بینچ مارکس میں Llama 2 7B Q4_0 کے ساتھ ہر مشین کا تیز ترین نتیجہ، 128 ٹوکن لکھتے ہوئے (tg128) اور 512 ٹوکن کا پرامپٹ پڑھتے ہوئے (pp512)، ٹوکن فی سیکنڈ میں۔ Mac نے Metal اور RTX PRO 6000 نے CUDA استعمال کیا۔ Apple Silicon کے نتائج · RTX PRO 6000 کے نتائج ماڈلز کے لیے ہم RTX PRO 6000 کی اپنی 96 GB میں سے تقریباً 1 GB کم، اور Mac کی یونیفائیڈ میموری کا تقریباً 75% گنتے ہیں، جو macOS کا ڈیفالٹ ہے۔
کون کہاں آگے ہے
- لکھنے کی رفتار۔ RTX PRO 6000 میموری کو M5 Ultra سے تقریباً 49% تیز پڑھتا ہے (1,792 بمقابلہ 1,200 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 49% تیز لکھتا ہے۔
- ماڈل کا سائز۔ M5 Ultra کے پاس ماڈلز کے لیے تقریباً 384 GB ہیں، RTX PRO 6000 کے پاس تقریباً 95 GB۔ 73 مقبول اوپن ماڈلز میں سے 61 M5 Ultra پر اچھی طرح چلتے ہیں، اور 50 RTX PRO 6000 پر۔
- لمبے پرامپٹ پڑھنا۔ llama.cpp کے ناپے گئے ٹیسٹ میں RTX PRO 6000 پرامپٹ تقریباً 3× تیز پڑھتا ہے (14,855 بمقابلہ 4,945 ٹوکن فی سیکنڈ)۔ پرامپٹ پڑھنا میموری بینڈوڈتھ پر نہیں بلکہ GPU کی کمپیوٹ طاقت پر منحصر ہے، اور یہی لمبی دستاویز یا کوڈ بیس کے ساتھ پہلے لفظ تک انتظار طے کرتا ہے۔
- سافٹ ویئر۔ RTX PRO 6000 NVIDIA کا CUDA استعمال کرتا ہے، جسے زیادہ تر AI سافٹ ویئر سب سے پہلے سپورٹ کرتے ہیں، بشمول ٹریننگ کوڈ اور تصویر و ویڈیو کے بہت سے ٹولز۔ Mac پر ماڈلز اس کے بجائے MLX، llama.cpp کے Metal بیک اینڈ یا PyTorch کے MPS بیک اینڈ سے چلتے ہیں۔
- اس کے گرد۔ گرافکس کارڈ کو اپنے گرد ایک PC چاہیے، اور اس کی اپنی 96 GB ہی حد ہے: جو ماڈل اس میں نہ سمائے اسے جزوی طور پر PC کی کہیں سست سسٹم میموری سے چلانا پڑتا ہے، یا دوسرے کارڈ پر بانٹنا پڑتا ہے۔
- Mac۔ یہ روزمرہ کا کمپیوٹر بھی ہے، اور Apple Silicon کے لیے بنے MLX Harness اور MLX Node چلاتا ہے۔
مقبول ماڈلز کے ساتھ رفتار
ایک گفتگو کے لیے فی سیکنڈ ٹوکن، ہر چپ اپنے سب سے بڑے میموری سائز پر (512 GB اور 96 GB)، ماڈل کے اس بہترین ورژن کے ساتھ جو سماتا ہے۔
| ماڈل | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8-bit | 95–169 8-bit |
| gpt-oss-20b21B · 3.6B فعال | 284–505 اصل 4.25-bit | 424–755 اصل 4.25-bit |
| Qwen3.6 35B A3B35B · 3B فعال | 169–300 8-bit | 252–448 8-bit |
| Qwen3.8 27B27B | 19–33 8-bit | 28–50 8-bit |
| Llama 3.3 70B Instruct70B | 14–24 4-bit | 11–19 8-bit |
| gpt-oss-120b117B · 5.1B فعال | 200–356 اصل 4.25-bit | 299–531 اصل 4.25-bit |
| Qwen3.5 122B A10B122B · 10B فعال | 51–91 8-bit | 144–256 4-bit |
| DeepSeek V4 Flash 0731284B · 13B فعال | 39–70 8-bit | بہت بڑا |
سوالات
- کیا LLMs کے لیے RTX PRO 6000، M5 Ultra سے تیز ہے؟
- RTX PRO 6000 میموری کو M5 Ultra سے تقریباً 49% تیز پڑھتا ہے (1,792 بمقابلہ 1,200 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 49% تیز لکھتا ہے۔ llama.cpp کے ناپے گئے ٹیسٹ میں RTX PRO 6000 پرامپٹ تقریباً 3× تیز پڑھتا ہے (14,855 بمقابلہ 4,945 ٹوکن فی سیکنڈ)۔ پرامپٹ پڑھنا میموری بینڈوڈتھ پر نہیں بلکہ GPU کی کمپیوٹ طاقت پر منحصر ہے، اور یہی لمبی دستاویز یا کوڈ بیس کے ساتھ پہلے لفظ تک انتظار طے کرتا ہے۔
- بڑے ماڈلز کون چلا سکتا ہے، M5 Ultra یا RTX PRO 6000؟
- M5 Ultra کے پاس ماڈلز کے لیے تقریباً 384 GB ہیں، RTX PRO 6000 کے پاس تقریباً 95 GB۔ 73 مقبول اوپن ماڈلز میں سے 61 M5 Ultra پر اچھی طرح چلتے ہیں، اور 50 RTX PRO 6000 پر۔
- کیا MLX Node RTX PRO 6000 پر چلتا ہے؟
- نہیں۔ MLX Node اور MLX Harness صرف Apple Silicon والے Mac پر، Apple کے MLX فریم ورک کے ساتھ چلتے ہیں۔
مزید موازنے
لوکل AI کے لیے M5 Ultra · ہر ماڈل کا موازنہ کریں · لوکل LLMs کے لیے بہترین Mac
یہ کیسے نکالا گیا
میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔
RTX PRO 6000 کا ڈیٹا: NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table)۔