کیا LLMs کے لیے DGX Spark، M3 Ultra سے تیز ہے؟

M3 Ultra میموری کو DGX Spark سے تقریباً 200% تیز پڑھتا ہے (819 بمقابلہ 273 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 200% تیز لکھتا ہے۔ llama.cpp کے ناپے گئے ٹیسٹ میں DGX Spark پرامپٹ تقریباً 2.1× تیز پڑھتا ہے (3,062 بمقابلہ 1,471 ٹوکن فی سیکنڈ)۔ پرامپٹ پڑھنا میموری بینڈوڈتھ پر نہیں بلکہ GPU کی کمپیوٹ طاقت پر منحصر ہے، اور یہی لمبی دستاویز یا کوڈ بیس کے ساتھ پہلے لفظ تک انتظار طے کرتا ہے۔

بڑے ماڈلز کون چلا سکتا ہے، M3 Ultra یا DGX Spark؟

M3 Ultra کے پاس ماڈلز کے لیے تقریباً 384 GB ہیں، DGX Spark کے پاس تقریباً 96 GB۔ 73 مقبول اوپن ماڈلز میں سے 60 M3 Ultra پر اچھی طرح چلتے ہیں، اور 39 DGX Spark پر۔

کیا MLX Node DGX Spark پر چلتا ہے؟

نہیں۔ MLX Node اور MLX Harness صرف Apple Silicon والے Mac پر، Apple کے MLX فریم ورک کے ساتھ چلتے ہیں۔

LLMs کے لیے M3 Ultra بمقابلہ DGX Spark: میموری، رفتار، کون سا لیں

ساتھ ساتھ

	M3 Ultra	DGX Spark
یہ کیا ہے	Mac Studio (2025)	ایک مکمل چھوٹا کمپیوٹر
میموری سائز	96, 256, 512 GB	128 GB
میموری بینڈوڈتھ	819 GB/s	273 GB/s
ماڈلز کے لیے، زیادہ سے زیادہ	تقریباً 384 GB	تقریباً 96 GB
اچھا چلنے والے ماڈلز	73 میں سے 60	73 میں سے 39
ناپا گیا: لکھنا	92 tok/s	57 tok/s
ناپا گیا: پرامپٹ پڑھنا	1,471 tok/s	3,062 tok/s

ناپی گئی قطاریں: llama.cpp کے عوامی بینچ مارکس میں Llama 2 7B Q4_0 کے ساتھ ہر مشین کا تیز ترین نتیجہ، 128 ٹوکن لکھتے ہوئے (tg128) اور 512 ٹوکن کا پرامپٹ پڑھتے ہوئے (pp512)، ٹوکن فی سیکنڈ میں۔ Mac نے Metal اور DGX Spark نے CUDA استعمال کیا۔ Apple Silicon کے نتائج · DGX Spark کے نتائج ماڈلز کے لیے ہم دونوں میں میموری کا تقریباً 75% گنتے ہیں، جو macOS کا ڈیفالٹ ہے، کیونکہ DGX Spark بھی CPU اور GPU کے درمیان ایک ہی میموری بانٹتا ہے۔ اس کا GPU حقیقت میں کتنی استعمال کر سکتا ہے، یہ آپریٹنگ سسٹم اور سیٹنگز پر منحصر ہے۔

کون کہاں آگے ہے

لکھنے کی رفتار۔ M3 Ultra میموری کو DGX Spark سے تقریباً 200% تیز پڑھتا ہے (819 بمقابلہ 273 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 200% تیز لکھتا ہے۔
ماڈل کا سائز۔ M3 Ultra کے پاس ماڈلز کے لیے تقریباً 384 GB ہیں، DGX Spark کے پاس تقریباً 96 GB۔ 73 مقبول اوپن ماڈلز میں سے 60 M3 Ultra پر اچھی طرح چلتے ہیں، اور 39 DGX Spark پر۔
لمبے پرامپٹ پڑھنا۔ llama.cpp کے ناپے گئے ٹیسٹ میں DGX Spark پرامپٹ تقریباً 2.1× تیز پڑھتا ہے (3,062 بمقابلہ 1,471 ٹوکن فی سیکنڈ)۔ پرامپٹ پڑھنا میموری بینڈوڈتھ پر نہیں بلکہ GPU کی کمپیوٹ طاقت پر منحصر ہے، اور یہی لمبی دستاویز یا کوڈ بیس کے ساتھ پہلے لفظ تک انتظار طے کرتا ہے۔
سافٹ ویئر۔ DGX Spark NVIDIA کا CUDA استعمال کرتا ہے، جسے زیادہ تر AI سافٹ ویئر سب سے پہلے سپورٹ کرتے ہیں، بشمول ٹریننگ کوڈ اور تصویر و ویڈیو کے بہت سے ٹولز۔ Mac پر ماڈلز اس کے بجائے MLX، llama.cpp کے Metal بیک اینڈ یا PyTorch کے MPS بیک اینڈ سے چلتے ہیں۔
اس کے گرد۔ دونوں مکمل کمپیوٹر ہیں جو ماڈل کو ایک ہی میموری میں رکھتے ہیں جسے CPU اور GPU بانٹتے ہیں۔
Mac۔ یہ روزمرہ کا کمپیوٹر بھی ہے، اور Apple Silicon کے لیے بنے MLX Harness اور MLX Node چلاتا ہے۔

ماڈل	M3 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	43–77 8-bit	14–26 8-bit
gpt-oss-20b21B · 3.6B فعال	194–345 اصل 4.25-bit	65–115 اصل 4.25-bit
Qwen3.6 35B A3B35B · 3B فعال	115–205 8-bit	38–68 8-bit
Qwen3.8 27B27B	13–23 8-bit	4–8 8-bit
Llama 3.3 70B Instruct70B	5–9 8-bit	2–3 8-bit
gpt-oss-120b117B · 5.1B فعال	137–243 اصل 4.25-bit	45–81 اصل 4.25-bit
Qwen3.5 122B A10B122B · 10B فعال	35–62 8-bit	22–39 4-bit
DeepSeek V4 Flash 0731284B · 13B فعال	27–47 8-bit	30–53 2-bit کم معیار

سوالات

کیا LLMs کے لیے DGX Spark، M3 Ultra سے تیز ہے؟: M3 Ultra میموری کو DGX Spark سے تقریباً 200% تیز پڑھتا ہے (819 بمقابلہ 273 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 200% تیز لکھتا ہے۔ llama.cpp کے ناپے گئے ٹیسٹ میں DGX Spark پرامپٹ تقریباً 2.1× تیز پڑھتا ہے (3,062 بمقابلہ 1,471 ٹوکن فی سیکنڈ)۔ پرامپٹ پڑھنا میموری بینڈوڈتھ پر نہیں بلکہ GPU کی کمپیوٹ طاقت پر منحصر ہے، اور یہی لمبی دستاویز یا کوڈ بیس کے ساتھ پہلے لفظ تک انتظار طے کرتا ہے۔
بڑے ماڈلز کون چلا سکتا ہے، M3 Ultra یا DGX Spark؟: M3 Ultra کے پاس ماڈلز کے لیے تقریباً 384 GB ہیں، DGX Spark کے پاس تقریباً 96 GB۔ 73 مقبول اوپن ماڈلز میں سے 60 M3 Ultra پر اچھی طرح چلتے ہیں، اور 39 DGX Spark پر۔
کیا MLX Node DGX Spark پر چلتا ہے؟: نہیں۔ MLX Node اور MLX Harness صرف Apple Silicon والے Mac پر، Apple کے MLX فریم ورک کے ساتھ چلتے ہیں۔

مزید موازنے

لوکل AI کے لیے M3 Ultra · ہر ماڈل کا موازنہ کریں · لوکل LLMs کے لیے بہترین Mac

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

DGX Spark کا ڈیٹا: NVIDIA: DGX Spark (specs)۔

لوکل AI کے لیے M3 Ultra بمقابلہ DGX Spark۔