کیا LLMs کے لیے M5 Max، M3 Ultra سے تیز ہے؟

M3 Ultra میموری کو M5 Max سے تقریباً 33% تیز پڑھتا ہے (819 بمقابلہ 614 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 33% تیز لکھتا ہے۔ لمبا پرامپٹ پڑھنا البتہ GPU کمپیوٹ پر منحصر ہے، جو اس موازنے میں شامل نہیں۔

بڑے ماڈلز کون چلا سکتا ہے، M3 Ultra یا M5 Max؟

M3 Ultra: M3 Ultra میں 512 GB تک میموری ملتی ہے، M5 Max میں 128 GB تک۔ اپنے سب سے بڑے سائز پر یہ 73 اوپن ماڈلز میں سے 60 اچھے چلاتا ہے، جبکہ دوسرا 47۔

LLMs کے لیے M3 Ultra بمقابلہ M5 Max: میموری، رفتار، کون سا لیں

ساتھ ساتھ

	M3 Ultra	M5 Max
میموری سائز	96, 256, 512 GB	36, 48, 64, 128 GB
میموری بینڈوڈتھ	819 GB/s	460–614 GB/s
ماڈلز کے لیے، زیادہ سے زیادہ	تقریباً 384 GB	تقریباً 96 GB
اچھا چلنے والے ماڈلز	73 میں سے 60	73 میں سے 47
MLX سیٹ کلاس	Ultra	Pro Latest
کن میں ملتی ہے	Mac Studio (2025)	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)

مقبول ماڈلز کے ساتھ رفتار

ایک گفتگو کے لیے فی سیکنڈ ٹوکن، ہر چپ اپنے سب سے بڑے میموری سائز پر (512 GB اور 128 GB)، ماڈل کے اس بہترین ورژن کے ساتھ جو سماتا ہے۔

ماڈل	M3 Ultra	M5 Max
Llama 3.1 8B Instruct8B	43–77 8-bit	33–58 8-bit
gpt-oss-20b21B · 3.6B فعال	194–345 اصل 4.25-bit	145–259 اصل 4.25-bit
Qwen3.6 35B A3B35B · 3B فعال	115–205 8-bit	86–154 8-bit
Qwen3.8 27B27B	13–23 8-bit	10–17 8-bit
Llama 3.3 70B Instruct70B	5–9 8-bit	4–7 8-bit
gpt-oss-120b117B · 5.1B فعال	137–243 اصل 4.25-bit	102–182 اصل 4.25-bit
Qwen3.5 122B A10B122B · 10B فعال	35–62 8-bit	49–88 4-bit
DeepSeek V4 Flash 0731284B · 13B فعال	27–47 8-bit	67–120 2-bit کم معیار

سوالات

کیا LLMs کے لیے M5 Max، M3 Ultra سے تیز ہے؟: M3 Ultra میموری کو M5 Max سے تقریباً 33% تیز پڑھتا ہے (819 بمقابلہ 614 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 33% تیز لکھتا ہے۔ لمبا پرامپٹ پڑھنا البتہ GPU کمپیوٹ پر منحصر ہے، جو اس موازنے میں شامل نہیں۔
بڑے ماڈلز کون چلا سکتا ہے، M3 Ultra یا M5 Max؟: M3 Ultra: M3 Ultra میں 512 GB تک میموری ملتی ہے، M5 Max میں 128 GB تک۔ اپنے سب سے بڑے سائز پر یہ 73 اوپن ماڈلز میں سے 60 اچھے چلاتا ہے، جبکہ دوسرا 47۔

مزید موازنے

لوکل AI کے لیے M3 Ultra · لوکل AI کے لیے M5 Max · ہر ماڈل کا موازنہ کریں · لوکل LLMs کے لیے بہترین Mac

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔