کیا LLMs کے لیے M2 Ultra، M2 Max سے تیز ہے؟

M2 Ultra میموری کو M2 Max سے تقریباً 100% تیز پڑھتا ہے (800 بمقابلہ 400 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 100% تیز لکھتا ہے۔ لمبا پرامپٹ پڑھنا البتہ GPU کمپیوٹ پر منحصر ہے، جو اس موازنے میں شامل نہیں۔

بڑے ماڈلز کون چلا سکتا ہے، M2 Max یا M2 Ultra؟

M2 Ultra: M2 Ultra میں 192 GB تک میموری ملتی ہے، M2 Max میں 96 GB تک۔ اپنے سب سے بڑے سائز پر یہ 73 اوپن ماڈلز میں سے 49 اچھے چلاتا ہے، جبکہ دوسرا 43۔

LLMs کے لیے M2 Max بمقابلہ M2 Ultra: میموری، رفتار، کون سا لیں

ساتھ ساتھ

	M2 Max	M2 Ultra
میموری سائز	32, 64, 96 GB	64, 128, 192 GB
میموری بینڈوڈتھ	400 GB/s	800 GB/s
ماڈلز کے لیے، زیادہ سے زیادہ	تقریباً 72 GB	تقریباً 144 GB
اچھا چلنے والے ماڈلز	73 میں سے 43	73 میں سے 49
MLX سیٹ کلاس	Pro	Ultra
کن میں ملتی ہے	MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac Studio (2023)	Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)

مقبول ماڈلز کے ساتھ رفتار

ایک گفتگو کے لیے فی سیکنڈ ٹوکن، ہر چپ اپنے سب سے بڑے میموری سائز پر (96 GB اور 192 GB)، ماڈل کے اس بہترین ورژن کے ساتھ جو سماتا ہے۔

ماڈل	M2 Max	M2 Ultra
Llama 3.1 8B Instruct8B	21–38 8-bit	42–75 8-bit
gpt-oss-20b21B · 3.6B فعال	95–168 اصل 4.25-bit	189–337 اصل 4.25-bit
Qwen3.6 35B A3B35B · 3B فعال	56–100 8-bit	113–200 8-bit
Qwen3.8 27B27B	12–21 4-bit	13–22 8-bit
Llama 3.3 70B Instruct70B	3–6 6-bit	5–9 8-bit
gpt-oss-120b117B · 5.1B فعال	67–119 اصل 4.25-bit	133–237 اصل 4.25-bit
Qwen3.5 122B A10B122B · 10B فعال	41–73 3-bit کم معیار	34–60 8-bit
DeepSeek V4 Flash 0731284B · 13B فعال	بہت بڑا	63–112 3-bit کم معیار

سوالات

کیا LLMs کے لیے M2 Ultra، M2 Max سے تیز ہے؟: M2 Ultra میموری کو M2 Max سے تقریباً 100% تیز پڑھتا ہے (800 بمقابلہ 400 GB/s)، اس لیے دونوں میں سمانے والے کسی بھی ماڈل کے ساتھ تقریباً 100% تیز لکھتا ہے۔ لمبا پرامپٹ پڑھنا البتہ GPU کمپیوٹ پر منحصر ہے، جو اس موازنے میں شامل نہیں۔
بڑے ماڈلز کون چلا سکتا ہے، M2 Max یا M2 Ultra؟: M2 Ultra: M2 Ultra میں 192 GB تک میموری ملتی ہے، M2 Max میں 96 GB تک۔ اپنے سب سے بڑے سائز پر یہ 73 اوپن ماڈلز میں سے 49 اچھے چلاتا ہے، جبکہ دوسرا 43۔

مزید موازنے

لوکل AI کے لیے M2 Max · لوکل AI کے لیے M2 Ultra · ہر ماڈل کا موازنہ کریں · لوکل LLMs کے لیے بہترین Mac

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔