لاگ انوالیٹ بنائیں

کیا Mac پر Qwen3.8 2.4T A95B چل سکتا ہے؟

ایک Mac پر نہیں۔ Qwen3.8 2.4T A95B میں 2,400B پیرامیٹرز ہیں، اور 2 bits پر بھی یہ سب سے بڑے Mac کی میموری سے زیادہ ہے۔ یہاں دیکھیں کہ اس کے لیے کیا درکار ہوگا، اور چھوٹے ماڈلز جو اچھے چلتے ہیں۔

4-bit پر میموری1.5 TBویٹس 1.4 TB + کانٹیکسٹ
سب سے چھوٹا Macکوئی نہیں2 bits پر بھی
سب سے تیز Mac–کسی Mac میں نہیں سماتا

ہر پریسیژن پر میموری

ورژنویٹسکانٹیکسٹ کے ساتھسب سے چھوٹا Mac
8-bit2.6 TB2.8 TBکسی بھی Mac سے زیادہ
6-bit2 TB2.1 TBکسی بھی Mac سے زیادہ
4-bit1.4 TB1.5 TBکسی بھی Mac سے زیادہ
3-bit کم معیار1.1 TB1.1 TBکسی بھی Mac سے زیادہ
2-bit کم معیار750 GB810 GBکسی بھی Mac سے زیادہ

ہر Apple چپ پر

ہر چپ کا سب سے کم میموری سائز جو Qwen3.8 2.4T A95B چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔

چپدرکارورژنٹوکن/سیکنڈ
M6کوئی سائز کافی نہیںبہت بڑا–
M5 Ultraکوئی سائز کافی نہیںبہت بڑا–
M5 Maxکوئی سائز کافی نہیںبہت بڑا–
M5 Proکوئی سائز کافی نہیںبہت بڑا–
M5کوئی سائز کافی نہیںبہت بڑا–
M4 Maxکوئی سائز کافی نہیںبہت بڑا–
M4 Proکوئی سائز کافی نہیںبہت بڑا–
M4کوئی سائز کافی نہیںبہت بڑا–
M3 Ultraکوئی سائز کافی نہیںبہت بڑا–
M3 Maxکوئی سائز کافی نہیںبہت بڑا–
M3 Proکوئی سائز کافی نہیںبہت بڑا–
M3کوئی سائز کافی نہیںبہت بڑا–
M2 Ultraکوئی سائز کافی نہیںبہت بڑا–
M2 Maxکوئی سائز کافی نہیںبہت بڑا–
M2 Proکوئی سائز کافی نہیںبہت بڑا–
M2کوئی سائز کافی نہیںبہت بڑا–
M1 Ultraکوئی سائز کافی نہیںبہت بڑا–
M1 Maxکوئی سائز کافی نہیںبہت بڑا–
M1 Proکوئی سائز کافی نہیںبہت بڑا–
M1کوئی سائز کافی نہیںبہت بڑا–

اسے کیسے چلائیں

کوئی ایک Mac اسے نہیں سما سکتا۔ نیچے دیے گئے چھوٹے ماڈلز اچھے چلتے ہیں، اور Mac کلسٹرز کی گائیڈ بتاتی ہے کہ ایک ماڈل کو کئی Mac پر کیسے پھیلائیں۔

مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp

Qwen3.8 2.4T A95B کے بارے میں

بنانے والاQwen (Alibaba)
پیرامیٹرزکل 2,400B · فعال 95B (mixture-of-experts)
کانٹیکسٹ256K ٹوکن
لائسنسQwen3.8-Max license (qwen3.8-max)
ریلیز2026-08
ان پٹٹیکسٹ
ذہانتArtificial Analysis Intelligence Index پر 39.9
ویٹسQwen/Qwen3.8-2.4T-A95B

سوالات

Qwen3.8 2.4T A95B کو کتنی میموری چاہیے؟
4-bit پر ویٹس کے لیے تقریباً 1.4 TB، اور کانٹیکسٹ کی گنجائش: کل 1.5 TB۔ یہ آج کے کسی بھی Mac کی میموری سے زیادہ ہے۔
کیا کوئی Mac Qwen3.8 2.4T A95B چلا سکتا ہے؟
اکیلے نہیں: 2 bits پر بھی اسے سب سے بڑے Mac سے زیادہ میموری چاہیے۔ چھوٹا ماڈل استعمال کریں، یا کلسٹر رن ٹائم سے اسے کئی Mac پر پھیلائیں۔
Qwen3.8 2.4T A95B اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟
یہ mixture-of-experts ماڈل ہے: یہ میموری میں 2,400B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 95B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔

ملتے جلتے ماڈلز

تمام ماڈلز · تمام Mac · اپنے Mac کا موازنہ کریں

آپ کے ماڈل کارڈ یا README کے لیے

Runs on a Mac: Qwen3.8 2.4T A95B وہ سب سے چھوٹا Mac دکھاتا ہے جو Qwen3.8 2.4T A95B کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.8-2.4t-a95b.svg)](https://mlx.app/run/qwen3.8-2.4t-a95b)

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

کیا Mac پر Qwen3.8 2.4T A95B چلے گا؟ میموری اور رفتار