لاگ انوالیٹ بنائیں

کیا Mac پر Qwen3.5 397B A17B چل سکتا ہے؟

جی ہاں، 512 GB یا زیادہ یونیفائیڈ میموری کے ساتھ۔ Qwen3.5 397B A17B میں 397B پیرامیٹرز ہیں، جن میں سے ہر ٹوکن کے لیے 17B فعال ہوتے ہیں؛ یہاں ہر پریسیژن پر درکار میموری ہے اور یہ کہ ہر Apple چپ اسے کتنی تیزی سے چلاتی ہے۔

4-bit پر میموری241 GBویٹس 223 GB + کانٹیکسٹ
سب سے چھوٹا Mac512 GB6-bit · 5 Mac کنفیگریشنز
سب سے تیز Mac39–70ٹوکن/سیکنڈ · M5 Ultra 512 GB (اندازہ)

ہر پریسیژن پر میموری

ورژنویٹسکانٹیکسٹ کے ساتھسب سے چھوٹا Mac
8-bit422 GB456 GBکسی بھی Mac سے زیادہ
6-bit323 GB348 GB512 GB
4-bit223 GB241 GB512 GB
3-bit کم معیار174 GB188 GB256 GB
2-bit کم معیار124 GB134 GB192 GB

ہر Apple چپ پر

ہر چپ کا سب سے کم میموری سائز جو Qwen3.5 397B A17B چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔

چپدرکارورژنٹوکن/سیکنڈ
M6کوئی سائز کافی نہیںبہت بڑا–
M5 Ultra512 GB6-bit اچھا چلتا ہے39–70
M5 Maxکوئی سائز کافی نہیںبہت بڑا–
M5 Proکوئی سائز کافی نہیںبہت بڑا–
M5کوئی سائز کافی نہیںبہت بڑا–
M4 Maxکوئی سائز کافی نہیںبہت بڑا–
M4 Proکوئی سائز کافی نہیںبہت بڑا–
M4کوئی سائز کافی نہیںبہت بڑا–
M3 Ultra512 GB6-bit اچھا چلتا ہے27–47
M3 Maxکوئی سائز کافی نہیںبہت بڑا–
M3 Proکوئی سائز کافی نہیںبہت بڑا–
M3کوئی سائز کافی نہیںبہت بڑا–
M2 Ultra192 GB2-bit اچھا چلتا ہے68–121
M2 Maxکوئی سائز کافی نہیںبہت بڑا–
M2 Proکوئی سائز کافی نہیںبہت بڑا–
M2کوئی سائز کافی نہیںبہت بڑا–
M1 Ultraکوئی سائز کافی نہیںبہت بڑا–
M1 Maxکوئی سائز کافی نہیںبہت بڑا–
M1 Proکوئی سائز کافی نہیںبہت بڑا–
M1کوئی سائز کافی نہیںبہت بڑا–

اسے کیسے چلائیں

  1. آسان طریقہ: MLX Harness ڈاؤن لوڈ کریں، مفت اور اوپن سورس۔ Qwen3.5 397B A17B تلاش کریں، وہ ورژن ڈاؤن لوڈ کریں جو آپ کے Mac میں سماتا ہو، اور چیٹ کریں۔ یہ OpenAI سے مطابقت رکھنے والی API کے ذریعے ماڈل کو آپ کی دوسری ایپس کو بھی فراہم کرتا ہے۔MLX Harness ڈاؤن لوڈ کریںمفت · Apple Silicon · macOS 14.5 یا نیا
  2. Terminal میں Apple کے MLX کے ساتھ:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.5-397B-A17B-4bitبلڈ: Hugging Face پر mlx-community/Qwen3.5-397B-A17B-4bit۔ دوسری پریسیژنز اسی کے ساتھ موجود ہیں۔

مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp

Qwen3.5 397B A17B کے بارے میں

بنانے والاQwen (Alibaba)
پیرامیٹرزکل 397B · فعال 17B (mixture-of-experts)
کانٹیکسٹ256K ٹوکن
لائسنسApache-2.0
ریلیز2026-02
ان پٹٹیکسٹ اور تصاویر
ذہانتArtificial Analysis Intelligence Index پر 18.4
ویٹسQwen/Qwen3.5-397B-A17B

سوالات

Qwen3.5 397B A17B کو کتنی میموری چاہیے؟
4-bit پر ویٹس کے لیے تقریباً 223 GB، اور کانٹیکسٹ کی گنجائش: کل 241 GB۔ Mac پر اس کا مطلب ہے 512 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔
Mac پر Qwen3.5 397B A17B کتنا تیز ہے؟
لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 512 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 39–70 ٹوکن (6-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 512 GB کے ساتھ، M5 Ultra پر تقریباً 39–70 تک پہنچتا ہے۔
Qwen3.5 397B A17B اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟
یہ mixture-of-experts ماڈل ہے: یہ میموری میں 397B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 17B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔

ملتے جلتے ماڈلز

تمام ماڈلز · تمام Mac · اپنے Mac کا موازنہ کریں

آپ کے ماڈل کارڈ یا README کے لیے

Runs on a Mac: Qwen3.5 397B A17B وہ سب سے چھوٹا Mac دکھاتا ہے جو Qwen3.5 397B A17B کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.5-397b-a17b.svg)](https://mlx.app/run/qwen3.5-397b-a17b)

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

کیا Mac پر Qwen3.5 397B A17B چلے گا؟ میموری اور رفتار