لاگ انوالیٹ بنائیں

کیا Mac پر Qwen3.5 0.8B چل سکتا ہے؟

جی ہاں، 8 GB یا زیادہ یونیفائیڈ میموری کے ساتھ۔ Qwen3.5 0.8B میں 0.8B پیرامیٹرز ہیں؛ یہاں ہر پریسیژن پر درکار میموری ہے اور یہ کہ ہر Apple چپ اسے کتنی تیزی سے چلاتی ہے۔

4-bit پر میموری2 GBویٹس 0.5 GB + کانٹیکسٹ
سب سے چھوٹا Mac8 GB8-bit · 58 Mac کنفیگریشنز
سب سے تیز Mac600–1067ٹوکن/سیکنڈ · M5 Ultra 96 GB (اندازہ)

ہر پریسیژن پر میموری

ورژنویٹسکانٹیکسٹ کے ساتھسب سے چھوٹا Mac
8-bit0.9 GB2.4 GB8 GB
6-bit0.7 GB2.2 GB8 GB
4-bit0.5 GB2 GB8 GB
3-bit کم معیار0.4 GB1.9 GB8 GB
2-bit کم معیار0.3 GB1.8 GB8 GB

ہر Apple چپ پر

ہر چپ کا سب سے کم میموری سائز جو Qwen3.5 0.8B چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔

چپدرکارورژنٹوکن/سیکنڈ
M616 GB8-bit اچھا چلتا ہے77–136
M5 Ultra96 GB8-bit اچھا چلتا ہے600–1067
M5 Max36 GB8-bit اچھا چلتا ہے230–409
M5 Pro24 GB8-bit اچھا چلتا ہے154–273
M516 GB8-bit اچھا چلتا ہے77–136
M4 Max36 GB8-bit اچھا چلتا ہے205–364
M4 Pro24 GB8-bit اچھا چلتا ہے137–243
M416 GB8-bit اچھا چلتا ہے60–107
M3 Ultra96 GB8-bit اچھا چلتا ہے410–728
M3 Max36 GB8-bit اچھا چلتا ہے150–267
M3 Pro18 GB8-bit اچھا چلتا ہے75–133
M38 GB8-bit اچھا چلتا ہے50–89
M2 Ultra64 GB8-bit اچھا چلتا ہے400–711
M2 Max32 GB8-bit اچھا چلتا ہے200–356
M2 Pro16 GB8-bit اچھا چلتا ہے100–178
M28 GB8-bit اچھا چلتا ہے50–89
M1 Ultra64 GB8-bit اچھا چلتا ہے400–711
M1 Max32 GB8-bit اچھا چلتا ہے200–356
M1 Pro16 GB8-bit اچھا چلتا ہے100–178
M18 GB8-bit اچھا چلتا ہے34–60

اسے کیسے چلائیں

  1. آسان طریقہ: MLX Harness ڈاؤن لوڈ کریں، مفت اور اوپن سورس۔ Qwen3.5 0.8B تلاش کریں، وہ ورژن ڈاؤن لوڈ کریں جو آپ کے Mac میں سماتا ہو، اور چیٹ کریں۔ یہ OpenAI سے مطابقت رکھنے والی API کے ذریعے ماڈل کو آپ کی دوسری ایپس کو بھی فراہم کرتا ہے۔MLX Harness ڈاؤن لوڈ کریںمفت · Apple Silicon · macOS 14.5 یا نیا
  2. Terminal میں Apple کے MLX کے ساتھ:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.5-0.8B-4bitبلڈ: Hugging Face پر mlx-community/Qwen3.5-0.8B-4bit۔ دوسری پریسیژنز اسی کے ساتھ موجود ہیں۔

مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp

Qwen3.5 0.8B کے بارے میں

بنانے والاQwen (Alibaba)
پیرامیٹرز0.8B (ڈینس)
کانٹیکسٹ256K ٹوکن
لائسنسApache-2.0
ریلیز2026-02
ان پٹٹیکسٹ اور تصاویر
ویٹسQwen/Qwen3.5-0.8B

سوالات

Qwen3.5 0.8B کو کتنی میموری چاہیے؟
4-bit پر ویٹس کے لیے تقریباً 0.5 GB، اور کانٹیکسٹ کی گنجائش: کل 2 GB۔ Mac پر اس کا مطلب ہے 8 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔
Mac پر Qwen3.5 0.8B کتنا تیز ہے؟
لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 96 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 600–1067 ٹوکن (8-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 8 GB کے ساتھ، M3 پر تقریباً 50–89 تک پہنچتا ہے۔
کیا کوانٹائزیشن سے Qwen3.5 0.8B کو نقصان ہوتا ہے؟
4 bits پر زیادہ تر ماڈل اصل معیار کے قریب رہتے ہیں؛ 4 bits سے نیچے معیار تیزی سے گرتا ہے۔ وہ سب سے اونچی پریسیژن چنیں جو آپ کے Mac میں گنجائش کے ساتھ سما جائے۔

ملتے جلتے ماڈلز

تمام ماڈلز · تمام Mac · اپنے Mac کا موازنہ کریں

آپ کے ماڈل کارڈ یا README کے لیے

Runs on a Mac: Qwen3.5 0.8B وہ سب سے چھوٹا Mac دکھاتا ہے جو Qwen3.5 0.8B کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.5-0.8b.svg)](https://mlx.app/run/qwen3.5-0.8b)

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

کیا Mac پر Qwen3.5 0.8B چلے گا؟ میموری اور رفتار