لاگ انوالیٹ بنائیں

کیا Mac پر Llama 4 Scout 17B-16E Instruct چل سکتا ہے؟

جی ہاں، 96 GB یا زیادہ یونیفائیڈ میموری کے ساتھ۔ Llama 4 Scout 17B-16E Instruct میں 109B پیرامیٹرز ہیں، جن میں سے ہر ٹوکن کے لیے 17B فعال ہوتے ہیں؛ یہاں ہر پریسیژن پر درکار میموری ہے اور یہ کہ ہر Apple چپ اسے کتنی تیزی سے چلاتی ہے۔

4-bit پر میموری66.2 GBویٹس 61.3 GB + کانٹیکسٹ
سب سے چھوٹا Mac96 GB4-bit · 23 Mac کنفیگریشنز
سب سے تیز Mac56–100ٹوکن/سیکنڈ · M5 Ultra 96 GB (اندازہ)

ہر پریسیژن پر میموری

ورژنویٹسکانٹیکسٹ کے ساتھسب سے چھوٹا Mac
8-bit116 GB125 GB192 GB
6-bit88.6 GB95.7 GB128 GB
4-bit61.3 GB66.2 GB96 GB
3-bit کم معیار47.7 GB51.5 GB96 GB
2-bit کم معیار34.1 GB36.8 GB64 GB

ہر Apple چپ پر

ہر چپ کا سب سے کم میموری سائز جو Llama 4 Scout 17B-16E Instruct چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔

چپدرکارورژنٹوکن/سیکنڈ
M6کوئی سائز کافی نہیںبہت بڑا–
M5 Ultra96 GB4-bit اچھا چلتا ہے56–100
M5 Max128 GB6-bit اچھا چلتا ہے20–36
M5 Pro64 GB2-bit اچھا چلتا ہے26–46
M5کوئی سائز کافی نہیںبہت بڑا–
M4 Max128 GB6-bit اچھا چلتا ہے18–32
M4 Pro64 GB2-bit اچھا چلتا ہے23–41
M4کوئی سائز کافی نہیںبہت بڑا–
M3 Ultra96 GB4-bit اچھا چلتا ہے38–68
M3 Max96 GB4-bit اچھا چلتا ہے14–25
M3 Proکوئی سائز کافی نہیںبہت بڑا–
M3کوئی سائز کافی نہیںبہت بڑا–
M2 Ultra128 GB6-bit اچھا چلتا ہے26–46
M2 Max96 GB4-bit اچھا چلتا ہے19–33
M2 Proکوئی سائز کافی نہیںبہت بڑا–
M2کوئی سائز کافی نہیںبہت بڑا–
M1 Ultra128 GB6-bit اچھا چلتا ہے26–46
M1 Max64 GB2-bit اچھا چلتا ہے34–60
M1 Proکوئی سائز کافی نہیںبہت بڑا–
M1کوئی سائز کافی نہیںبہت بڑا–

اسے کیسے چلائیں

  1. آسان طریقہ: MLX Harness ڈاؤن لوڈ کریں، مفت اور اوپن سورس۔ Llama 4 Scout 17B-16E Instruct تلاش کریں، وہ ورژن ڈاؤن لوڈ کریں جو آپ کے Mac میں سماتا ہو، اور چیٹ کریں۔ یہ OpenAI سے مطابقت رکھنے والی API کے ذریعے ماڈل کو آپ کی دوسری ایپس کو بھی فراہم کرتا ہے۔MLX Harness ڈاؤن لوڈ کریںمفت · Apple Silicon · macOS 14.5 یا نیا
  2. Terminal میں Apple کے MLX کے ساتھ:pip install mlx-lmmlx_lm.chat --model mlx-community/Llama-4-Scout-17B-16E-Instruct-4bitبلڈ: Hugging Face پر mlx-community/Llama-4-Scout-17B-16E-Instruct-4bit۔ دوسری پریسیژنز اسی کے ساتھ موجود ہیں۔

مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp

Llama 4 Scout 17B-16E Instruct کے بارے میں

بنانے والاMeta
پیرامیٹرزکل 109B · فعال 17B (mixture-of-experts)
کانٹیکسٹ10M ٹوکن
لائسنسLlama 4 Community License
ریلیز2025-04
ان پٹٹیکسٹ اور تصاویر
ذہانتArtificial Analysis Intelligence Index پر 6.5
ویٹسmeta-llama/Llama-4-Scout-17B-16E-Instruct

سوالات

Llama 4 Scout 17B-16E Instruct کو کتنی میموری چاہیے؟
4-bit پر ویٹس کے لیے تقریباً 61.3 GB، اور کانٹیکسٹ کی گنجائش: کل 66.2 GB۔ Mac پر اس کا مطلب ہے 96 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔
Mac پر Llama 4 Scout 17B-16E Instruct کتنا تیز ہے؟
لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 96 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 56–100 ٹوکن (4-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 96 GB کے ساتھ، M5 Ultra پر تقریباً 56–100 تک پہنچتا ہے۔
Llama 4 Scout 17B-16E Instruct اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟
یہ mixture-of-experts ماڈل ہے: یہ میموری میں 109B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 17B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔

ملتے جلتے ماڈلز

تمام ماڈلز · تمام Mac · اپنے Mac کا موازنہ کریں

آپ کے ماڈل کارڈ یا README کے لیے

Runs on a Mac: Llama 4 Scout 17B-16E Instruct وہ سب سے چھوٹا Mac دکھاتا ہے جو Llama 4 Scout 17B-16E Instruct کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔

[![Runs on a Mac](https://mlx.app/badge/run/llama-4-scout.svg)](https://mlx.app/run/llama-4-scout)

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

کیا Mac پر Llama 4 Scout 17B-16E Instruct چلے گا؟ میموری اور رفتار