لاگ انوالیٹ بنائیں

کیا Mac پر Ornith 1.5 122B چل سکتا ہے؟

جی ہاں، 128 GB یا زیادہ یونیفائیڈ میموری کے ساتھ۔ Ornith 1.5 122B میں 122B پیرامیٹرز ہیں، جن میں سے ہر ٹوکن کے لیے 10B فعال ہوتے ہیں؛ یہاں ہر پریسیژن پر درکار میموری ہے اور یہ کہ ہر Apple چپ اسے کتنی تیزی سے چلاتی ہے۔

4-bit پر میموری74.1 GBویٹس 68.6 GB + کانٹیکسٹ
سب سے چھوٹا Mac128 GB4-bit · 23 Mac کنفیگریشنز
سب سے تیز Mac64–114ٹوکن/سیکنڈ · M2 Ultra 128 GB (اندازہ)

ہر پریسیژن پر میموری

ورژنویٹسکانٹیکسٹ کے ساتھسب سے چھوٹا Mac
8-bit130 GB140 GB192 GB
6-bit99.1 GB107 GB192 GB
4-bit68.6 GB74.1 GB128 GB
3-bit کم معیار53.4 GB57.7 GB96 GB
2-bit کم معیار38.1 GB41.1 GB64 GB

ہر Apple چپ پر

ہر چپ کا سب سے کم میموری سائز جو Ornith 1.5 122B چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔

چپدرکارورژنٹوکن/سیکنڈ
M6کوئی سائز کافی نہیںبہت بڑا–
M5 Ultra256 GB8-bit اچھا چلتا ہے51–91
M5 Max128 GB4-bit اچھا چلتا ہے49–88
M5 Pro64 GB2-bit اچھا چلتا ہے45–79
M5کوئی سائز کافی نہیںبہت بڑا–
M4 Max128 GB4-bit اچھا چلتا ہے44–78
M4 Pro64 GB2-bit اچھا چلتا ہے40–70
M4کوئی سائز کافی نہیںبہت بڑا–
M3 Ultra256 GB8-bit اچھا چلتا ہے35–62
M3 Max128 GB4-bit اچھا چلتا ہے32–57
M3 Proکوئی سائز کافی نہیںبہت بڑا–
M3کوئی سائز کافی نہیںبہت بڑا–
M2 Ultra128 GB4-bit اچھا چلتا ہے64–114
M2 Max64 GB2-bit اچھا چلتا ہے58–103
M2 Proکوئی سائز کافی نہیںبہت بڑا–
M2کوئی سائز کافی نہیںبہت بڑا–
M1 Ultra128 GB4-bit اچھا چلتا ہے64–114
M1 Max64 GB2-bit اچھا چلتا ہے58–103
M1 Proکوئی سائز کافی نہیںبہت بڑا–
M1کوئی سائز کافی نہیںبہت بڑا–

اسے کیسے چلائیں

  1. آسان طریقہ: MLX Harness ڈاؤن لوڈ کریں، مفت اور اوپن سورس۔ Ornith 1.5 122B تلاش کریں، وہ ورژن ڈاؤن لوڈ کریں جو آپ کے Mac میں سماتا ہو، اور چیٹ کریں۔ یہ OpenAI سے مطابقت رکھنے والی API کے ذریعے ماڈل کو آپ کی دوسری ایپس کو بھی فراہم کرتا ہے۔MLX Harness ڈاؤن لوڈ کریںمفت · Apple Silicon · macOS 14.5 یا نیا
  2. Terminal میں Apple کے MLX کے ساتھ: ابھی تک کمیونٹی کا کوئی MLX بلڈ نہیں ہے، اس لیے آفیشل ویٹس سے خود بنائیں:pip install mlx-lmmlx_lm.convert --hf-path ornith-ai/Ornith-1.5-122B -q

مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp

Ornith 1.5 122B کے بارے میں

بنانے والاOrnith AI
پیرامیٹرزکل 122B · فعال 10B (mixture-of-experts)
کانٹیکسٹ256K ٹوکن
لائسنسMIT
ریلیز2026-10
ان پٹٹیکسٹ اور تصاویر
ویٹسornith-ai/Ornith-1.5-122B

سوالات

Ornith 1.5 122B کو کتنی میموری چاہیے؟
4-bit پر ویٹس کے لیے تقریباً 68.6 GB، اور کانٹیکسٹ کی گنجائش: کل 74.1 GB۔ Mac پر اس کا مطلب ہے 128 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔
Mac پر Ornith 1.5 122B کتنا تیز ہے؟
لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 128 GB والا M2 Ultra ہے، فی سیکنڈ تقریباً 64–114 ٹوکن (4-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 128 GB کے ساتھ، M2 Ultra پر تقریباً 64–114 تک پہنچتا ہے۔
Ornith 1.5 122B اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟
یہ mixture-of-experts ماڈل ہے: یہ میموری میں 122B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 10B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔

ملتے جلتے ماڈلز

تمام ماڈلز · تمام Mac · اپنے Mac کا موازنہ کریں

آپ کے ماڈل کارڈ یا README کے لیے

Runs on a Mac: Ornith 1.5 122B وہ سب سے چھوٹا Mac دکھاتا ہے جو Ornith 1.5 122B کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔

[![Runs on a Mac](https://mlx.app/badge/run/ornith-1.5-122b.svg)](https://mlx.app/run/ornith-1.5-122b)

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

کیا Mac پر Ornith 1.5 122B چلے گا؟ میموری اور رفتار