ہر پریسیژن پر میموری
| ورژن | ویٹس | کانٹیکسٹ کے ساتھ | سب سے چھوٹا Mac |
|---|---|---|---|
| 8-bit | 15.9 GB | 17.4 GB | 24 GB |
| 6-bit | 12.2 GB | 13.7 GB | 24 GB |
| 4-bit | 8.4 GB | 9.9 GB | 16 GB |
| 3-bit کم معیار | 6.6 GB | 8.1 GB | 16 GB |
| 2-bit کم معیار | 4.7 GB | 6.2 GB | 16 GB |
ہر Apple چپ پر
ہر چپ کا سب سے کم میموری سائز جو Phi-4 Reasoning Vision 15B چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔
| چپ | درکار | ورژن | ٹوکن/سیکنڈ |
|---|---|---|---|
| M6 | 16 GB | 4-bit سست | 8–15 |
| M5 Ultra | 96 GB | 8-bit اچھا چلتا ہے | 34–60 |
| M5 Max | 36 GB | 8-bit اچھا چلتا ہے | 13–23 |
| M5 Pro | 24 GB | 6-bit اچھا چلتا ہے | 11–20 |
| M5 | 16 GB | 4-bit سست | 8–15 |
| M4 Max | 36 GB | 8-bit اچھا چلتا ہے | 12–21 |
| M4 Pro | 24 GB | 6-bit اچھا چلتا ہے | 10–18 |
| M4 | 16 GB | 4-bit سست | 6–11 |
| M3 Ultra | 96 GB | 8-bit اچھا چلتا ہے | 23–41 |
| M3 Max | 36 GB | 6-bit اچھا چلتا ہے | 11–20 |
| M3 Pro | 18 GB | 4-bit سست | 8–14 |
| M3 | 16 GB | 4-bit سست | 5–10 |
| M2 Ultra | 64 GB | 8-bit اچھا چلتا ہے | 23–40 |
| M2 Max | 32 GB | 8-bit اچھا چلتا ہے | 11–20 |
| M2 Pro | 16 GB | 4-bit اچھا چلتا ہے | 11–19 |
| M2 | 16 GB | 4-bit سست | 5–10 |
| M1 Ultra | 64 GB | 8-bit اچھا چلتا ہے | 23–40 |
| M1 Max | 32 GB | 8-bit اچھا چلتا ہے | 11–20 |
| M1 Pro | 16 GB | 4-bit اچھا چلتا ہے | 11–19 |
| M1 | 16 GB | 4-bit سست | 4–6 |
اسے کیسے چلائیں
- آسان طریقہ: MLX Harness ڈاؤن لوڈ کریں، مفت اور اوپن سورس۔ Phi-4 Reasoning Vision 15B تلاش کریں، وہ ورژن ڈاؤن لوڈ کریں جو آپ کے Mac میں سماتا ہو، اور چیٹ کریں۔ یہ OpenAI سے مطابقت رکھنے والی API کے ذریعے ماڈل کو آپ کی دوسری ایپس کو بھی فراہم کرتا ہے۔MLX Harness ڈاؤن لوڈ کریںمفت · Apple Silicon · macOS 14.5 یا نیا
- Terminal میں Apple کے MLX کے ساتھ: ابھی تک کمیونٹی کا کوئی MLX بلڈ نہیں ہے، اس لیے آفیشل ویٹس سے خود بنائیں:
pip install mlx-lmmlx_lm.convert --hf-path microsoft/Phi-4-reasoning-vision-15B -q
مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp
Phi-4 Reasoning Vision 15B کے بارے میں
| بنانے والا | Microsoft |
|---|---|
| پیرامیٹرز | 15B (ڈینس) |
| کانٹیکسٹ | 16K ٹوکن |
| لائسنس | MIT |
| ریلیز | 2026-03 |
| ان پٹ | ٹیکسٹ اور تصاویر |
| ویٹس | microsoft/Phi-4-reasoning-vision-15B |
سوالات
- Phi-4 Reasoning Vision 15B کو کتنی میموری چاہیے؟
- 4-bit پر ویٹس کے لیے تقریباً 8.4 GB، اور کانٹیکسٹ کی گنجائش: کل 9.9 GB۔ Mac پر اس کا مطلب ہے 16 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔
- Mac پر Phi-4 Reasoning Vision 15B کتنا تیز ہے؟
- لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 96 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 34–60 ٹوکن (8-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 16 GB کے ساتھ، M2 Pro پر تقریباً 11–19 تک پہنچتا ہے۔
- کیا کوانٹائزیشن سے Phi-4 Reasoning Vision 15B کو نقصان ہوتا ہے؟
- 4 bits پر زیادہ تر ماڈل اصل معیار کے قریب رہتے ہیں؛ 4 bits سے نیچے معیار تیزی سے گرتا ہے۔ وہ سب سے اونچی پریسیژن چنیں جو آپ کے Mac میں گنجائش کے ساتھ سما جائے۔
ملتے جلتے ماڈلز
آپ کے ماڈل کارڈ یا README کے لیے
وہ سب سے چھوٹا Mac دکھاتا ہے جو Phi-4 Reasoning Vision 15B کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔
[](https://mlx.app/run/phi-4-reasoning-vision-15b)یہ کیسے نکالا گیا
میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔