ہر پریسیژن پر میموری
| ورژن | ویٹس | کانٹیکسٹ کے ساتھ | سب سے چھوٹا Mac |
|---|---|---|---|
| 8-bit | 595 GB | 643 GB | کسی بھی Mac سے زیادہ |
| 6-bit | 455 GB | 491 GB | کسی بھی Mac سے زیادہ |
| 4-bit | 315 GB | 340 GB | 512 GB |
| 3-bit کم معیار | 245 GB | 265 GB | 512 GB |
| 2-bit کم معیار | 175 GB | 189 GB | 256 GB |
ہر Apple چپ پر
ہر چپ کا سب سے کم میموری سائز جو Ling 3.1 Flash چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔
| چپ | درکار | ورژن | ٹوکن/سیکنڈ |
|---|---|---|---|
| M6 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 Ultra | 512 GB | 4-bit اچھا چلتا ہے | 38–68 |
| M5 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 Ultra | 512 GB | 4-bit اچھا چلتا ہے | 26–46 |
| M3 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Ultra | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Ultra | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 | کوئی سائز کافی نہیں | بہت بڑا | – |
اسے کیسے چلائیں
- Terminal میں Apple کے MLX کے ساتھ: ابھی کوئی MLX بلڈ نہیں ہے، اور عام mlx-lm ابھی آفیشل ویٹس کو کنورٹ نہیں کر سکتا (bailing_moe_v3.py)۔
مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp
Ling 3.1 Flash کے بارے میں
| بنانے والا | inclusionAI |
|---|---|
| پیرامیٹرز | کل 560B · فعال 25B (mixture-of-experts) |
| کانٹیکسٹ | 256K ٹوکن |
| لائسنس | MIT |
| ریلیز | 2026-10 |
| ان پٹ | ٹیکسٹ |
| ذہانت | Artificial Analysis Intelligence Index پر 41.1 |
| ویٹس | inclusionAI/Ling-3.1-flash |
سوالات
- Ling 3.1 Flash کو کتنی میموری چاہیے؟
- 4-bit پر ویٹس کے لیے تقریباً 315 GB، اور کانٹیکسٹ کی گنجائش: کل 340 GB۔ Mac پر اس کا مطلب ہے 512 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔
- Mac پر Ling 3.1 Flash کتنا تیز ہے؟
- لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 512 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 38–68 ٹوکن (4-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 512 GB کے ساتھ، M5 Ultra پر تقریباً 38–68 تک پہنچتا ہے۔
- Ling 3.1 Flash اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟
- یہ mixture-of-experts ماڈل ہے: یہ میموری میں 560B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 25B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔
ملتے جلتے ماڈلز
آپ کے ماڈل کارڈ یا README کے لیے
وہ سب سے چھوٹا Mac دکھاتا ہے جو Ling 3.1 Flash کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔
[](https://mlx.app/run/ling-3.1-flash)یہ کیسے نکالا گیا
میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔
اوپن ڈیٹا: mlx.app/data (JSON, CSV)