ہر پریسیژن پر میموری
| ورژن | ویٹس | کانٹیکسٹ کے ساتھ | سب سے چھوٹا Mac |
|---|---|---|---|
| اصل 4-bit | 595 GB | 643 GB | کسی بھی Mac سے زیادہ |
| 3-bit کم معیار | 438 GB | 473 GB | کسی بھی Mac سے زیادہ |
| 2-bit کم معیار | 313 GB | 338 GB | 512 GB |
ہر Apple چپ پر
ہر چپ کا سب سے کم میموری سائز جو Kimi K2.6 چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔
| چپ | درکار | ورژن | ٹوکن/سیکنڈ |
|---|---|---|---|
| M6 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 Ultra | 512 GB | 2-bit اچھا چلتا ہے | 54–96 |
| M5 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 Ultra | 512 GB | 2-bit اچھا چلتا ہے | 37–66 |
| M3 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Ultra | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Ultra | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 | کوئی سائز کافی نہیں | بہت بڑا | – |
اسے کیسے چلائیں
- آسان طریقہ: MLX Harness ڈاؤن لوڈ کریں، مفت اور اوپن سورس۔ Kimi K2.6 تلاش کریں، وہ ورژن ڈاؤن لوڈ کریں جو آپ کے Mac میں سماتا ہو، اور چیٹ کریں۔ یہ OpenAI سے مطابقت رکھنے والی API کے ذریعے ماڈل کو آپ کی دوسری ایپس کو بھی فراہم کرتا ہے۔MLX Harness ڈاؤن لوڈ کریںمفت · Apple Silicon · macOS 14.5 یا نیا
- Terminal میں Apple کے MLX کے ساتھ:
pip install mlx-lmmlx_lm.chat --model mlx-community/Kimi-K2.6-mlx-DQ3_K_M-q8بلڈ: Hugging Face پر mlx-community/Kimi-K2.6-mlx-DQ3_K_M-q8۔ دوسری پریسیژنز اسی کے ساتھ موجود ہیں۔
مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp
Kimi K2.6 کے بارے میں
| بنانے والا | Moonshot AI |
|---|---|
| پیرامیٹرز | کل 1,000B · فعال 32B (mixture-of-experts) |
| کانٹیکسٹ | 256K ٹوکن |
| لائسنس | Modified MIT |
| ریلیز | 2026-04 |
| ان پٹ | ٹیکسٹ اور تصاویر |
| ویٹس | moonshotai/Kimi-K2.6 |
سوالات
- Kimi K2.6 کو کتنی میموری چاہیے؟
- اصل 4-bit پر ویٹس کے لیے تقریباً 595 GB، اور کانٹیکسٹ کی گنجائش: کل 643 GB۔ یہ آج کے کسی بھی Mac کی میموری سے زیادہ ہے۔
- Mac پر Kimi K2.6 کتنا تیز ہے؟
- لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 512 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 54–96 ٹوکن (2-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 512 GB کے ساتھ، M5 Ultra پر تقریباً 54–96 تک پہنچتا ہے۔
- Kimi K2.6 اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟
- یہ mixture-of-experts ماڈل ہے: یہ میموری میں 1,000B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 32B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔
ملتے جلتے ماڈلز
آپ کے ماڈل کارڈ یا README کے لیے
وہ سب سے چھوٹا Mac دکھاتا ہے جو Kimi K2.6 کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔
[](https://mlx.app/run/kimi-k2.6)یہ کیسے نکالا گیا
میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔