ہر پریسیژن پر میموری
| ورژن | ویٹس | کانٹیکسٹ کے ساتھ | سب سے چھوٹا Mac |
|---|---|---|---|
| اصل 4.25-bit | 1.6 TB | 1.7 TB | کسی بھی Mac سے زیادہ |
| 3-bit کم معیار | 1.2 TB | 1.3 TB | کسی بھی Mac سے زیادہ |
| 2-bit کم معیار | 875 GB | 945 GB | کسی بھی Mac سے زیادہ |
ہر Apple چپ پر
ہر چپ کا سب سے کم میموری سائز جو Kimi K3 چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔
| چپ | درکار | ورژن | ٹوکن/سیکنڈ |
|---|---|---|---|
| M6 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 Ultra | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M5 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M4 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 Ultra | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M3 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Ultra | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M2 | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Ultra | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Max | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 Pro | کوئی سائز کافی نہیں | بہت بڑا | – |
| M1 | کوئی سائز کافی نہیں | بہت بڑا | – |
اسے کیسے چلائیں
کوئی ایک Mac اسے نہیں سما سکتا۔ نیچے دیے گئے چھوٹے ماڈلز اچھے چلتے ہیں، اور Mac کلسٹرز کی گائیڈ بتاتی ہے کہ ایک ماڈل کو کئی Mac پر کیسے پھیلائیں۔
مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp
Kimi K3 کے بارے میں
| بنانے والا | Moonshot AI |
|---|---|
| پیرامیٹرز | کل 2,800B · فعال 104B (mixture-of-experts) |
| کانٹیکسٹ | 1M ٹوکن |
| لائسنس | Kimi K3 License (custom) |
| ریلیز | 2026-06 |
| ان پٹ | ٹیکسٹ اور تصاویر |
| ذہانت | Artificial Analysis Intelligence Index پر 43.6 |
| ویٹس | moonshotai/Kimi-K3 |
سوالات
- Kimi K3 کو کتنی میموری چاہیے؟
- اصل 4.25-bit پر ویٹس کے لیے تقریباً 1.6 TB، اور کانٹیکسٹ کی گنجائش: کل 1.7 TB۔ یہ آج کے کسی بھی Mac کی میموری سے زیادہ ہے۔
- کیا کوئی Mac Kimi K3 چلا سکتا ہے؟
- اکیلے نہیں: 2 bits پر بھی اسے سب سے بڑے Mac سے زیادہ میموری چاہیے۔ چھوٹا ماڈل استعمال کریں، یا کلسٹر رن ٹائم سے اسے کئی Mac پر پھیلائیں۔
- Kimi K3 اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟
- یہ mixture-of-experts ماڈل ہے: یہ میموری میں 2,800B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 104B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔
ملتے جلتے ماڈلز
آپ کے ماڈل کارڈ یا README کے لیے
وہ سب سے چھوٹا Mac دکھاتا ہے جو Kimi K3 کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔
[](https://mlx.app/run/kimi-k3)یہ کیسے نکالا گیا
میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔