الذاكرة بكل دقة
| الإصدار | الأوزان | مع السياق | أصغر Mac |
|---|---|---|---|
| 8 بت | 293 GB | 317 GB | 512 GB |
| 6 بت | 224 GB | 242 GB | 512 GB |
| 4 بت | 155 GB | 168 GB | 256 GB |
| 3 بت جودة أقل | 121 GB | 131 GB | 192 GB |
| 2 بت جودة أقل | 86.3 GB | 93.2 GB | 128 GB |
على كل شريحة من Apple
أصغر سعة ذاكرة لكل شريحة تشغّل Inkling Small، وأفضل إصدار يتسع فيها، وسرعة الكتابة المتوقعة.
| الشريحة | يحتاج | الإصدار | توكن/ثانية |
|---|---|---|---|
| M6 | لا سعة تكفي | كبير جدًا | – |
| M5 Ultra | 256 GB | 4 بت يعمل جيدًا | 79–141 |
| M5 Max | 128 GB | 2 بت يعمل جيدًا | 73–129 |
| M5 Pro | لا سعة تكفي | كبير جدًا | – |
| M5 | لا سعة تكفي | كبير جدًا | – |
| M4 Max | 128 GB | 2 بت يعمل جيدًا | 65–115 |
| M4 Pro | لا سعة تكفي | كبير جدًا | – |
| M4 | لا سعة تكفي | كبير جدًا | – |
| M3 Ultra | 256 GB | 4 بت يعمل جيدًا | 54–96 |
| M3 Max | 128 GB | 2 بت يعمل جيدًا | 47–84 |
| M3 Pro | لا سعة تكفي | كبير جدًا | – |
| M3 | لا سعة تكفي | كبير جدًا | – |
| M2 Ultra | 128 GB | 2 بت يعمل جيدًا | 95–168 |
| M2 Max | لا سعة تكفي | كبير جدًا | – |
| M2 Pro | لا سعة تكفي | كبير جدًا | – |
| M2 | لا سعة تكفي | كبير جدًا | – |
| M1 Ultra | 128 GB | 2 بت يعمل جيدًا | 95–168 |
| M1 Max | لا سعة تكفي | كبير جدًا | – |
| M1 Pro | لا سعة تكفي | كبير جدًا | – |
| M1 | لا سعة تكفي | كبير جدًا | – |
كيف تشغّله
- الطريقة السهلة: نزّل MLX Harness، المجاني ومفتوح المصدر. ابحث عن Inkling Small، ونزّل الإصدار الذي يناسب جهاز Mac، وابدأ المحادثة. ويقدّم النموذج أيضًا لتطبيقاتك الأخرى عبر واجهة API متوافقة مع OpenAI.تنزيل MLX Harnessمجاني · Apple Silicon · macOS 14.5 أو أحدث
- في Terminal باستخدام MLX من Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/Inkling-Small-mlx-4bitالإصدار: mlx-community/Inkling-Small-mlx-4bit على Hugging Face. الدقّات الأخرى بجانبه.
خطوة بخطوة: نزّل نماذج LLM وشغّلها على Mac · كيف تستخدم MLX Harness · MLX مقابل Ollama مقابل llama.cpp
عن Inkling Small
| المطوّر | Thinking Machines Lab |
|---|---|
| المعاملات | 276B إجمالًا · 12B نشطة (مزيج الخبراء) |
| الترخيص | Apache-2.0 |
| تاريخ الإصدار | 2026-07 |
| المدخلات | نص وصور |
| الذكاء | 25.7 على Artificial Analysis Intelligence Index |
| الأوزان | thinkingmachines/Inkling-Small |
أسئلة
- كم ذاكرة يحتاج Inkling Small؟
- نحو 155 GB للأوزان بدقة 4 بت، إضافة إلى مساحة للسياق: 168 GB إجمالًا. على Mac يعني ذلك ذاكرة موحّدة 256 GB أو أكثر، لأن macOS يسمح افتراضيًا لوحدة الرسومات باستخدام نحو 75% منها.
- ما سرعة Inkling Small على Mac؟
- تعتمد سرعة الكتابة على عرض نطاق الذاكرة. أسرع Mac له هنا هو M5 Ultra بذاكرة 256 GB، بنحو 79–141 توكن في الثانية (4 بت). وأصغر Mac يشغّله، بذاكرة 256 GB، يبلغ نحو 79–141 على M5 Ultra.
- لماذا يعمل Inkling Small أسرع مما يوحي به حجمه؟
- لأنه نموذج من نوع مزيج الخبراء: يحمل 276B من المعاملات في الذاكرة، لكنه يقرأ 12B منها فقط لكل توكن، فيكتب بسرعة نموذج أصغر بكثير.
نماذج مشابهة
لبطاقة نموذجك أو ملف README
تعرض أصغر Mac يشغّل Inkling Small جيدًا، وترتبط بهذه الصفحة.
[](https://mlx.app/run/inkling-small)كيف حسبنا ذلك
الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.