الذاكرة بكل دقة
| الإصدار | الأوزان | مع السياق | أصغر Mac |
|---|---|---|---|
| 8 بت | 78.6 GB | 84.9 GB | 128 GB |
| 6 بت | 60.1 GB | 64.9 GB | 96 GB |
| 4 بت | 41.6 GB | 44.9 GB | 64 GB |
| 3 بت جودة أقل | 32.4 GB | 35 GB | 48 GB |
| 2 بت جودة أقل | 23.1 GB | 24.9 GB | 36 GB |
على كل شريحة من Apple
أصغر سعة ذاكرة لكل شريحة تشغّل Nemotron 3.5 Bolt 74B A9B، وأفضل إصدار يتسع فيها، وسرعة الكتابة المتوقعة.
| الشريحة | يحتاج | الإصدار | توكن/ثانية |
|---|---|---|---|
| M6 | 32 GB | 2 بت بالكاد | 27–49 |
| M5 Ultra | 96 GB | 6 بت يعمل جيدًا | 74–132 |
| M5 Max | 64 GB | 4 بت يعمل جيدًا | 54–96 |
| M5 Pro | 64 GB | 4 بت يعمل جيدًا | 27–48 |
| M5 | 32 GB | 2 بت بالكاد | 25–44 |
| M4 Max | 64 GB | 4 بت يعمل جيدًا | 48–86 |
| M4 Pro | 64 GB | 4 بت يعمل جيدًا | 24–43 |
| M4 | 32 GB | 2 بت بالكاد | 19–34 |
| M3 Ultra | 96 GB | 6 بت يعمل جيدًا | 50–90 |
| M3 Max | 64 GB | 4 بت يعمل جيدًا | 35–63 |
| M3 Pro | 36 GB | 2 بت يعمل جيدًا | 24–43 |
| M3 | لا سعة تكفي | كبير جدًا | – |
| M2 Ultra | 64 GB | 4 بت يعمل جيدًا | 71–125 |
| M2 Max | 64 GB | 4 بت يعمل جيدًا | 35–63 |
| M2 Pro | 32 GB | 2 بت بالكاد | 32–57 |
| M2 | لا سعة تكفي | كبير جدًا | – |
| M1 Ultra | 64 GB | 4 بت يعمل جيدًا | 71–125 |
| M1 Max | 64 GB | 4 بت يعمل جيدًا | 35–63 |
| M1 Pro | 32 GB | 2 بت بالكاد | 32–57 |
| M1 | لا سعة تكفي | كبير جدًا | – |
كيف تشغّله
- الطريقة السهلة: نزّل MLX Harness، المجاني ومفتوح المصدر. ابحث عن Nemotron 3.5 Bolt 74B A9B، ونزّل الإصدار الذي يناسب جهاز Mac، وابدأ المحادثة. ويقدّم النموذج أيضًا لتطبيقاتك الأخرى عبر واجهة API متوافقة مع OpenAI.تنزيل MLX Harnessمجاني · Apple Silicon · macOS 14.5 أو أحدث
- في Terminal باستخدام MLX من Apple: لا يوجد إصدار MLX من المجتمع بعد، فأنشئ واحدًا من الأوزان الرسمية:
pip install mlx-lmmlx_lm.convert --hf-path nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16 -q
خطوة بخطوة: نزّل نماذج LLM وشغّلها على Mac · كيف تستخدم MLX Harness · MLX مقابل Ollama مقابل llama.cpp
عن Nemotron 3.5 Bolt 74B A9B
| المطوّر | NVIDIA |
|---|---|
| المعاملات | 74B إجمالًا · 9B نشطة (مزيج الخبراء) |
| السياق | 256K توكن |
| الترخيص | OpenMDW-1.1 |
| تاريخ الإصدار | 2026-10 |
| المدخلات | نص وصور |
| الذكاء | 21.4 على Artificial Analysis Intelligence Index |
| الأوزان | nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16 |
أسئلة
- كم ذاكرة يحتاج Nemotron 3.5 Bolt 74B A9B؟
- نحو 41.6 GB للأوزان بدقة 4 بت، إضافة إلى مساحة للسياق: 44.9 GB إجمالًا. على Mac يعني ذلك ذاكرة موحّدة 64 GB أو أكثر، لأن macOS يسمح افتراضيًا لوحدة الرسومات باستخدام نحو 75% منها.
- ما سرعة Nemotron 3.5 Bolt 74B A9B على Mac؟
- تعتمد سرعة الكتابة على عرض نطاق الذاكرة. أسرع Mac له هنا هو M5 Ultra بذاكرة 96 GB، بنحو 74–132 توكن في الثانية (6 بت). وأصغر Mac يشغّله، بذاكرة 64 GB، يبلغ نحو 71–125 على M2 Ultra.
- لماذا يعمل Nemotron 3.5 Bolt 74B A9B أسرع مما يوحي به حجمه؟
- لأنه نموذج من نوع مزيج الخبراء: يحمل 74B من المعاملات في الذاكرة، لكنه يقرأ 9B منها فقط لكل توكن، فيكتب بسرعة نموذج أصغر بكثير.
نماذج مشابهة
لبطاقة نموذجك أو ملف README
تعرض أصغر Mac يشغّل Nemotron 3.5 Bolt 74B A9B جيدًا، وترتبط بهذه الصفحة.
[](https://mlx.app/run/nemotron-3.5-bolt-74b-a9b)كيف حسبنا ذلك
الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.