تسجيل الدخولإنشاء محفظة

هل يستطيع Mac تشغيل Nemotron 3.5 Lightning 30B A3B؟

نعم، بذاكرة موحّدة 32 GB أو أكثر. يضم Nemotron 3.5 Lightning 30B A3B عدد 30B من المعاملات، منها 3B نشطة لكل توكن؛ إليك الذاكرة التي يحتاجها بكل دقة، وسرعة تشغيله على كل شريحة من Apple.

الذاكرة بدقة 4 بت18.4 GBالأوزان 16.9 GB + السياق
أصغر Mac32 GB4 بت · إعدادات Mac: 55
أسرع Mac169–300توكن/ثانية · M5 Ultra 96 GB (تقدير)

الذاكرة بكل دقة

الإصدارالأوزانمع السياقأصغر Mac
8 بت31.9 GB34.5 GB48 GB
6 بت24.4 GB26.4 GB36 GB
4 بت16.9 GB18.4 GB32 GB
3 بت جودة أقل13.1 GB14.6 GB24 GB
2 بت جودة أقل9.4 GB10.9 GB16 GB

على كل شريحة من Apple

أصغر سعة ذاكرة لكل شريحة تشغّل Nemotron 3.5 Lightning 30B A3B، وأفضل إصدار يتسع فيها، وسرعة الكتابة المتوقعة.

الشريحةيحتاجالإصدارتوكن/ثانية
M632 GB4 بت يعمل جيدًا45–80
M5 Ultra96 GB8 بت يعمل جيدًا169–300
M5 Max36 GB6 بت يعمل جيدًا86–153
M5 Pro48 GB8 بت يعمل جيدًا43–77
M532 GB4 بت يعمل جيدًا41–72
M4 Max36 GB6 بت يعمل جيدًا77–137
M4 Pro48 GB8 بت يعمل جيدًا38–68
M432 GB4 بت يعمل جيدًا32–56
M3 Ultra96 GB8 بت يعمل جيدًا115–205
M3 Max36 GB6 بت يعمل جيدًا56–100
M3 Pro36 GB6 بت يعمل جيدًا28–50
M316 GB2 بت يعمل جيدًا50–89
M2 Ultra64 GB8 بت يعمل جيدًا113–200
M2 Max32 GB4 بت يعمل جيدًا106–188
M2 Pro32 GB4 بت يعمل جيدًا53–94
M216 GB2 بت يعمل جيدًا50–89
M1 Ultra64 GB8 بت يعمل جيدًا113–200
M1 Max32 GB4 بت يعمل جيدًا106–188
M1 Pro32 GB4 بت يعمل جيدًا53–94
M116 GB2 بت يعمل جيدًا34–60

كيف تشغّله

  1. الطريقة السهلة: نزّل MLX Harness، المجاني ومفتوح المصدر. ابحث عن Nemotron 3.5 Lightning 30B A3B، ونزّل الإصدار الذي يناسب جهاز Mac، وابدأ المحادثة. ويقدّم النموذج أيضًا لتطبيقاتك الأخرى عبر واجهة API متوافقة مع OpenAI.تنزيل MLX Harnessمجاني · Apple Silicon · macOS 14.5 أو أحدث
  2. في Terminal باستخدام MLX من Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-4bitالإصدار: mlx-community/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-4bit على Hugging Face. الدقّات الأخرى بجانبه.

خطوة بخطوة: نزّل نماذج LLM وشغّلها على Mac · كيف تستخدم MLX Harness · MLX مقابل Ollama مقابل llama.cpp

عن Nemotron 3.5 Lightning 30B A3B

المطوّرNVIDIA
المعاملات30B إجمالًا · 3B نشطة (مزيج الخبراء)
السياق256K توكن
الترخيصOpenMDW-1.1
تاريخ الإصدار2026-08
المدخلاتنص
الذكاء12.9 على Artificial Analysis Intelligence Index
الأوزانnvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16

أسئلة

كم ذاكرة يحتاج Nemotron 3.5 Lightning 30B A3B؟
نحو 16.9 GB للأوزان بدقة 4 بت، إضافة إلى مساحة للسياق: 18.4 GB إجمالًا. على Mac يعني ذلك ذاكرة موحّدة 32 GB أو أكثر، لأن macOS يسمح افتراضيًا لوحدة الرسومات باستخدام نحو 75% منها.
ما سرعة Nemotron 3.5 Lightning 30B A3B على Mac؟
تعتمد سرعة الكتابة على عرض نطاق الذاكرة. أسرع Mac له هنا هو M5 Ultra بذاكرة 96 GB، بنحو 169–300 توكن في الثانية (8 بت). وأصغر Mac يشغّله، بذاكرة 32 GB، يبلغ نحو 106–188 على M2 Max.
لماذا يعمل Nemotron 3.5 Lightning 30B A3B أسرع مما يوحي به حجمه؟
لأنه نموذج من نوع مزيج الخبراء: يحمل 30B من المعاملات في الذاكرة، لكنه يقرأ 3B منها فقط لكل توكن، فيكتب بسرعة نموذج أصغر بكثير.

نماذج مشابهة

كل النماذج · كل أجهزة Mac · قارن جهاز Mac

لبطاقة نموذجك أو ملف README

Runs on a Mac: Nemotron 3.5 Lightning 30B A3B تعرض أصغر Mac يشغّل Nemotron 3.5 Lightning 30B A3B جيدًا، وترتبط بهذه الصفحة.

[![Runs on a Mac](https://mlx.app/badge/run/nemotron-3.5-lightning-30b-a3b.svg)](https://mlx.app/run/nemotron-3.5-lightning-30b-a3b)

كيف حسبنا ذلك

الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.

هل يشغّل Mac نموذج Nemotron 3.5 Lightning 30B A3B؟ الذاكرة والسرعة