حافظه در هر دقت
| نسخه | وزنها | با کانتکست | کوچکترین Mac |
|---|---|---|---|
| 8 بیت | 78.6 GB | 84.9 GB | 128 GB |
| 6 بیت | 60.1 GB | 64.9 GB | 96 GB |
| 4 بیت | 41.6 GB | 44.9 GB | 64 GB |
| 3 بیت کیفیت پایین‌تر | 32.4 GB | 35 GB | 48 GB |
| 2 بیت کیفیت پایین‌تر | 23.1 GB | 24.9 GB | 36 GB |
روی هر تراشهٔ Apple
کوچکترین حافظهٔ هر تراشه که Nemotron 3.5 Bolt 74B A9B را اجرا میکند، بهترین نسخه‌ای که در آن جا میشود و سرعت نوشتنی که می‌توانید انتظار داشته باشید.
| تراشه | نیاز | نسخه | توکن/ثانیه |
|---|---|---|---|
| M6 | 32 GB | 2 بیت به‌زحمت | 27–49 |
| M5 Ultra | 96 GB | 6 بیت خوب اجرا میشود | 74–132 |
| M5 Max | 64 GB | 4 بیت خوب اجرا میشود | 54–96 |
| M5 Pro | 64 GB | 4 بیت خوب اجرا میشود | 27–48 |
| M5 | 32 GB | 2 بیت به‌زحمت | 25–44 |
| M4 Max | 64 GB | 4 بیت خوب اجرا میشود | 48–86 |
| M4 Pro | 64 GB | 4 بیت خوب اجرا میشود | 24–43 |
| M4 | 32 GB | 2 بیت به‌زحمت | 19–34 |
| M3 Ultra | 96 GB | 6 بیت خوب اجرا میشود | 50–90 |
| M3 Max | 64 GB | 4 بیت خوب اجرا میشود | 35–63 |
| M3 Pro | 36 GB | 2 بیت خوب اجرا میشود | 24–43 |
| M3 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 Ultra | 64 GB | 4 بیت خوب اجرا میشود | 71–125 |
| M2 Max | 64 GB | 4 بیت خوب اجرا میشود | 35–63 |
| M2 Pro | 32 GB | 2 بیت به‌زحمت | 32–57 |
| M2 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 Ultra | 64 GB | 4 بیت خوب اجرا میشود | 71–125 |
| M1 Max | 64 GB | 4 بیت خوب اجرا میشود | 35–63 |
| M1 Pro | 32 GB | 2 بیت به‌زحمت | 32–57 |
| M1 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
چطور اجرایش کنید
- راه آسان: MLX Harness را دانلود کنید، رایگان و متن‌باز. Nemotron 3.5 Bolt 74B A9B را جست‌وجو کنید، نسخه‌ای را که در Mac شما جا میشود دانلود کنید و گفت‌وگو را شروع کنید. همچنین مدل را از طریق یک API سازگار با OpenAI در اختیار اپ‌های دیگرتان می‌گذارد.دانلود MLX Harnessرایگان · Apple Silicon · macOS 14.5 یا جدیدتر
- در Terminal با MLX از Apple: هنوز نسخهٔ MLX از جامعه وجود ندارد، پس یکی از وزن‌های رسمی بسازید:
pip install mlx-lmmlx_lm.convert --hf-path nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16 -q
گام به گام: دانلود و اجرای LLM روی Mac · نحوهٔ استفاده از MLX Harness · MLX در برابر Ollama و llama.cpp
دربارهٔ Nemotron 3.5 Bolt 74B A9B
| سازنده | NVIDIA |
|---|---|
| پارامترها | 74B در کل · 9B فعال (mixture-of-experts) |
| کانتکست | 256K توکن |
| مجوز | OpenMDW-1.1 |
| انتشار | 2026-10 |
| ورودی | متن و تصویر |
| هوش | 21.4 در Artificial Analysis Intelligence Index |
| وزنها | nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16 |
پرسش‌ها
- Nemotron 3.5 Bolt 74B A9B چقدر حافظه لازم دارد؟
- حدود 41.6 GB برای وزنها در 4 بیت، بهعلاوهٔ جا برای کانتکست: در کل 44.9 GB. روی Mac یعنی 64 GB حافظهٔ یکپارچه یا بیشتر، چون macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% آن را استفاده کند.
- Nemotron 3.5 Bolt 74B A9B روی Mac چقدر سریع است؟
- سرعت نوشتن به پهنای باند حافظه بستگی دارد. سریعترین Mac برای آن در اینجا یک M5 Ultra با 96 GB است، با حدود 74–132 توکن در ثانیه (6 بیت). کوچکترین Mac که آن را اجرا میکند، با 64 GB، روی یک M2 Ultra به حدود 71–125 میرسد.
- چرا Nemotron 3.5 Bolt 74B A9B سریعتر از آنچه اندازهاش نشان میدهد اجرا میشود؟
- این یک مدل mixture-of-experts است: 74B پارامتر را در حافظه نگه میدارد اما برای هر توکن فقط 9B را میخواند، پس با سرعت مدلی بسیار کوچکتر مینویسد.
مدل‌های مشابه
برای کارت مدل یا README شما
کوچکترین Mac را که Nemotron 3.5 Bolt 74B A9B را خوب اجرا میکند نشان میدهد و به اینجا لینک میدهد.
[](https://mlx.app/run/nemotron-3.5-bolt-74b-a9b)چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن بهعلاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده میشود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده میشود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.