Память при каждой точности
| Версия | Веса | С контекстом | Минимальный Mac |
|---|---|---|---|
| 8 бит | 128 ГБ | 138 ГБ | 192 ГБ |
| 6 бит | 97,5 ГБ | 105 ГБ | 192 ГБ |
| 4 бит | 67,5 ГБ | 72,9 ГБ | 128 ГБ |
| 3 бит ниже качество | 52,5 ГБ | 56,7 ГБ | 96 ГБ |
| 2 бит ниже качество | 37,5 ГБ | 40,5 ГБ | 64 ГБ |
На каждом чипе Apple
Минимальный объем памяти каждого чипа, на котором запускается Nemotron 3.5 Super VL 120B A12B, лучшая версия, которая помещается, и ожидаемая скорость генерации.
| Чип | Нужно | Версия | Токенов/с |
|---|---|---|---|
| M6 | ни один объем не подходит | Слишком большая | – |
| M5 Ultra | 256 ГБ | 8 бит Работает хорошо | 42–75 |
| M5 Max | 128 ГБ | 4 бит Работает хорошо | 41–72 |
| M5 Pro | 64 ГБ | 2 бит Работает хорошо | 36–65 |
| M5 | ни один объем не подходит | Слишком большая | – |
| M4 Max | 128 ГБ | 4 бит Работает хорошо | 36–64 |
| M4 Pro | 64 ГБ | 2 бит Работает хорошо | 32–57 |
| M4 | ни один объем не подходит | Слишком большая | – |
| M3 Ultra | 256 ГБ | 8 бит Работает хорошо | 29–51 |
| M3 Max | 128 ГБ | 4 бит Работает хорошо | 26–47 |
| M3 Pro | ни один объем не подходит | Слишком большая | – |
| M3 | ни один объем не подходит | Слишком большая | – |
| M2 Ultra | 128 ГБ | 4 бит Работает хорошо | 53–94 |
| M2 Max | 64 ГБ | 2 бит Работает хорошо | 47–84 |
| M2 Pro | ни один объем не подходит | Слишком большая | – |
| M2 | ни один объем не подходит | Слишком большая | – |
| M1 Ultra | 128 ГБ | 4 бит Работает хорошо | 53–94 |
| M1 Max | 64 ГБ | 2 бит Работает хорошо | 47–84 |
| M1 Pro | ни один объем не подходит | Слишком большая | – |
| M1 | ни один объем не подходит | Слишком большая | – |
Как запустить
Пошагово: скачать и запустить LLM на Mac · MLX, Ollama и llama.cpp
Удобнее приложение, чем Терминал? Сравните приложения для Mac, которые запускают локальные модели в AI App Store: цена, лицензия и куда уходят ваши данные.
О модели Nemotron 3.5 Super VL 120B A12B
| Разработчик | NVIDIA |
|---|---|
| Параметры | 120B всего · 12B активных (mixture of experts) |
| Контекст | токенов: 1M |
| Лицензия | OpenMDW-1.1 |
| Выпуск | 2026-10 |
| Ввод | Текст и изображения |
| Интеллект | 26,5 в Artificial Analysis Intelligence Index |
| Веса | nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 |
Вопросы
- Сколько памяти нужно модели Nemotron 3.5 Super VL 120B A12B?
- Около 67,5 ГБ на веса (4 бит) плюс место для контекста: всего 72,9 ГБ. На Mac это значит 128 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.
- Насколько быстро Nemotron 3.5 Super VL 120B A12B работает на Mac?
- Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M2 Ultra с 128 ГБ: около 53–94 токенов в секунду (4 бит). Минимальный Mac, который ее запускает, — M2 Ultra с 128 ГБ — выдает около 53–94.
- Почему Nemotron 3.5 Super VL 120B A12B работает быстрее, чем можно ожидать по размеру?
- Это модель mixture-of-experts: она держит в памяти 120B параметров, но на каждый токен читает только 12B, поэтому пишет со скоростью гораздо меньшей модели.
Похожие модели
Для карточки модели или README
Показывает минимальный Mac, на котором Nemotron 3.5 Super VL 120B A12B хорошо работает, и ведет сюда.
[](https://mlx.app/run/nemotron-3.5-super-vl-120b-a12b)Как это рассчитано
Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.
Открытые данные: mlx.app/data (JSON, CSV)