Память при каждой точности
| Версия | Веса | С контекстом | Минимальный Mac |
|---|---|---|---|
| 8 бит | 2,6 ТБ | 2,8 ТБ | больше, чем у любого Mac |
| 6 бит | 2 ТБ | 2,1 ТБ | больше, чем у любого Mac |
| 4 бит | 1,4 ТБ | 1,5 ТБ | больше, чем у любого Mac |
| 3 бит ниже качество | 1,1 ТБ | 1,1 ТБ | больше, чем у любого Mac |
| 2 бит ниже качество | 750 ГБ | 810 ГБ | больше, чем у любого Mac |
На каждом чипе Apple
Минимальный объем памяти каждого чипа, на котором запускается Qwen3.8 2.4T A95B, лучшая версия, которая помещается, и ожидаемая скорость генерации.
| Чип | Нужно | Версия | Токенов/с |
|---|---|---|---|
| M6 | ни один объем не подходит | Слишком большая | – |
| M5 Ultra | ни один объем не подходит | Слишком большая | – |
| M5 Max | ни один объем не подходит | Слишком большая | – |
| M5 Pro | ни один объем не подходит | Слишком большая | – |
| M5 | ни один объем не подходит | Слишком большая | – |
| M4 Max | ни один объем не подходит | Слишком большая | – |
| M4 Pro | ни один объем не подходит | Слишком большая | – |
| M4 | ни один объем не подходит | Слишком большая | – |
| M3 Ultra | ни один объем не подходит | Слишком большая | – |
| M3 Max | ни один объем не подходит | Слишком большая | – |
| M3 Pro | ни один объем не подходит | Слишком большая | – |
| M3 | ни один объем не подходит | Слишком большая | – |
| M2 Ultra | ни один объем не подходит | Слишком большая | – |
| M2 Max | ни один объем не подходит | Слишком большая | – |
| M2 Pro | ни один объем не подходит | Слишком большая | – |
| M2 | ни один объем не подходит | Слишком большая | – |
| M1 Ultra | ни один объем не подходит | Слишком большая | – |
| M1 Max | ни один объем не подходит | Слишком большая | – |
| M1 Pro | ни один объем не подходит | Слишком большая | – |
| M1 | ни один объем не подходит | Слишком большая | – |
Как запустить
Ни один Mac не вмещает ее целиком. Модели поменьше ниже работают хорошо, а руководство по кластерам из Mac рассказывает, как распределить модель на несколько Mac.
Пошагово: скачать и запустить LLM на Mac · как пользоваться MLX Harness · MLX, Ollama и llama.cpp
О модели Qwen3.8 2.4T A95B
| Разработчик | Qwen (Alibaba) |
|---|---|
| Параметры | 2 400B всего · 95B активных (mixture of experts) |
| Контекст | токенов: 256K |
| Лицензия | Qwen3.8-Max license (qwen3.8-max) |
| Выпуск | 2026-08 |
| Ввод | Текст |
| Интеллект | 39,9 в Artificial Analysis Intelligence Index |
| Веса | Qwen/Qwen3.8-2.4T-A95B |
Вопросы
- Сколько памяти нужно модели Qwen3.8 2.4T A95B?
- Около 1,4 ТБ на веса (4 бит) плюс место для контекста: всего 1,5 ТБ. Это больше, чем есть сегодня у любого Mac.
- Может ли какой-нибудь Mac запустить Qwen3.8 2.4T A95B?
- Один — нет: даже при 2 битах ей нужно больше памяти, чем у самого крупного Mac. Возьмите модель поменьше или распределите ее на несколько Mac с помощью кластерной среды.
- Почему Qwen3.8 2.4T A95B работает быстрее, чем можно ожидать по размеру?
- Это модель mixture-of-experts: она держит в памяти 2 400B параметров, но на каждый токен читает только 95B, поэтому пишет со скоростью гораздо меньшей модели.
Похожие модели
Для карточки модели или README
Показывает минимальный Mac, на котором Qwen3.8 2.4T A95B хорошо работает, и ведет сюда.
[](https://mlx.app/run/qwen3.8-2.4t-a95b)Как это рассчитано
Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.