Память при каждой точности
| Версия | Веса | С контекстом | Минимальный Mac |
|---|---|---|---|
| 8 бит | 191 ГБ | 207 ГБ | 512 ГБ |
| 6 бит | 146 ГБ | 158 ГБ | 256 ГБ |
| 4 бит | 101 ГБ | 109 ГБ | 192 ГБ |
| 3 бит ниже качество | 78,8 ГБ | 85,1 ГБ | 128 ГБ |
| 2 бит ниже качество | 56,3 ГБ | 60,8 ГБ | 96 ГБ |
На каждом чипе Apple
Минимальный объем памяти каждого чипа, на котором запускается Qwen3.8 Flash Next, лучшая версия, которая помещается, и ожидаемая скорость генерации.
| Чип | Нужно | Версия | Токенов/с |
|---|---|---|---|
| M6 | ни один объем не подходит | Слишком большая | – |
| M5 Ultra | 256 ГБ | 6 бит Работает хорошо | 110–196 |
| M5 Max | 128 ГБ | 3 бит Работает хорошо | 106–189 |
| M5 Pro | ни один объем не подходит | Слишком большая | – |
| M5 | ни один объем не подходит | Слишком большая | – |
| M4 Max | 128 ГБ | 3 бит Работает хорошо | 95–168 |
| M4 Pro | ни один объем не подходит | Слишком большая | – |
| M4 | ни один объем не подходит | Слишком большая | – |
| M3 Ultra | 256 ГБ | 6 бит Работает хорошо | 75–134 |
| M3 Max | 96 ГБ | 2 бит Работает хорошо | 71–126 |
| M3 Pro | ни один объем не подходит | Слишком большая | – |
| M3 | ни один объем не подходит | Слишком большая | – |
| M2 Ultra | 192 ГБ | 4 бит Работает хорошо | 106–188 |
| M2 Max | 96 ГБ | 2 бит Работает хорошо | 95–168 |
| M2 Pro | ни один объем не подходит | Слишком большая | – |
| M2 | ни один объем не подходит | Слишком большая | – |
| M1 Ultra | 128 ГБ | 3 бит Работает хорошо | 138–246 |
| M1 Max | ни один объем не подходит | Слишком большая | – |
| M1 Pro | ни один объем не подходит | Слишком большая | – |
| M1 | ни один объем не подходит | Слишком большая | – |
Как запустить
- Самый простой способ: скачайте MLX Harness — бесплатно и с открытым кодом. Найдите Qwen3.8 Flash Next, скачайте версию, которая подходит вашему Mac, и общайтесь. Приложение также отдает модель другим вашим программам через API, совместимый с OpenAI.Скачать MLX HarnessБесплатно · Apple Silicon · macOS 14.5 или новее
- В Терминале с MLX от Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.8-Flash-Next-4bitСборка: mlx-community/Qwen3.8-Flash-Next-4bit на Hugging Face. Рядом лежат версии с другой точностью.
Пошагово: скачать и запустить LLM на Mac · как пользоваться MLX Harness · MLX, Ollama и llama.cpp
О модели Qwen3.8 Flash Next
| Разработчик | Qwen (Alibaba) |
|---|---|
| Параметры | 180B всего · 6B активных (mixture of experts) |
| Контекст | токенов: 256K |
| Лицензия | Qwen Community License 1.0 (qwen-community-1.0) |
| Выпуск | 2026-08 |
| Ввод | Текст и изображения |
| Интеллект | 39,8 в Artificial Analysis Intelligence Index |
| Веса | Qwen/Qwen3.8-Flash-Next |
Вопросы
- Сколько памяти нужно модели Qwen3.8 Flash Next?
- Около 101 ГБ на веса (4 бит) плюс место для контекста: всего 109 ГБ. На Mac это значит 192 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.
- Насколько быстро Qwen3.8 Flash Next работает на Mac?
- Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M5 Ultra с 256 ГБ: около 110–196 токенов в секунду (6 бит). Минимальный Mac, который ее запускает, — M2 Ultra с 192 ГБ — выдает около 106–188.
- Почему Qwen3.8 Flash Next работает быстрее, чем можно ожидать по размеру?
- Это модель mixture-of-experts: она держит в памяти 180B параметров, но на каждый токен читает только 6B, поэтому пишет со скоростью гораздо меньшей модели.
Похожие модели
Для карточки модели или README
Показывает минимальный Mac, на котором Qwen3.8 Flash Next хорошо работает, и ведет сюда.
[](https://mlx.app/run/qwen3.8-flash-next)Как это рассчитано
Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.