Сколько памяти нужно модели Qwen3 Coder 30B A3B Instruct?

Около 17,2 ГБ на веса (4 бит) плюс место для контекста: всего 18,7 ГБ. На Mac это значит 32 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.

Насколько быстро Qwen3 Coder 30B A3B Instruct работает на Mac?

Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M5 Ultra с 96 ГБ: около 154–274 токенов в секунду (8 бит). Минимальный Mac, который ее запускает, — M2 Max с 32 ГБ — выдает около 95–168.

Почему Qwen3 Coder 30B A3B Instruct работает быстрее, чем можно ожидать по размеру?

Это модель mixture-of-experts: она держит в памяти 30,5B параметров, но на каждый токен читает только 3,3B, поэтому пишет со скоростью гораздо меньшей модели.

Запустится ли Qwen3 Coder 30B A3B Instruct на Mac? Память, скорость

Память при каждой точности

Версия	Веса	С контекстом	Минимальный Mac
8 бит	32,4 ГБ	35 ГБ	48 ГБ
6 бит	24,8 ГБ	26,8 ГБ	36 ГБ
4 бит	17,2 ГБ	18,7 ГБ	32 ГБ
3 бит ниже качество	13,3 ГБ	14,8 ГБ	24 ГБ
2 бит ниже качество	9,5 ГБ	11 ГБ	16 ГБ

На каждом чипе Apple

Минимальный объем памяти каждого чипа, на котором запускается Qwen3 Coder 30B A3B Instruct, лучшая версия, которая помещается, и ожидаемая скорость генерации.

Чип	Нужно	Версия	Токенов/с
M6	32 ГБ	4 бит Работает хорошо	40–72
M5 Ultra	96 ГБ	8 бит Работает хорошо	154–274
M5 Max	36 ГБ	6 бит Работает хорошо	77–136
M5 Pro	48 ГБ	8 бит Работает хорошо	39–70
M5	32 ГБ	4 бит Работает хорошо	36–64
M4 Max	36 ГБ	6 бит Работает хорошо	68–121
M4 Pro	48 ГБ	8 бит Работает хорошо	35–62
M4	32 ГБ	4 бит Работает хорошо	28–51
M3 Ultra	96 ГБ	8 бит Работает хорошо	105–187
M3 Max	36 ГБ	6 бит Работает хорошо	50–89
M3 Pro	36 ГБ	6 бит Работает хорошо	25–44
M3	16 ГБ	2 бит Работает хорошо	45–80
M2 Ultra	64 ГБ	8 бит Работает хорошо	103–183
M2 Max	32 ГБ	4 бит Работает хорошо	95–168
M2 Pro	32 ГБ	4 бит Работает хорошо	47–84
M2	16 ГБ	2 бит Работает хорошо	45–80
M1 Ultra	64 ГБ	8 бит Работает хорошо	103–183
M1 Max	32 ГБ	4 бит Работает хорошо	95–168
M1 Pro	32 ГБ	4 бит Работает хорошо	47–84
M1	16 ГБ	2 бит Работает хорошо	31–54

Как запустить

Самый простой способ: скачайте MLX Harness — бесплатно и с открытым кодом. Найдите Qwen3 Coder 30B A3B Instruct, скачайте версию, которая подходит вашему Mac, и общайтесь. Приложение также отдает модель другим вашим программам через API, совместимый с OpenAI.Скачать MLX HarnessБесплатно · Apple Silicon · macOS 14.5 или новее
В Терминале с MLX от Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bitСборка: mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit на Hugging Face. Рядом лежат версии с другой точностью.

Пошагово: скачать и запустить LLM на Mac · как пользоваться MLX Harness · MLX, Ollama и llama.cpp

О модели Qwen3 Coder 30B A3B Instruct

Разработчик	Qwen (Alibaba)
Параметры	30,5B всего · 3,3B активных (mixture of experts)
Контекст	токенов: 256K
Лицензия	Apache-2.0
Выпуск	2025-07
Ввод	Текст
Веса	Qwen/Qwen3-Coder-30B-A3B-Instruct

Вопросы

Сколько памяти нужно модели Qwen3 Coder 30B A3B Instruct?: Около 17,2 ГБ на веса (4 бит) плюс место для контекста: всего 18,7 ГБ. На Mac это значит 32 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.
Насколько быстро Qwen3 Coder 30B A3B Instruct работает на Mac?: Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M5 Ultra с 96 ГБ: около 154–274 токенов в секунду (8 бит). Минимальный Mac, который ее запускает, — M2 Max с 32 ГБ — выдает около 95–168.
Почему Qwen3 Coder 30B A3B Instruct работает быстрее, чем можно ожидать по размеру?: Это модель mixture-of-experts: она держит в памяти 30,5B параметров, но на каждый токен читает только 3,3B, поэтому пишет со скоростью гораздо меньшей модели.

Для карточки модели или README

Показывает минимальный Mac, на котором Qwen3 Coder 30B A3B Instruct хорошо работает, и ведет сюда.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-coder-30b-a3b.svg)](https://mlx.app/run/qwen3-coder-30b-a3b)

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.