ВойтиСоздать кошелек

Запустится ли Qwen3 8B на Mac?

Да, с 16 ГБ объединенной памяти или больше. У Qwen3 8B 8,2B параметров. Ниже — сколько памяти ей нужно при каждой точности и с какой скоростью ее запускает каждый чип Apple.

Память (4 бит)6,1 ГБвеса 4,6 ГБ + контекст
Минимальный Mac16 ГБ8 бит · конфигураций Mac: 58
Самый быстрый Mac62–110токенов/с · M5 Ultra 96 ГБ (оценка)

Память при каждой точности

ВерсияВесаС контекстомМинимальный Mac
8 бит8,7 ГБ10,2 ГБ16 ГБ
6 бит6,7 ГБ8,2 ГБ16 ГБ
4 бит4,6 ГБ6,1 ГБ16 ГБ
3 бит ниже качество3,6 ГБ5,1 ГБ8 ГБ
2 бит ниже качество2,6 ГБ4,1 ГБ8 ГБ

На каждом чипе Apple

Минимальный объем памяти каждого чипа, на котором запускается Qwen3 8B, лучшая версия, которая помещается, и ожидаемая скорость генерации.

ЧипНужноВерсияТокенов/с
M616 ГБ6 бит Работает хорошо10–18
M5 Ultra96 ГБ8 бит Работает хорошо62–110
M5 Max36 ГБ8 бит Работает хорошо24–42
M5 Pro24 ГБ8 бит Работает хорошо16–28
M516 ГБ6 бит Работает хорошо10–18
M4 Max36 ГБ8 бит Работает хорошо21–38
M4 Pro24 ГБ8 бит Работает хорошо14–25
M416 ГБ4 бит Работает хорошо12–21
M3 Ultra96 ГБ8 бит Работает хорошо42–75
M3 Max36 ГБ8 бит Работает хорошо16–28
M3 Pro18 ГБ6 бит Работает хорошо10–18
M316 ГБ4 бит Работает хорошо10–17
M2 Ultra64 ГБ8 бит Работает хорошо41–74
M2 Max32 ГБ8 бит Работает хорошо21–37
M2 Pro16 ГБ8 бит Работает хорошо10–18
M216 ГБ4 бит Работает хорошо10–17
M1 Ultra64 ГБ8 бит Работает хорошо41–74
M1 Max32 ГБ8 бит Работает хорошо21–37
M1 Pro16 ГБ8 бит Работает хорошо10–18
M116 ГБ8 бит Медленно4–6

Как запустить

  1. Самый простой способ: скачайте MLX Harness — бесплатно и с открытым кодом. Найдите Qwen3 8B, скачайте версию, которая подходит вашему Mac, и общайтесь. Приложение также отдает модель другим вашим программам через API, совместимый с OpenAI.Скачать MLX HarnessБесплатно · Apple Silicon · macOS 14.5 или новее
  2. В Терминале с MLX от Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-8B-4bitСборка: mlx-community/Qwen3-8B-4bit на Hugging Face. Рядом лежат версии с другой точностью.

Пошагово: скачать и запустить LLM на Mac · как пользоваться MLX Harness · MLX, Ollama и llama.cpp

О модели Qwen3 8B

РазработчикQwen (Alibaba)
Параметры8,2B (плотная)
Контексттокенов: 40K
ЛицензияApache-2.0
Выпуск2025-04
ВводТекст
ВесаQwen/Qwen3-8B

Вопросы

Сколько памяти нужно модели Qwen3 8B?
Около 4,6 ГБ на веса (4 бит) плюс место для контекста: всего 6,1 ГБ. На Mac это значит 16 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.
Насколько быстро Qwen3 8B работает на Mac?
Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M5 Ultra с 96 ГБ: около 62–110 токенов в секунду (8 бит). Минимальный Mac, который ее запускает, — M2 Pro с 16 ГБ — выдает около 10–18.
Ухудшает ли квантование Qwen3 8B?
При 4 битах большинство моделей остаются близки к исходному качеству; ниже 4 бит качество падает быстрее. Выбирайте максимальную точность, которая помещается в ваш Mac с запасом.

Похожие модели

Все модели · Все Mac · Сравнить свой Mac

Для карточки модели или README

Runs on a Mac: Qwen3 8B Показывает минимальный Mac, на котором Qwen3 8B хорошо работает, и ведет сюда.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-8b.svg)](https://mlx.app/run/qwen3-8b)

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.

Запустится ли Qwen3 8B на Mac? Память, скорость