Сколько памяти нужно модели DeepSeek V4 Flash 0731?

Около 160 ГБ на веса (4 бит) плюс место для контекста: всего 173 ГБ. На Mac это значит 256 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.

Насколько быстро DeepSeek V4 Flash 0731 работает на Mac?

Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M5 Ultra с 256 ГБ: около 74–132 токенов в секунду (4 бит). Минимальный Mac, который ее запускает, — M5 Ultra с 256 ГБ — выдает около 74–132.

Почему DeepSeek V4 Flash 0731 работает быстрее, чем можно ожидать по размеру?

Это модель mixture-of-experts: она держит в памяти 284B параметров, но на каждый токен читает только 13B, поэтому пишет со скоростью гораздо меньшей модели.

Запустится ли DeepSeek V4 Flash 0731 на Mac? Память, скорость

Память при каждой точности

Версия	Веса	С контекстом	Минимальный Mac
8 бит	302 ГБ	326 ГБ	512 ГБ
6 бит	231 ГБ	249 ГБ	512 ГБ
4 бит	160 ГБ	173 ГБ	256 ГБ
3 бит ниже качество	124 ГБ	134 ГБ	192 ГБ
2 бит ниже качество	88,8 ГБ	95,9 ГБ	128 ГБ

На каждом чипе Apple

Минимальный объем памяти каждого чипа, на котором запускается DeepSeek V4 Flash 0731, лучшая версия, которая помещается, и ожидаемая скорость генерации.

Чип	Нужно	Версия	Токенов/с
M6	ни один объем не подходит	Слишком большая	–
M5 Ultra	256 ГБ	4 бит Работает хорошо	74–132
M5 Max	128 ГБ	2 бит Работает хорошо	67–120
M5 Pro	ни один объем не подходит	Слишком большая	–
M5	ни один объем не подходит	Слишком большая	–
M4 Max	128 ГБ	2 бит Работает хорошо	60–107
M4 Pro	ни один объем не подходит	Слишком большая	–
M4	ни один объем не подходит	Слишком большая	–
M3 Ultra	256 ГБ	4 бит Работает хорошо	50–90
M3 Max	128 ГБ	2 бит Работает хорошо	44–78
M3 Pro	ни один объем не подходит	Слишком большая	–
M3	ни один объем не подходит	Слишком большая	–
M2 Ultra	128 ГБ	2 бит Работает хорошо	88–156
M2 Max	ни один объем не подходит	Слишком большая	–
M2 Pro	ни один объем не подходит	Слишком большая	–
M2	ни один объем не подходит	Слишком большая	–
M1 Ultra	128 ГБ	2 бит Работает хорошо	88–156
M1 Max	ни один объем не подходит	Слишком большая	–
M1 Pro	ни один объем не подходит	Слишком большая	–
M1	ни один объем не подходит	Слишком большая	–

Как запустить

Самый простой способ: скачайте MLX Harness — бесплатно и с открытым кодом. Найдите DeepSeek V4 Flash 0731, скачайте версию, которая подходит вашему Mac, и общайтесь. Приложение также отдает модель другим вашим программам через API, совместимый с OpenAI.Скачать MLX HarnessБесплатно · Apple Silicon · macOS 14.5 или новее
В Терминале с MLX от Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/DeepSeek-V4-Flash-4bitСборка: mlx-community/DeepSeek-V4-Flash-4bit на Hugging Face. Рядом лежат версии с другой точностью.

Пошагово: скачать и запустить LLM на Mac · как пользоваться MLX Harness · MLX, Ollama и llama.cpp

О модели DeepSeek V4 Flash 0731

Разработчик	DeepSeek
Параметры	284B всего · 13B активных (mixture of experts)
Контекст	токенов: 1M
Лицензия	MIT
Выпуск	2026-07
Ввод	Текст
Веса	deepseek-ai/DeepSeek-V4-Flash-0731

Вопросы

Сколько памяти нужно модели DeepSeek V4 Flash 0731?: Около 160 ГБ на веса (4 бит) плюс место для контекста: всего 173 ГБ. На Mac это значит 256 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.
Насколько быстро DeepSeek V4 Flash 0731 работает на Mac?: Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M5 Ultra с 256 ГБ: около 74–132 токенов в секунду (4 бит). Минимальный Mac, который ее запускает, — M5 Ultra с 256 ГБ — выдает около 74–132.
Почему DeepSeek V4 Flash 0731 работает быстрее, чем можно ожидать по размеру?: Это модель mixture-of-experts: она держит в памяти 284B параметров, но на каждый токен читает только 13B, поэтому пишет со скоростью гораздо меньшей модели.

Для карточки модели или README

Показывает минимальный Mac, на котором DeepSeek V4 Flash 0731 хорошо работает, и ведет сюда.

[![Runs on a Mac](https://mlx.app/badge/run/deepseek-v4-flash-0731.svg)](https://mlx.app/run/deepseek-v4-flash-0731)

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.