在 Mac 上运行 DeepSeek V4.1 Flash。

1需要多少内存

这个模型有 5,520 亿参数，但下载内容中约 189 GiB 是两张 Engram 查找表，每个 token 只读几行。把这些表留在 SSD 上的运行时，所需内存远小于下载大小；全部载入内存的版本则需要与下载大小相当的内存（antirez 在 Hugging Face 上的说明）。

要给 macOS 和上下文留出空间：每个 token 约 890 字节，一段 10 万 token 的对话只增加不到 0.1 GB，所以起决定作用的是权重。

2哪些 Mac 能运行

把模型放在 Mac 的内置 SSD 上：生成过程中要从磁盘读取 Engram 行和流式权重，外置硬盘要慢得多。也要为下载做好准备：250 至 520 GB，合并文件时还需要额外的可用空间。

3跑得多快

Mac 上首个公开基准测试，在一台 512 GB 的 M3 Ultra Mac Studio 上运行了 9 月权重的 4/8-bit 混合 MLX 版本（GitHub 上的基准测试）：

这远低于硬件的上限。每生成一个 token 要读取约 160 亿参数，4-bit 下约 9 GB，因此内存带宽把单个对话的速度上限定在 M3 Ultra（819 GB/s）约每秒 90 个 token、M5 Ultra（1.2 TB/s）约每秒 130 个 token。对这一新架构的支持才出现几周，较新的运行时有望缩小部分差距；最新数据可在 MLX Bench 和各运行时的发布说明中比较。

读取提示词受限于算力而非内存。M5 代芯片的 GPU 内置神经加速器，用 MLX 读取提示词比早期芯片快数倍（Apple）。

4如何运行

DwarfStar（ds4）：最省内存

DwarfStar 是专为 DeepSeek Flash 模型打造的开源引擎，在 96 GB 起的 Mac 上用 Metal 运行，内存更小的 Mac 可用 SSD 流式读取。无论哪种模式，它都把 Engram 表留在磁盘上（GitHub）。

git clone https://github.com/antirez/ds4.git
cd ds4 && make
./download_model.sh ds41f-q2
./ds4 -m gguf/DeepSeek-V4.1-Flash-Q2.gguf --ssd-streaming --ctx 32768

Mac 内存为 256 GB 或以上时，去掉 --ssd-streaming。./ds4-server 通过本地 API 提供模型服务。

llama.cpp：1017 的 GGUF 文件

主线 llama.cpp 和 Ollama 尚不支持 V4.1 Flash。1017 的 GGUF 文件是用一个 llama.cpp 分支制作的，需要自行编译；建议把 Engram 表留在 CPU 一侧（Hugging Face）。这些文件目前只支持文本。

git clone https://github.com/vcruz305/llama.cpp && cd llama.cpp
git checkout 2076412
cmake -B build && cmake --build build -j
./build/bin/llama-server -hf mrfakename/DeepSeek-V4.1-Flash-1017-GGUF:Q2_K -ot "engram_embd.weight=CPU"

MLX：面向 Apple 芯片的 1017 版本

MLX 社区的 1017 版本对大部分权重保留了 DeepSeek 原始的 FP4 和 FP8 精度，并包含多 token 预测权重。它们通过 mlx-vlm 载入（也能处理图像），LM Studio 中也能找到。需要 512 GB 的 Mac。

pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/DeepSeek-V4.1-Flash-1017-oQ4e-mtp --prompt "Hello" --max-tokens 200

刚接触本地模型？先看在 Mac 上运行 LLM 和 MLX、Ollama 与 llama.cpp 对比。

5没有 512 GB 的 Mac？你还有这些选择

• 使用 API。 DeepSeek 对 deepseek-flash 的收费为每百万输入 token 0.15 美元、每百万输出 token 0.60 美元；见 DeepSeek V4.1 Flash 1017。
• 运行较小的开源模型。 64 GB 的 Mac 能运行 70B 级模型，128 GB 的 Mac 能流畅运行 gpt-oss-120b：见本地跑大模型的最佳 Mac。
• 把多台 Mac 连起来。 两台或更多 Mac 通过 Thunderbolt 5 连接，能装下单台装不下的模型：见 Mac AI 集群。
• 让你的 Mac 赚取收益。 MLX Node 在任何 Apple 芯片 Mac 上为 MLX Network 运行 AI 任务并赚取 MLX 代币，没有专属席位时每天最多 1 MLX。挖得的 MLX 锁定 30 天，有专属席位则更短；请阅读风险提示。

6常见问题

运行 DeepSeek V4.1 Flash 需要多少内存？

2-bit 的 DwarfStar 版本把 Engram 表留在 SSD 上时约需 163 GB，它的 4-bit 版本约 316 GB，MLX 版本则需要整个下载大小，即 343 至 432 GB。另外还要给 macOS 和上下文留出空间。

MacBook Pro 能运行 DeepSeek V4.1 Flash 吗？

只有 128 GB 的机型可以，而且只能用 DwarfStar 从 SSD 流式读取 2-bit 版本，属于实验性质，速度很慢。在 256 或 512 GB 的 Mac Studio 上可以完全在内存中运行。

DeepSeek V4.1 Flash 在 M3 Ultra 上有多快？

在 512 GB M3 Ultra 上的首次公开运行使用 MLX 版本，每秒生成约 6.5 个 token，读取提示词约每秒 275 个 token。按内存带宽可达每秒约 90 个 token，所以较新的软件应该会更快。

DeepSeek V4.1 Flash 1017 有 MLX 版本吗？

有。MLX 社区发布了 343 GB 和 432 GB 两个 1017 版本，可在 512 GB 内存的 Mac 上用 mlx-vlm 或 LM Studio 运行。

DeepSeek V4.1 Flash 能在 Ollama 中使用吗？

标准版 Ollama 和 llama.cpp 目前还不行。GGUF 文件需要从源码编译的 llama.cpp 分支，也可以改用在 Mac 上支持该模型的 DwarfStar。