DeepSeek V4.1 Flash を Mac で動かす。

1必要なメモリ

このモデルのパラメータは 5,520 億ですが、ダウンロードのうち約 189GiB は 2 つの Engram 参照テーブルで、トークンごとに数行ずつしか読まれません。このテーブルを SSD に置いたままにするランタイムなら、ダウンロードサイズよりはるかに少ないメモリで済みます。すべてを読み込むビルドでは、その全量が必要です（Hugging Face の antirez による解説）。

macOS とコンテキストの分も空けておきましょう。1 トークンあたり約 890 バイトなので、10 万トークンの会話でも増えるのは 0.1GB 未満です。決め手になるのは重みです。

2どの Mac で動くか

モデルは Mac の内蔵 SSD に置いてください。生成中は Engram の行やストリーミングする重みをディスクから読むため、外付けドライブではかなり遅くなります。ダウンロードの準備も必要です。250〜520GB に加え、ファイルを結合する間の空き容量がいります。

3どれくらいの速さで動くか

Mac で最初に公開されたベンチマークは、512GB の M3 Ultra Mac Studio で、9 月版の重みを 4 ビットと 8 ビットを組み合わせた MLX 版で動かしたものです（GitHub のベンチマーク）。

これはハードウェアの限界を大きく下回っています。生成ではトークンごとに約 160 億パラメータ、4 ビットで約 9GB を読むため、メモリ帯域幅から見た 1 つの会話の上限は、M3 Ultra（819GB/s）で毎秒約 90 トークン、M5 Ultra（1.2TB/s）で毎秒約 130 トークンです。新しいアーキテクチャへの対応はまだ数週間しか経っていないので、新しいランタイムでこの差はある程度縮まるはずです。最新の数値は MLX Bench や各ランタイムのリリースノートで比べてください。

プロンプトの読み込みは、メモリではなく演算性能で決まります。M5 世代のチップは GPU にニューラルアクセラレータを備え、MLX でのプロンプトの読み込みは従来のチップの数倍の速さです（Apple）。

4動かし方

DwarfStar（ds4）：最もメモリを節約できる

DwarfStar は DeepSeek Flash モデル専用に作られたオープンソースのエンジンで、96GB 以上の Mac では Metal で動き、それより小さい Mac では SSD ストリーミングを使います。どのモードでも Engram テーブルはディスクに置いたままです（GitHub）。

git clone https://github.com/antirez/ds4.git
cd ds4 && make
./download_model.sh ds41f-q2
./ds4 -m gguf/DeepSeek-V4.1-Flash-Q2.gguf --ssd-streaming --ctx 32768

メモリが 256GB 以上の Mac では --ssd-streaming を外します。./ds4-server を使うと、ローカル API でモデルを提供できます。

llama.cpp：1017 の GGUF ファイル

本家の llama.cpp と Ollama は、まだ V4.1 Flash に対応していません。1017 の GGUF ファイルは llama.cpp のブランチで作られており、自分でビルドする必要があります。Engram テーブルは CPU 側に置くことが推奨されています（Hugging Face）。今のところファイルはテキスト専用です。

git clone https://github.com/vcruz305/llama.cpp && cd llama.cpp
git checkout 2076412
cmake -B build && cmake --build build -j
./build/bin/llama-server -hf mrfakename/DeepSeek-V4.1-Flash-1017-GGUF:Q2_K -ot "engram_embd.weight=CPU"

MLX：Apple Silicon 向けの 1017 版

MLX コミュニティによる 1017 版は、ほとんどの重みで DeepSeek オリジナルの FP4 と FP8 の精度を保ち、マルチトークン予測の重みも含んでいます。画像も扱える mlx-vlm で読み込め、LM Studio にも掲載されています。512GB の Mac が必要です。

pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/DeepSeek-V4.1-Flash-1017-oQ4e-mtp --prompt "Hello" --max-tokens 200

ローカルモデルが初めてなら、まず Mac で LLM を動かすと MLX、Ollama、llama.cpp の比較から始めましょう。

5512GB の Mac がない場合の選択肢

• API を使う。 DeepSeek の deepseek-flash の料金は、入力 100 万トークンあたり 0.15 ドル、出力 100 万トークンあたり 0.60 ドルです。DeepSeek V4.1 Flash 1017 をご覧ください。
• 小さめのオープンモデルを動かす。 64GB の Mac なら 70B クラスのモデル、128GB の Mac なら gpt-oss-120b が快適に動きます。ローカル LLM に最適な Macをご覧ください。
• Mac をつなぐ。 Thunderbolt 5 で 2 台以上の Mac をつなげば、1 台では収まらないモデルも載せられます。Mac の AI クラスタをご覧ください。
• Mac に稼がせる。 MLX Node は、どの Apple Silicon の Mac でも MLX Network の AI のジョブを実行して MLX トークンを獲得します。専用シートなしで 1 日最大 1 MLX です。マイニングした MLX は 30 日ロックされます（専用シートがあればもっと短くなります）。リスクもご覧ください。

6よくある質問

DeepSeek V4.1 Flash にはどれくらいの RAM が必要ですか？

Engram テーブルを SSD に置いた DwarfStar の 2 ビット版で約 163GB、その 4 ビット版で約 316GB、MLX 版ではダウンロード全体の 343〜432GB です。これに macOS とコンテキストの分が加わります。

MacBook Pro で DeepSeek V4.1 Flash は動きますか？

128GB のモデルに限り、DwarfStar で 2 ビット版を SSD からストリーミングすれば動きますが、実験的で低速です。256GB か 512GB の Mac Studio なら、すべてメモリ上で動きます。

M3 Ultra での DeepSeek V4.1 Flash の速さは？

512GB の M3 Ultra での最初の公開実行では、MLX 版で生成が毎秒約 6.5 トークン、プロンプトの読み込みが毎秒約 275 トークンでした。メモリ帯域幅からすると毎秒約 90 トークンまで可能なので、新しいソフトウェアでは速くなるはずです。

DeepSeek V4.1 Flash 1017 の MLX 版はありますか？

あります。MLX コミュニティが 343GB と 432GB の 1017 版を公開しています。512GB のメモリを積んだ Mac で、mlx-vlm か LM Studio を使って動かせます。

DeepSeek V4.1 Flash は Ollama で使えますか？

標準の Ollama や llama.cpp では、まだ使えません。GGUF ファイルにはソースからビルドした llama.cpp のブランチが必要です。Mac でこのモデルに対応している DwarfStar を使う方法もあります。