ローカル AI のための M5 Ultra。

M5 Ultra は最大 512 GB のユニファイドメモリを備え、最大 1.2 TB/s で読み出せます。この Mac で言語モデルを動かすとどうなるのかを、Apple 自身の数字をもとに計算しました。

1AI にとって重要なスペック

ユニファイドメモリ512 GB
メモリ帯域幅1.2 TB/s
搭載モデルMac Studio (2026)
対応する専用シートUltra Latest シート:1 日最大 480 MLX をマイニング

2動かせるモデル

4 ビット量子化では、パラメータ 10 億あたり 0.5 GB 強のメモリが必要で、さらにコンテキストと macOS の分の余裕も要ります。512 GB の M5 Ultra なら、約 682B パラメータまでのモデルを余裕をもって載せられます。

モデル(4 ビット)必要なメモリM5 Ultra で動くか
8B モデル4.5 GBはい
14B モデル7.9 GBはい
32B モデル18 GBはい
70B モデル39.4 GBはい
gpt-oss-120b(Mixture-of-Experts)65 GBはい
Qwen3.5-397B-A17B(Mixture-of-Experts)223.3 GBはい
DeepSeek-V4.1-Flash(Mixture-of-Experts)316 GBはい

3どれくらい速いか

文章の生成速度はメモリ帯域幅で決まります。新しいトークンを 1 つ出すたびに、モデルのアクティブな重みを 1 回読むからです。M5 Ultra の 1.2 TB/s を 1 トークンあたりの読み出し量で割ると、下の上限値になります。実際の速度はたいていその 45%〜80% 程度です(llama.cpp のベンチマーク)。

モデル(4 ビット)1 トークンあたりの読み出し1 チャットの上限
8B モデル4.5 GB毎秒 267 トークン
14B モデル7.9 GB毎秒 152 トークン
32B モデル18 GB毎秒 67 トークン
70B モデル39.4 GB毎秒 30 トークン
gpt-oss-120b(Mixture-of-Experts)2.7 GB毎秒 444 トークン
Qwen3.5-397B-A17B(Mixture-of-Experts)9.6 GB毎秒 125 トークン
DeepSeek-V4.1-Flash(Mixture-of-Experts)9 GB毎秒 133 トークン

実測:M5 Ultra (80-core GPU) では、llama.cpp の公開ベンチマークで Llama-2-7B(Q4_0)が毎秒 179 トークンを生成しています。

M5 世代のチップは GPU にニューラルアクセラレータを搭載しているため、プロンプトの読み込みが M4 の数倍速くなります。Apple の計測では、MLX で最初のトークンが 3.3〜4.1 倍早く出ました(Apple)。

5ほかのチップと比べる

6よくある質問

M5 Ultra で 70B モデルは動きますか?
はい。4 ビットの 70B モデルには約 40 GB が必要で、M5 Ultra は最大 512 GB あります。1 チャットあたりの上限は毎秒約 30 トークンです。
M5 Ultra は毎秒何トークン出ますか?
4 ビットの 8B モデルなら上限は毎秒約 267 トークンで、実際にはその半分から 5 分の 4 ほどです。大きなモデルほど、それに比例して遅くなります。
M5 Ultra は AI に向いていますか?
モデルをローカルで動かすなら、最も重要なのはメモリと帯域幅です。M5 Ultra は最大 512 GB、1.2 TB/s で、約 682B パラメータまでのモデルを動かせます。MLX Node で MLX Network の AI の仕事を実行して稼ぐこともできます。

出典

  1. Apple: M6 and M5 Ultraapple.com
  2. llama.cpp: Apple Silicon benchmarksgithub.com
M5 Ultra でローカル LLM:メモリ・速度・動かせるモデル | MLX