ログインウォレットを作成

ローカル AI のための M2 Ultra。

M2 Ultra は最大 192 GB のユニファイドメモリを備え、最大 800 GB/s で読み出せます。この Mac で言語モデルを動かすとどうなるのかを、Apple 自身の数字をもとに計算しました。

1AI にとって重要なスペック

ユニファイドメモリ192 GB
メモリ帯域幅800 GB/s
搭載モデルMac Studio (2023), Mac Pro (2023)
対応する専用シートUltra シート：1 日最大 320 MLX をマイニング

2動かせるモデル

4 ビット量子化では、パラメータ 10 億あたり 0.5 GB 強のメモリが必要で、さらにコンテキストと macOS の分の余裕も要ります。192 GB の M2 Ultra なら、約 256B パラメータまでのモデルを余裕をもって載せられます。

モデル（4 ビット）必要なメモリM2 Ultra で動くか
8B モデル4.5 GBはい
14B モデル7.9 GBはい
32B モデル18 GBはい
70B モデル39.4 GBはい
gpt-oss-120b（Mixture-of-Experts）65 GBはい
Qwen3.5-397B-A17B（Mixture-of-Experts）223.3 GBいいえ
DeepSeek-V4.1-Flash（Mixture-of-Experts）316 GBいいえ

3どれくらい速いか

文章の生成速度はメモリ帯域幅で決まります。新しいトークンを 1 つ出すたびに、モデルのアクティブな重みを 1 回読むからです。M2 Ultra の 800 GB/s を 1 トークンあたりの読み出し量で割ると、下の上限値になります。実際の速度はたいていその 45%〜80% 程度です（llama.cpp のベンチマーク）。

モデル（4 ビット）1 トークンあたりの読み出し1 チャットの上限
8B モデル4.5 GB毎秒 178 トークン
14B モデル7.9 GB毎秒 101 トークン
32B モデル18 GB毎秒 44 トークン
70B モデル39.4 GB毎秒 20 トークン
gpt-oss-120b（Mixture-of-Experts）2.7 GB毎秒 296 トークン

5ほかのチップと比べる

6よくある質問

M2 Ultra で 70B モデルは動きますか？
はい。4 ビットの 70B モデルには約 40 GB が必要で、M2 Ultra は最大 192 GB あります。1 チャットあたりの上限は毎秒約 20 トークンです。
M2 Ultra は毎秒何トークン出ますか？
4 ビットの 8B モデルなら上限は毎秒約 178 トークンで、実際にはその半分から 5 分の 4 ほどです。大きなモデルほど、それに比例して遅くなります。
M2 Ultra は AI に向いていますか？
モデルをローカルで動かすなら、最も重要なのはメモリと帯域幅です。M2 Ultra は最大 192 GB、800 GB/s で、約 256B パラメータまでのモデルを動かせます。MLX Node で MLX Network の AI の仕事を実行して稼ぐこともできます。

出典

  1. Apple: M2 Ultraapple.com
  2. llama.cpp: Apple Silicon benchmarksgithub.com
M2 Ultra でローカル LLM：メモリ・速度・動かせるモデル | MLX