ローカル AI のための M3 Max。

M3 Max は最大 128 GB のユニファイドメモリを備え、最大 400 GB/s で読み出せます。この Mac で言語モデルを動かすとどうなるのかを、Apple 自身の数字をもとに計算しました。

1AI にとって重要なスペック

ユニファイドメモリ128 GB
メモリ帯域幅400 GB/s(下位構成では 300 GB/s)
搭載モデル14- and 16-inch MacBook Pro (2023)
対応する専用シートPro シート:1 日最大 80 MLX をマイニング

2動かせるモデル

4 ビット量子化では、パラメータ 10 億あたり 0.5 GB 強のメモリが必要で、さらにコンテキストと macOS の分の余裕も要ります。128 GB の M3 Max なら、約 170B パラメータまでのモデルを余裕をもって載せられます。

モデル(4 ビット)必要なメモリM3 Max で動くか
8B モデル4.5 GBはい
14B モデル7.9 GBはい
32B モデル18 GBはい
70B モデル39.4 GBはい
gpt-oss-120b(Mixture-of-Experts)65 GBはい
Qwen3.5-397B-A17B(Mixture-of-Experts)223.3 GBいいえ
DeepSeek-V4.1-Flash(Mixture-of-Experts)316 GBいいえ

3どれくらい速いか

文章の生成速度はメモリ帯域幅で決まります。新しいトークンを 1 つ出すたびに、モデルのアクティブな重みを 1 回読むからです。M3 Max の 400 GB/s を 1 トークンあたりの読み出し量で割ると、下の上限値になります。実際の速度はたいていその 45%〜80% 程度です(llama.cpp のベンチマーク)。

モデル(4 ビット)1 トークンあたりの読み出し1 チャットの上限
8B モデル4.5 GB毎秒 89 トークン
14B モデル7.9 GB毎秒 51 トークン
32B モデル18 GB毎秒 22 トークン
70B モデル39.4 GB毎秒 10 トークン
gpt-oss-120b(Mixture-of-Experts)2.7 GB毎秒 148 トークン

5ほかのチップと比べる

6よくある質問

M3 Max で 70B モデルは動きますか?
はい。4 ビットの 70B モデルには約 40 GB が必要で、M3 Max は最大 128 GB あります。1 チャットあたりの上限は毎秒約 10 トークンです。
M3 Max は毎秒何トークン出ますか?
4 ビットの 8B モデルなら上限は毎秒約 89 トークンで、実際にはその半分から 5 分の 4 ほどです。大きなモデルほど、それに比例して遅くなります。
M3 Max は AI に向いていますか?
モデルをローカルで動かすなら、最も重要なのはメモリと帯域幅です。M3 Max は最大 128 GB、400 GB/s で、約 170B パラメータまでのモデルを動かせます。MLX Node で MLX Network の AI の仕事を実行して稼ぐこともできます。

出典

  1. Apple: M3, M3 Pro and M3 Maxapple.com
  2. Apple: MacBook Pro (M3 Pro or M3 Max) specssupport.apple.com
M3 Max でローカル LLM:メモリ・速度・動かせるモデル | MLX