ローカル AI のための M3 Pro。

M3 Pro は最大 36 GB のユニファイドメモリを備え、最大 150 GB/s で読み出せます。この Mac で言語モデルを動かすとどうなるのかを、Apple 自身の数字をもとに計算しました。

1AI にとって重要なスペック

ユニファイドメモリ36 GB
メモリ帯域幅150 GB/s
搭載モデル14- and 16-inch MacBook Pro (2023)
対応する専用シートPro シート:1 日最大 80 MLX をマイニング

2動かせるモデル

4 ビット量子化では、パラメータ 10 億あたり 0.5 GB 強のメモリが必要で、さらにコンテキストと macOS の分の余裕も要ります。36 GB の M3 Pro なら、約 48B パラメータまでのモデルを余裕をもって載せられます。

モデル(4 ビット)必要なメモリM3 Pro で動くか
8B モデル4.5 GBはい
14B モデル7.9 GBはい
32B モデル18 GBはい
70B モデル39.4 GBいいえ
gpt-oss-120b(Mixture-of-Experts)65 GBいいえ
Qwen3.5-397B-A17B(Mixture-of-Experts)223.3 GBいいえ
DeepSeek-V4.1-Flash(Mixture-of-Experts)316 GBいいえ

3どれくらい速いか

文章の生成速度はメモリ帯域幅で決まります。新しいトークンを 1 つ出すたびに、モデルのアクティブな重みを 1 回読むからです。M3 Pro の 150 GB/s を 1 トークンあたりの読み出し量で割ると、下の上限値になります。実際の速度はたいていその 45%〜80% 程度です(llama.cpp のベンチマーク)。

モデル(4 ビット)1 トークンあたりの読み出し1 チャットの上限
8B モデル4.5 GB毎秒 33 トークン
14B モデル7.9 GB毎秒 19 トークン
32B モデル18 GB毎秒 8 トークン

5ほかのチップと比べる

6よくある質問

M3 Pro で 70B モデルは動きますか?
余裕をもっては動きません。4 ビットの 70B モデルには約 40 GB が必要ですが、M3 Pro は最大 36 GB です。約 48B パラメータまでのモデルなら快適に動きます。
M3 Pro は毎秒何トークン出ますか?
4 ビットの 8B モデルなら上限は毎秒約 33 トークンで、実際にはその半分から 5 分の 4 ほどです。大きなモデルほど、それに比例して遅くなります。
M3 Pro は AI に向いていますか?
モデルをローカルで動かすなら、最も重要なのはメモリと帯域幅です。M3 Pro は最大 36 GB、150 GB/s で、約 48B パラメータまでのモデルを動かせます。MLX Node で MLX Network の AI の仕事を実行して稼ぐこともできます。

出典

  1. Apple: M3, M3 Pro and M3 Maxapple.com
  2. Apple: MacBook Pro (M3 Pro or M3 Max) specssupport.apple.com
M3 Pro でローカル LLM:メモリ・速度・動かせるモデル | MLX