1AI にとって重要なスペック
| ユニファイドメモリ | 32 GB |
|---|---|
| メモリ帯域幅 | 200 GB/s |
| 搭載モデル | 14- and 16-inch MacBook Pro (2021) |
| 対応する専用シート | Pro シート:1 日最大 80 MLX をマイニング |
2動かせるモデル
4 ビット量子化では、パラメータ 10 億あたり 0.5 GB 強のメモリが必要で、さらにコンテキストと macOS の分の余裕も要ります。32 GB の M1 Pro なら、約 42B パラメータまでのモデルを余裕をもって載せられます。
| モデル(4 ビット) | 必要なメモリ | M1 Pro で動くか |
|---|---|---|
| 8B モデル | 4.5 GB | はい |
| 14B モデル | 7.9 GB | はい |
| 32B モデル | 18 GB | はい |
| 70B モデル | 39.4 GB | いいえ |
| gpt-oss-120b(Mixture-of-Experts) | 65 GB | いいえ |
| Qwen3.5-397B-A17B(Mixture-of-Experts) | 223.3 GB | いいえ |
| DeepSeek-V4.1-Flash(Mixture-of-Experts) | 316 GB | いいえ |
3どれくらい速いか
文章の生成速度はメモリ帯域幅で決まります。新しいトークンを 1 つ出すたびに、モデルのアクティブな重みを 1 回読むからです。M1 Pro の 200 GB/s を 1 トークンあたりの読み出し量で割ると、下の上限値になります。実際の速度はたいていその 45%〜80% 程度です(llama.cpp のベンチマーク)。
| モデル(4 ビット) | 1 トークンあたりの読み出し | 1 チャットの上限 |
|---|---|---|
| 8B モデル | 4.5 GB | 毎秒 44 トークン |
| 14B モデル | 7.9 GB | 毎秒 25 トークン |
| 32B モデル | 18 GB | 毎秒 11 トークン |
5ほかのチップと比べる
6よくある質問
- M1 Pro で 70B モデルは動きますか?
- 余裕をもっては動きません。4 ビットの 70B モデルには約 40 GB が必要ですが、M1 Pro は最大 32 GB です。約 42B パラメータまでのモデルなら快適に動きます。
- M1 Pro は毎秒何トークン出ますか?
- 4 ビットの 8B モデルなら上限は毎秒約 44 トークンで、実際にはその半分から 5 分の 4 ほどです。大きなモデルほど、それに比例して遅くなります。
- M1 Pro は AI に向いていますか?
- モデルをローカルで動かすなら、最も重要なのはメモリと帯域幅です。M1 Pro は最大 32 GB、200 GB/s で、約 42B パラメータまでのモデルを動かせます。MLX Node で MLX Network の AI の仕事を実行して稼ぐこともできます。
出典
- Apple: M1 Pro and M1 Maxapple.com
- llama.cpp: Apple Silicon benchmarksgithub.com