1AI にとって重要なスペック
| ユニファイドメモリ | 24 GB |
|---|---|
| メモリ帯域幅 | 100 GB/s |
| 搭載モデル | MacBook Air (2024), 14-inch MacBook Pro (2023), iMac (2023) |
| 対応する専用シート | Core シート：1 日最大 20 MLX をマイニング |
2動かせるモデル
4 ビット量子化では、パラメータ 10 億あたり 0.5 GB 強のメモリが必要で、さらにコンテキストと macOS の分の余裕も要ります。24 GB の M3 なら、約 32B パラメータまでのモデルを余裕をもって載せられます。
| モデル（4 ビット） | 必要なメモリ | M3 で動くか |
|---|---|---|
| 8B モデル | 4.5 GB | はい |
| 14B モデル | 7.9 GB | はい |
| 32B モデル | 18 GB | はい |
| 70B モデル | 39.4 GB | いいえ |
| gpt-oss-120b（Mixture-of-Experts） | 65 GB | いいえ |
| Qwen3.5-397B-A17B（Mixture-of-Experts） | 223.3 GB | いいえ |
| DeepSeek-V4.1-Flash（Mixture-of-Experts） | 316 GB | いいえ |
3どれくらい速いか
文章の生成速度はメモリ帯域幅で決まります。新しいトークンを 1 つ出すたびに、モデルのアクティブな重みを 1 回読むからです。M3 の 100 GB/s を 1 トークンあたりの読み出し量で割ると、下の上限値になります。実際の速度はたいていその 45%〜80% 程度です（llama.cpp のベンチマーク）。
| モデル（4 ビット） | 1 トークンあたりの読み出し | 1 チャットの上限 |
|---|---|---|
| 8B モデル | 4.5 GB | 毎秒 22 トークン |
| 14B モデル | 7.9 GB | 毎秒 13 トークン |
| 32B モデル | 18 GB | 毎秒 6 トークン |
5ほかのチップと比べる
6よくある質問
- M3 で 70B モデルは動きますか？
- 余裕をもっては動きません。4 ビットの 70B モデルには約 40 GB が必要ですが、M3 は最大 24 GB です。約 32B パラメータまでのモデルなら快適に動きます。
- M3 は毎秒何トークン出ますか？
- 4 ビットの 8B モデルなら上限は毎秒約 22 トークンで、実際にはその半分から 5 分の 4 ほどです。大きなモデルほど、それに比例して遅くなります。
- M3 は AI に向いていますか？
- モデルをローカルで動かすなら、最も重要なのはメモリと帯域幅です。M3 は最大 24 GB、100 GB/s で、約 32B パラメータまでのモデルを動かせます。MLX Node で MLX Network の AI の仕事を実行して稼ぐこともできます。
出典
- Apple: M3, M3 Pro and M3 Maxapple.com
- llama.cpp: Apple Silicon benchmarksgithub.com