1AI にとって重要なスペック
| ユニファイドメモリ | 512 GB |
|---|---|
| メモリ帯域幅 | 819 GB/s |
| 搭載モデル | Mac Studio (2025) |
| 対応する専用シート | Ultra シート：1 日最大 320 MLX をマイニング |
2動かせるモデル
4 ビット量子化では、パラメータ 10 億あたり 0.5 GB 強のメモリが必要で、さらにコンテキストと macOS の分の余裕も要ります。512 GB の M3 Ultra なら、約 682B パラメータまでのモデルを余裕をもって載せられます。
| モデル（4 ビット） | 必要なメモリ | M3 Ultra で動くか |
|---|---|---|
| 8B モデル | 4.5 GB | はい |
| 14B モデル | 7.9 GB | はい |
| 32B モデル | 18 GB | はい |
| 70B モデル | 39.4 GB | はい |
| gpt-oss-120b（Mixture-of-Experts） | 65 GB | はい |
| Qwen3.5-397B-A17B（Mixture-of-Experts） | 223.3 GB | はい |
| DeepSeek-V4.1-Flash（Mixture-of-Experts） | 316 GB | はい |
3どれくらい速いか
文章の生成速度はメモリ帯域幅で決まります。新しいトークンを 1 つ出すたびに、モデルのアクティブな重みを 1 回読むからです。M3 Ultra の 819 GB/s を 1 トークンあたりの読み出し量で割ると、下の上限値になります。実際の速度はたいていその 45%〜80% 程度です（llama.cpp のベンチマーク）。
| モデル（4 ビット） | 1 トークンあたりの読み出し | 1 チャットの上限 |
|---|---|---|
| 8B モデル | 4.5 GB | 毎秒 182 トークン |
| 14B モデル | 7.9 GB | 毎秒 104 トークン |
| 32B モデル | 18 GB | 毎秒 46 トークン |
| 70B モデル | 39.4 GB | 毎秒 21 トークン |
| gpt-oss-120b（Mixture-of-Experts） | 2.7 GB | 毎秒 303 トークン |
| Qwen3.5-397B-A17B（Mixture-of-Experts） | 9.6 GB | 毎秒 85 トークン |
| DeepSeek-V4.1-Flash（Mixture-of-Experts） | 9 GB | 毎秒 91 トークン |
実測：M3 Ultra (80-core GPU) では、llama.cpp の公開ベンチマークで Llama-2-7B（Q4_0）が毎秒 92 トークンを生成しています。
5ほかのチップと比べる
6よくある質問
- M3 Ultra で 70B モデルは動きますか？
- はい。4 ビットの 70B モデルには約 40 GB が必要で、M3 Ultra は最大 512 GB あります。1 チャットあたりの上限は毎秒約 21 トークンです。
- M3 Ultra は毎秒何トークン出ますか？
- 4 ビットの 8B モデルなら上限は毎秒約 182 トークンで、実際にはその半分から 5 分の 4 ほどです。大きなモデルほど、それに比例して遅くなります。
- M3 Ultra は AI に向いていますか？
- モデルをローカルで動かすなら、最も重要なのはメモリと帯域幅です。M3 Ultra は最大 512 GB、819 GB/s で、約 682B パラメータまでのモデルを動かせます。MLX Node で MLX Network の AI の仕事を実行して稼ぐこともできます。
出典
- Apple: Mac Studio (2025) specssupport.apple.com
- llama.cpp: Apple Silicon benchmarksgithub.com