1對 AI 重要的規格
| 統一記憶體 | 512 GB |
|---|---|
| 記憶體頻寬 | 1.2 TB/s |
| 搭載機型 | Mac Studio (2026) |
| 適合它的專屬席位 | Ultra Latest 席位：每天最多挖 480 MLX |
2能跑哪些模型
4 位元量化時，每 10 億個參數需要略多於 0.5 GB 記憶體，還要為上下文與 macOS 留出空間。512 GB 的 M5 Ultra 可以從容放下約 682B 參數以內的模型。
| 4 位元模型 | 所需記憶體 | M5 Ultra 能否執行 |
|---|---|---|
| 8B 模型 | 4.5 GB | 可以 |
| 14B 模型 | 7.9 GB | 可以 |
| 32B 模型 | 18 GB | 可以 |
| 70B 模型 | 39.4 GB | 可以 |
| gpt-oss-120b，混合專家 | 65 GB | 可以 |
| Qwen3.5-397B-A17B，混合專家 | 223.3 GB | 可以 |
| DeepSeek-V4.1-Flash，混合專家 | 316 GB | 可以 |
3跑得多快
產生文字的速度受記憶體頻寬限制：每產生一個新 token，都要把模型的作用中權重讀一遍。用 M5 Ultra 的 1.2 TB/s 除以每個 token 讀取的位元組數，就得到下方的上限。實際執行通常能達到上限的 45% 到 80%（llama.cpp 基準測試）。
| 4 位元模型 | 每 token 讀取量 | 單一對話上限 |
|---|---|---|
| 8B 模型 | 4.5 GB | 每秒 267 token |
| 14B 模型 | 7.9 GB | 每秒 152 token |
| 32B 模型 | 18 GB | 每秒 67 token |
| 70B 模型 | 39.4 GB | 每秒 30 token |
| gpt-oss-120b，混合專家 | 2.7 GB | 每秒 444 token |
| Qwen3.5-397B-A17B，混合專家 | 9.6 GB | 每秒 125 token |
| DeepSeek-V4.1-Flash，混合專家 | 9 GB | 每秒 133 token |
實測：在 M5 Ultra (80-core GPU) 上，llama.cpp 公開基準測試中 Llama-2-7B（Q4_0）的產生速度為每秒 179 token。
M5 世代晶片在 GPU 中加入了神經加速器，讀取提示詞比 M4 快數倍：Apple 測得使用 MLX 時第一個 token 出現的速度快 3.3 到 4.1 倍（Apple）。
5與其他晶片比較
6常見問題
- M5 Ultra 能跑 70B 模型嗎？
- 可以。4 位元的 70B 模型約需 40 GB，而 M5 Ultra 最高有 512 GB。單一對話的上限約為每秒 30 token。
- M5 Ultra 每秒能產生多少 token？
- 以 4 位元 8B 模型為例，上限約為每秒 267 token，實際執行大約能達到其一半到五分之四。模型越大，速度按比例越慢。
- M5 Ultra 適合跑 AI 嗎？
- 在本機執行模型時，最關鍵的是記憶體與頻寬。M5 Ultra 最高 512 GB、1.2 TB/s，足以執行約 682B 參數以內的模型。它也能透過 MLX Node 為 MLX Network 執行 AI 工作來賺取收益。
資料來源
- Apple: M6 and M5 Ultraapple.com
- llama.cpp: Apple Silicon benchmarksgithub.com