1对 AI 重要的规格
| 统一内存 | 512 GB |
|---|---|
| 内存带宽 | 1.2 TB/s |
| 搭载机型 | Mac Studio (2026) |
| 适合它的专属席位 | Ultra Latest 席位：每天最多挖 480 MLX |
2能跑哪些模型
4 位量化时，每 10 亿参数需要略多于 0.5 GB 内存，还要为上下文和 macOS 留出空间。512 GB 的 M5 Ultra 可以从容装下约 682B 参数以内的模型。
| 4 位模型 | 所需内存 | M5 Ultra 能否运行 |
|---|---|---|
| 8B 模型 | 4.5 GB | 能 |
| 14B 模型 | 7.9 GB | 能 |
| 32B 模型 | 18 GB | 能 |
| 70B 模型 | 39.4 GB | 能 |
| gpt-oss-120b，混合专家 | 65 GB | 能 |
| Qwen3.5-397B-A17B，混合专家 | 223.3 GB | 能 |
| DeepSeek-V4.1-Flash，混合专家 | 316 GB | 能 |
3跑得多快
生成文本的速度受内存带宽限制：每生成一个新 token，都要把模型的激活权重读一遍。用 M5 Ultra 的 1.2 TB/s 除以每个 token 读取的字节数，就得到下面的上限。实际运行通常能达到上限的 45% 到 80%（llama.cpp 基准测试）。
| 4 位模型 | 每 token 读取量 | 单个对话上限 |
|---|---|---|
| 8B 模型 | 4.5 GB | 每秒 267 token |
| 14B 模型 | 7.9 GB | 每秒 152 token |
| 32B 模型 | 18 GB | 每秒 67 token |
| 70B 模型 | 39.4 GB | 每秒 30 token |
| gpt-oss-120b，混合专家 | 2.7 GB | 每秒 444 token |
| Qwen3.5-397B-A17B，混合专家 | 9.6 GB | 每秒 125 token |
| DeepSeek-V4.1-Flash，混合专家 | 9 GB | 每秒 133 token |
实测：在 M5 Ultra (80-core GPU) 上，llama.cpp 公开基准测试中 Llama-2-7B（Q4_0）的生成速度为每秒 179 token。
M5 代芯片在 GPU 中加入了神经加速器，读取提示词比 M4 快数倍：Apple 测得使用 MLX 时首个 token 的出现速度快 3.3 到 4.1 倍（Apple）。
5与其他芯片对比
6常见问题
- M5 Ultra 能跑 70B 模型吗？
- 能。4 位的 70B 模型约需 40 GB，而 M5 Ultra 最高有 512 GB。单个对话的上限约为每秒 30 token。
- M5 Ultra 每秒能生成多少 token？
- 以 4 位 8B 模型为例，上限约为每秒 267 token，实际运行大约能达到其一半到五分之四。模型越大，速度按比例越慢。
- M5 Ultra 适合跑 AI 吗？
- 本地运行模型时，最关键的是内存和带宽。M5 Ultra 最高 512 GB、1.2 TB/s，足以运行约 682B 参数以内的模型。它还可以通过 MLX Node 为 MLX Network 执行 AI 任务来赚取收益。
来源
- Apple: M6 and M5 Ultraapple.com
- llama.cpp: Apple Silicon benchmarksgithub.com