1对 AI 重要的规格
| 统一内存 | 36 GB |
|---|---|
| 内存带宽 | 150 GB/s |
| 搭载机型 | 14- and 16-inch MacBook Pro (2023) |
| 适合它的专属席位 | Pro 席位:每天最多挖 80 MLX |
2能跑哪些模型
4 位量化时,每 10 亿参数需要略多于 0.5 GB 内存,还要为上下文和 macOS 留出空间。36 GB 的 M3 Pro 可以从容装下约 48B 参数以内的模型。
| 4 位模型 | 所需内存 | M3 Pro 能否运行 |
|---|---|---|
| 8B 模型 | 4.5 GB | 能 |
| 14B 模型 | 7.9 GB | 能 |
| 32B 模型 | 18 GB | 能 |
| 70B 模型 | 39.4 GB | 不能 |
| gpt-oss-120b,混合专家 | 65 GB | 不能 |
| Qwen3.5-397B-A17B,混合专家 | 223.3 GB | 不能 |
| DeepSeek-V4.1-Flash,混合专家 | 316 GB | 不能 |
3跑得多快
生成文本的速度受内存带宽限制:每生成一个新 token,都要把模型的激活权重读一遍。用 M3 Pro 的 150 GB/s 除以每个 token 读取的字节数,就得到下面的上限。实际运行通常能达到上限的 45% 到 80%(llama.cpp 基准测试)。
| 4 位模型 | 每 token 读取量 | 单个对话上限 |
|---|---|---|
| 8B 模型 | 4.5 GB | 每秒 33 token |
| 14B 模型 | 7.9 GB | 每秒 19 token |
| 32B 模型 | 18 GB | 每秒 8 token |
5与其他芯片对比
6常见问题
- M3 Pro 能跑 70B 模型吗?
- 跑不从容。4 位的 70B 模型约需 40 GB,而 M3 Pro 最多只有 36 GB。约 48B 参数以内的模型可以流畅运行。
- M3 Pro 每秒能生成多少 token?
- 以 4 位 8B 模型为例,上限约为每秒 33 token,实际运行大约能达到其一半到五分之四。模型越大,速度按比例越慢。
- M3 Pro 适合跑 AI 吗?
- 本地运行模型时,最关键的是内存和带宽。M3 Pro 最高 36 GB、150 GB/s,足以运行约 48B 参数以内的模型。它还可以通过 MLX Node 为 MLX Network 执行 AI 任务来赚取收益。
来源
- Apple: M3, M3 Pro and M3 Maxapple.com
- Apple: MacBook Pro (M3 Pro or M3 Max) specssupport.apple.com