为本地 AI 而生的 M1 Max。

M1 Max 最高配备 64 GB 统一内存,读取速度最高 400 GB/s。下面根据 Apple 官方数据,算一算用搭载它的 Mac 跑语言模型意味着什么。

1对 AI 重要的规格

统一内存64 GB
内存带宽400 GB/s
搭载机型14- and 16-inch MacBook Pro (2021), Mac Studio (2022)
适合它的专属席位Pro 席位:每天最多挖 80 MLX

2能跑哪些模型

4 位量化时,每 10 亿参数需要略多于 0.5 GB 内存,还要为上下文和 macOS 留出空间。64 GB 的 M1 Max 可以从容装下约 85B 参数以内的模型。

4 位模型所需内存M1 Max 能否运行
8B 模型4.5 GB能
14B 模型7.9 GB能
32B 模型18 GB能
70B 模型39.4 GB能
gpt-oss-120b,混合专家65 GB不能
Qwen3.5-397B-A17B,混合专家223.3 GB不能
DeepSeek-V4.1-Flash,混合专家316 GB不能

3跑得多快

生成文本的速度受内存带宽限制:每生成一个新 token,都要把模型的激活权重读一遍。用 M1 Max 的 400 GB/s 除以每个 token 读取的字节数,就得到下面的上限。实际运行通常能达到上限的 45% 到 80%(llama.cpp 基准测试)。

4 位模型每 token 读取量单个对话上限
8B 模型4.5 GB每秒 89 token
14B 模型7.9 GB每秒 51 token
32B 模型18 GB每秒 22 token
70B 模型39.4 GB每秒 10 token

5与其他芯片对比

6常见问题

M1 Max 能跑 70B 模型吗?
能。4 位的 70B 模型约需 40 GB,而 M1 Max 最高有 64 GB。单个对话的上限约为每秒 10 token。
M1 Max 每秒能生成多少 token?
以 4 位 8B 模型为例,上限约为每秒 89 token,实际运行大约能达到其一半到五分之四。模型越大,速度按比例越慢。
M1 Max 适合跑 AI 吗?
本地运行模型时,最关键的是内存和带宽。M1 Max 最高 64 GB、400 GB/s,足以运行约 85B 参数以内的模型。它还可以通过 MLX Node 为 MLX Network 执行 AI 任务来赚取收益。

来源

  1. Apple: M1 Pro and M1 Maxapple.com
  2. llama.cpp: Apple Silicon benchmarksgithub.com
M1 Max 本地大模型:内存、速度与能跑的模型 | MLX