為本地 AI 打造的 M3 Max。

1對 AI 重要的規格

2能跑哪些模型

4 位元量化時，每 10 億個參數需要略多於 0.5 GB 記憶體，還要為上下文與 macOS 留出空間。128 GB 的 M3 Max 可以從容放下約 170B 參數以內的模型。

3跑得多快

產生文字的速度受記憶體頻寬限制：每產生一個新 token，都要把模型的作用中權重讀一遍。用 M3 Max 的 400 GB/s 除以每個 token 讀取的位元組數，就得到下方的上限。實際執行通常能達到上限的 45% 到 80%（llama.cpp 基準測試）。

5與其他晶片比較

• M3 Max · 36 GB
• M3 Max · 48 GB
• M3 Max · 64 GB
• M3 Max · 96 GB
• M3 Max · 128 GB
• M2 Max vs M3 Max
• M3 Pro vs M3 Max
• M3 Max vs M3 Ultra
• M3 Max vs M4 Max

• M2 Max：96 GB，400 GB/s
• M4 Max：128 GB，546 GB/s
• M3 Pro：36 GB，150 GB/s
• M3 Ultra：512 GB，819 GB/s
• 本機跑 LLM 的最佳 Mac。

6常見問題

M3 Max 能跑 70B 模型嗎？

可以。4 位元的 70B 模型約需 40 GB，而 M3 Max 最高有 128 GB。單一對話的上限約為每秒 10 token。

M3 Max 每秒能產生多少 token？

以 4 位元 8B 模型為例，上限約為每秒 89 token，實際執行大約能達到其一半到五分之四。模型越大，速度按比例越慢。

M3 Max 適合跑 AI 嗎？

在本機執行模型時，最關鍵的是記憶體與頻寬。M3 Max 最高 128 GB、400 GB/s，足以執行約 170B 參數以內的模型。它也能透過 MLX Node 為 MLX Network 執行 AI 工作來賺取收益。