用搭載 M5 Max 的 Mac Studio 執行本機 AI。

M5 Max 的記憶體讀取速度為 614 GB/s,這決定了產生速度。記憶體決定放得下哪些模型,而且日後無法升級,所以請在這裡選好容量。

48 GB38 個模型順暢執行Qwen3.6 35B A3B · 115–205 tok/s64 GB39 個模型順暢執行Nemotron 3.5 Bolt 74B A9B · 54–96 tok/s128 GB47 個模型順暢執行Qwen3.5 122B A10B · 49–88 tok/s

依記憶體容量

記憶體順暢執行順暢執行的最大模型gpt-oss-20b
36 GB460 GB/s38Qwen3.6 35B A3B109–194 tok/s
48 GB614 GB/s38Qwen3.6 35B A3B145–259 tok/s
64 GB614 GB/s39Nemotron 3.5 Bolt 74B A9B145–259 tok/s
128 GB614 GB/s47Qwen3.5 122B A10B145–259 tok/s

機型:Mac Studio (M5 Max or M5 Ultra)。 並非每個機型都提供所有記憶體容量;各機型的可選配置請參閱 Apple 的技術規格。

常見問題

搭載 M5 Max 的 Mac Studio 適合執行本機 LLM 嗎?
配備 128 GB 時,它能順暢執行 73 個開放模型中的 47 個,最大到 Qwen3.5 122B A10B;執行 gpt-oss-20b 時每秒約產生 145–259 個 token。M5 Max 的記憶體讀取速度為 614 GB/s,這決定了產生速度。
用於 AI 的話,搭載 M5 Max 的 Mac Studio 該配多少記憶體?
36 GB 能順暢執行 38 個開放模型;128 GB 能執行 47 個,最大到 Qwen3.5 122B A10B。記憶體決定放得下哪些模型,而且日後無法升級。

其他 Mac

搭載其他晶片的 Mac Studio:

其他搭載 M5 Max 的 Mac:

正面比較:

對比 PC 和顯示卡:

用 M5 Max 執行本機 AI · 執行本機 LLM 的最佳 Mac · 所有 Mac

計算方式

記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。

搭載 M5 Max 的 Mac Studio 執行本機 AI:依記憶體看能跑哪些 LLM