本機跑 LLM 的最佳 Mac。

1為什麼記憶體和頻寬決定一切

語言模型一次寫一個 token，每寫一個都要從記憶體讀取所有作用中的權重。所以單一對話的速度上限，大致等於記憶體頻寬除以作用中權重的大小。在 llama.cpp 的公開效能測試中，Apple 晶片的實際產生速度可達這個上限的 43% 到 80%（llama.cpp）。

讀取提示詞則不同：這部分受限於運算力，所以 GPU 內建神經加速器的 M5 世代晶片，處理提示詞的速度比前幾代快好幾倍（Apple）。

2每款晶片比一比

只要記憶體夠，舊晶片依然好用。64 GB 的 M1 Max 或 M2 Max 頻寬為 400 GB/s，高於現今任何一款基本款晶片，二手價格往往也便宜得多。

3該買哪台 Mac

只是試試看：16 到 32 GB 的 MacBook Air 或 Mac mini

能順暢執行 7B 到 14B 模型，32 GB 時可執行 30B 級模型。用來聊天、寫作和輕度程式輔助綽綽有餘。

最划算：Pro 晶片配 64 GB

搭載 M4 Pro 或 M5 Pro 的 Mac mini 或 MacBook Pro 裝得下 70B 級模型，執行中型模型的速度也不錯。是多數開發者的最佳選擇。

認真玩本機 AI：Max 晶片配 128 GB

能在筆電上執行 gpt-oss-120b（4-bit 下約 65 GB）；依 Apple 公布的頻寬推算，M5 Max 單一串流的理論上限約為每秒 225 個 token。可攜裝置中的最佳選擇。

最大的模型：搭載 Ultra 的 Mac Studio

M5 Ultra 最高 512 GB 記憶體、1.2 TB/s 頻寬，一張桌上就裝得下數千億參數的模型。更大的模型，可以用 Thunderbolt 5 把多台 Mac 串成叢集：請見 Mac AI 叢集。

4讓閒置的 Mac 也有產出

為 AI 買的 Mac，大部分時間都在等待。MLX Node 是一款免費 App，把這些閒置算力借給 MLX Network，以同一個 MLX 框架執行 AI 工作，為通過驗證的工作賺取 MLX 代幣。與晶片相配的專屬席位會讓收益成倍增加：Pro 席位在 Pro 或 Max 晶片上全速執行，Ultra 席位在 Ultra 晶片上全速執行。

先在 MLX Bench 上比較你的 Mac：它顯示開源模型在每款晶片上實測的每秒 token 數。

5常見問題

16 GB 夠跑本機 LLM 嗎？

4-bit 下約 14B 參數以內的模型夠用。更大的模型或更長的上下文，32 GB 或以上會舒適得多。

跑 LLM 選 Mac Studio 還是 MacBook Pro？

兩者都可選配 Max 晶片，最高 128 GB。MacBook Pro 方便攜帶；Mac Studio 長時間負載下溫度較低，也是唯一提供 Ultra 晶片和最高 512 GB 記憶體的 Mac。

本機 AI 用 Mac 比 Nvidia 顯示卡好嗎？

在家執行最大的模型，往往是的：Mac 的統一記憶體容量遠超過消費級顯示卡的記憶體。對於放得進顯示卡記憶體的模型，高階 Nvidia 顯示卡比較快。

M5 能讓 LLM 更快嗎？

可以，主要在讀取提示詞方面：Apple 以 MLX 實測，M5 上第一個 token 出現的速度比 M4 快 3.3 到 4.1 倍。產生速度隨記憶體頻寬提升，而從 M4 到 M5 頻寬提高了 28%。