重點整理
- MLX 是 Apple 為 Apple 晶片打造的機器學習框架。mlx-lm 在它之上執行語言模型。
- llama.cpp 是快速的 C/C++ 推論引擎，幾乎能在任何硬體上執行 GGUF 模型，在 Mac 上透過 Metal 執行。
- Ollama 是簡單好用的前端：一行指令下載並執行模型，附帶本機 API。在 Apple 晶片上，它現在有由 MLX 驅動的預覽版。
- 要在 Mac 上獲得原生最快速度，用 MLX；要最多模型和平台選擇，用 llama.cpp；要最輕鬆上手，用 Ollama 或 LM Studio。
1它們各是什麼
2在 Apple 晶片上的速度
產生文字時，三者都受同一件事限制：記憶體頻寬。差異來自各自對 GPU 的運用程度，以及模型的量化方式。
MLX 為 Apple 晶片的統一記憶體而寫，在 M5 晶片上還會使用 GPU 的神經加速器：Apple 實測第一個 token 的出現時間比 M4 快 3.3 到 4.1 倍（Apple）。2026 年 3 月，Ollama 開始在 Apple 晶片上轉向 MLX，推出預覽版，支援的模型速度大幅提升（Ollama），這很能說明 Mac 效能的發展方向。
llama.cpp 在 Mac 上依然很快，測試數據也很完整；它的公開效能測試討論串是比較各款晶片的最佳參考（llama.cpp）。專門針對 MLX 的數據，請見 MLX Bench。
3該用哪一個
- 你今天就想和模型聊天： LM Studio（一個能執行 MLX 和 GGUF 模型的 App）或 Ollama。
- 你在開發需要本機 API 的 App： Ollama，或在 MLX 上用
mlx_lm.server提供與 OpenAI 相容的端點。 - 你想在 Mac 上發揮最快速度，或想微調模型： MLX 搭配 mlx-lm。
- 你需要在 Mac、Linux 和 Windows 上使用同一套設定，或需要特定的 GGUF 量化： llama.cpp。
我們的在 Mac 上執行 LLM 逐步指南涵蓋了以上所有工具。
4一台 Mac 之外的 MLX
MLX 也能透過 Thunderbolt 5 和 RDMA 橫跨多台 Mac 執行（Mac AI 叢集）。它也是 MLX Network 的引擎：MLX Node 以 MLX 框架為網路執行 AI 工作，為通過驗證的工作賺取 MLX 代幣。MLX Network 是獨立專案，並非 Apple 出品；差別在這裡。
5常見問題
- MLX 比 llama.cpp 快嗎？
- 在 Apple 晶片上，MLX 的產生速度往往不相上下或更快，在 M5 晶片上處理提示詞時優勢尤其明顯。結果因模型和量化方式而異，請在你自己的 Mac 上比較。
- Ollama 可以用 MLX 嗎？
- 可以。自 Ollama 0.19 起在 Apple 晶片上以預覽形式提供，適用於支援的模型，且 Mac 記憶體需大於 32 GB。
- MLX 模型和 GGUF 模型有什麼不同？
- 它們是同類模型的不同檔案格式。許多熱門模型兩種格式都有發布；Hugging Face 上的 mlx-community 組織提供了數千個 MLX 轉換版本。