在 Mac 上執行 LLM 的最佳 App。

1一覽

2逐一簡介

MLX Harness

一款免費、開源的 Mac App，可用來聊天、使用內建工具的程式設計代理、生成影像，並提供支援 OpenAI、Anthropic 和 Ollama 格式的本機 API。它用 Apple 的 MLX 執行模型，從 Hugging Face 下載模型；它不執行 GGUF 檔案。它需要搭載 Apple 晶片、執行 macOS 14.5 或以上版本的 Mac。它是我們的產品，以 JANGQ AI 的 vMLX 為基礎打造，並內建 MLX Node，可以在你離開時讓這台 Mac 為 MLX Network 工作（來源）。教學：如何使用 MLX Harness。

LM Studio

一款精緻的 App，可同時執行 MLX 和 GGUF 模型，並提供以 Hugging Face 為基礎的模型搜尋（LM Studio）。自 2025 年 7 月起，它在家和工作上都可免費使用（LM Studio）。它的命令列工具、SDK 和 MLX 引擎採用 MIT 授權；桌面 App 的原始碼沒有公開（GitHub）。它需要搭載 Apple 晶片、執行 macOS 14 或以上版本的 Mac，建議配備 16 GB 記憶體（系統需求）。它的本機伺服器支援 OpenAI 格式，並從 0.4.1 版起支援 Anthropic 格式（更新紀錄）。

Ollama

一個指令就能執行模型，有自己的模型庫，並從 2025 年 7 月起在 Mac 上提供聊天 App（Ollama）。它採用 MIT 授權，透過 llama.cpp 執行 GGUF 模型（GitHub）。從 2026 年 3 月起，它在 Apple 晶片上有預覽版的 MLX 引擎，適用於記憶體超過 32 GB 的 Mac，支援的模型也在持續增加（Ollama）。它需要 macOS 14 或以上版本（文件），它在 11434 連接埠上的 API 正是許多其他 App 所預期的介面。

Jan

一款開源（Apache 2.0）聊天 App，支援 Mac、Windows 和 Linux，內建 llama.cpp 引擎，從 2026 年 2 月起原生支援 MLX，並提供 MCP 工具和相容 OpenAI 的伺服器（GitHub、更新紀錄）。如果你想用一個 App 同時搞定本機和雲端，它也能連接雲端模型。

llama.cpp

許多本機 AI 背後的引擎：採用 MIT 授權的 C/C++ 程式碼，透過 Metal 把 Apple 晶片當作「一等公民」（GitHub）。用 brew install llama.cpp 安裝；llama-server 提供網頁聊天介面，以及相容 OpenAI 和 Anthropic 的 API（伺服器文件）。它執行 GGUF 檔案，這是發布最廣泛的格式。

mlx-lm

Apple 自家為語言模型打造的 MLX 工具，採用 MIT 授權：在命令列中生成文字、聊天、轉換和量化模型，並用 LoRA 微調模型（GitHub）。mlx_lm.server 提供一個基本的 OpenAI 風格端點，其作者不建議用於正式環境（伺服器文件）。Hugging Face 上的 mlx-community 組織裡有數千個已轉換的模型。

3該選哪一個

• 想要一款開源、專為 Apple 晶片打造的 App：MLX Harness。
• 想在一款精緻的 App 裡同時使用 MLX 和 GGUF 模型，且不介意閉源：LM Studio。
• 其他 App 或程式設計代理需要 Ollama API：Ollama（MLX Harness 也提供 Ollama 風格的端點）。
• 想在 Mac、Windows 和 Linux 上用同一個聊天 App，本機和雲端兼顧：Jan。
• 你寫腳本、架設伺服器，或需要特定的 GGUF 量化版本：llama.cpp。
• 你要微調、轉換模型，或想用 Apple 的參考實作：mlx-lm。

很多人會同時用兩個：一個 App 用於日常聊天，一個命令列工具用於腳本。它們可以裝在同一台 Mac 上，但各自保存一份模型檔案。

4先看看你的 Mac 裝得下什麼

換哪個 App，這筆帳都不會變：模型及其上下文必須裝進 macOS 允許 GPU 使用的那部分統一記憶體，預設約為 75%；而記憶體頻寬決定它生成文字的速度。同一個模型在相同精度下，MLX 檔案和 GGUF 檔案的大小大致相同。

查看你的 Mac 裝得下的所有模型、各記憶體容量的最佳模型，或者從某個模型出發，看看它需要哪款 Mac。

5當 Mac 閒置時

能順暢執行本機 AI 的 Mac，也很適合為別人執行 AI。MLX Node 會在你不用 Mac 時，在你設定的上限內為 MLX Network 執行 AI 工作，並為經過驗證的工作賺取 MLX 代幣。MLX Harness 內建了它。MLX 代幣可能貶值；請閱讀風險揭露。

6常見問題

LM Studio 在工作上使用免費嗎？

免費。自 2025 年 7 月起，LM Studio 在家和工作上都可免費使用；付費方案是給團隊和企業的（LM Studio）。

Ollama 在 Mac 上會使用 MLX 嗎？

自 2026 年 3 月起以預覽版提供，適用於記憶體超過 32 GB 的 Apple 晶片 Mac，僅限支援的模型。其他情況下，它透過 llama.cpp 執行 GGUF 模型（Ollama）。

哪個 App 能同時執行 MLX 和 GGUF 模型？

LM Studio 和 Jan 兩種都能執行；Ollama 執行 GGUF，並以預覽版執行 MLX。MLX Harness 和 mlx-lm 只執行 MLX；llama.cpp 只執行 GGUF。

哪些本機 LLM App 是開源的？

MLX Harness（Apache 2.0）、Ollama（MIT）、Jan（Apache 2.0）、llama.cpp（MIT）和 mlx-lm（MIT）。LM Studio 以 MIT 授權公開了命令列工具、SDK 和 MLX 引擎，但沒有公開桌面 App。