用 Mac mini 當你的 AI 伺服器。

1為什麼選 Mac mini

用語言模型產生文字時，速度受限於從記憶體讀取權重的快慢。在 Mac 上，GPU 直接讀取統一記憶體，所以 64 GB 的 Mac mini 能放下消費級顯示卡裝不下的模型，閒置時只耗幾瓦。它不佔空間，又執行 macOS，所以 MacBook 上的工具都能照樣使用。

它的限制在記憶體和頻寬。最大的 Mac mini 有 64 GB、307 GB/s；如果要以較高精度跑 70B 等級的模型，或跑最大的開放模型，下一步是最高 512 GB 的 Mac Studio（Apple）。請見本機跑 LLM 的最佳 Mac。

2哪款 Mac mini 適合哪些模型

頻寬決定速度：M5 Pro 讀取記憶體的速度比 24 或 32 GB 的 M6 快約 80%，所以同一個模型在它上面最多可快約 80%。每一列都連到在該 Mac 上執行順暢的所有模型，並附速度。較早搭載 M4 和 M4 Pro 的 Mac mini 也是同樣的道理：Mac mini M4 Pro。

代理和長文件除了模型之外，還需要上下文記憶體。如果主要用途是 AI 代理，寧可選更大的記憶體，也不要選更快的晶片。

3讓它保持喚醒、隨時連得上

在 Mac mini 上打開「系統設定」›「能源」（Apple）：

• 螢幕關閉時防止自動進入睡眠：開啟，這樣沒接螢幕時伺服器也會持續回應。
• 停電後自動啟動：開啟，讓它自己恢復運作。
• 網路存取時喚醒：如果你讓它睡眠，請開啟。
• 低耗電模式：Apple 建議全天開機的電腦（例如伺服器）使用，以降低耗電和風扇噪音。

要在沒有螢幕的情況下管理它，請在「系統設定」›「一般」›「共享」中開啟「遠端登入」（SSH）或「螢幕共享」（Apple）。把伺服器 App 設為登入時開啟，這樣重新開機後一切都會自動恢復。

4把模型提供給你的其他裝置

以下每個工具都會在 Mac mini 上執行模型，並以 OpenAI API 的格式為你的其他 App 提供 API，大多數聊天 App、程式開發工具和代理都支援：

以 mlx-lm 為例：

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama 預設在 5 分鐘沒有請求後卸載模型；在伺服器上請設定 OLLAMA_KEEP_ALIVE，讓模型留在記憶體中（Ollama）。在 Mac 上跑 LLM 的最佳 App 詳細比較了這些工具。

AI App Store 收錄了這些工具以及其他在本機執行模型的 App，每一款都附有開發者的官方下載、授權條款以及你的資料流向何處。

5在上面執行 AI 代理

現在有很多 Mac mini 全天候執行 AI 代理，透過聊天 App、檔案和網路處理工作。例如 OpenClaw 是在你自己電腦上執行的開源助理，模型（包括本地模型）都是可以替換的外掛（OpenClaw）。把這類代理指向本地伺服器的位址，它就會使用你 Mac mini 上的模型，而不是雲端 API。

對代理來說，有兩件事比聊天更重要。一是上下文：代理會送出包含工具說明和歷史紀錄的長提示詞，除了模型之外還要佔用記憶體（原因）。二是模型品質：在你的 Mac mini 上能順暢執行的最大模型，會比小模型更可靠地遵循指示並呼叫工具。

6保持私密

• 這些伺服器在你更改設定前，只會在 Mac 本機上監聽。只開放給你的家用或辦公室網路，而且只在你信任網路上的裝置時才這麼做。
• mlx-lm 自己的文件說明，它的伺服器只實作了基本的安全檢查，因此不建議用於正式環境（mlx-lm）。
• 不要把連接埠轉送到網際網路。要從外部連到 Mac mini，請使用 VPN 等私人網路。
• 能執行指令或傳送訊息的代理，會以你的帳號行事：只給它需要的權限。

7執行成本與閒置時間

家用伺服器一天大部分時間都在等待。MLX Node 可以利用這些時間：它在你設定的限制內（包括一個工作最多可使用多少記憶體）為 MLX Network 執行 AI 工作，並以免費席位賺取 MLX 代幣，每天最多 1 MLX。需要 Mac mini 全速運作時就暫停它，或設定為只在 Mac 閒置後才開始。收益取決於網路狀況，沒有保證：請閱讀風險揭露。

8常見問題

Mac mini 適合跑 AI 嗎？

在本機執行模型的話，適合：它的 GPU 直接讀取統一記憶體，所以 64 GB 的 M5 Pro 能放下 4-bit 下約 85B 參數以內的模型，閒置時只耗幾瓦。如果要訓練或跑最大的模型，Mac Studio 或 GPU 伺服器更合適。

架設本地 LLM 伺服器該買哪款 Mac mini？

記憶體盡量買大：記憶體決定裝得下哪些模型，而且之後無法升級。M5 Pro 讀取記憶體的速度也比 24 或 32 GB 的 M6 快約 80%，所以產生得更快。在 Mac mini M5 Pro 和 Mac mini M6 比較每一種配置。

Mac mini 能跑 70B 模型嗎？

只有 64 GB 的 M5 Pro 可以，而且要用 4-bit 和較短的上下文：權重約佔 GPU 預設可用的 48 GB 中的 39 GB。產生速度很慢，每秒只有幾個 token。請見 在 Mac 上跑 Llama 3.3 70B。

怎麼從筆電或手機使用 Mac mini 上的模型？

啟動伺服器並讓它在區域網路上監聽（例如 mlx_lm.server --host 0.0.0.0），然後在另一台裝置的 App 中，把 http://<mac-mini-name>.local:8080/v1 設為 OpenAI 相容端點。

Mac mini AI 伺服器耗電多少？

M6 Mac mini 閒置約 4 W，最高 70 W；M5 Pro 為 6 W 到 145 W。全速執行一整天，最多 1.68 或 3.48 kWh（Apple）。