用 Mac mini 做你的 AI 服务器。

1为什么选 Mac mini

用语言模型生成文字，瓶颈在于从内存读取权重的速度。Mac 的 GPU 直接读取统一内存，所以 64 GB 的 Mac mini 能装下消费级显卡装不下的模型，待机却只要几瓦。它占地小、运行 macOS，MacBook 上的工具在它上面同样能用。

它的局限在于内存和带宽。最大的 Mac mini 为 64 GB、307 GB/s；要以更高精度运行 70B 级模型或最大的开放模型，就该升级到最高 512 GB 的 Mac Studio（Apple）。见本地跑大模型的最佳 Mac。

2哪款 Mac mini 跑哪些模型

带宽决定速度：M5 Pro 读取内存比 24 GB 或 32 GB 的 M6 快约 80%，所以同一个模型在它上面最多能快约 80%。每一行都链接到能在那台 Mac 上流畅运行的全部模型及速度。较早的 M4 和 M4 Pro Mac mini 同理：Mac mini M4 Pro。

智能体和长文档在模型之外还需要上下文内存。如果主要用来跑 AI 智能体，宁可选更大的内存，也不必追求更快的芯片。

3保持唤醒、随时可访问

在 Mac mini 上打开“系统设置 › 能耗”（Apple）：

• 显示器关闭时，防止自动进入睡眠：打开，这样不接显示器时服务器也能继续响应。
• 断电后自动启动：打开，这样它会自己恢复运行。
• 通过网络访问唤醒：如果你允许它睡眠，就打开。
• 低功耗模式：Apple 建议始终开机的电脑（例如服务器）使用它，以降低能耗和风扇噪音。

要在没有显示器的情况下管理它，请在“系统设置 › 通用 › 共享”中打开“远程登录”（SSH）或“屏幕共享”（Apple）。把服务器 App 设为登录时打开，重启后一切都会自动恢复。

4把模型提供给你的其他设备

下面每个工具都能在 Mac mini 上运行模型，并以 OpenAI API 的格式为你的其他 App 提供接口，大多数聊天 App、编程工具和智能体都支持这种格式：

以 mlx-lm 为例：

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama 默认在 5 分钟没有请求后卸载模型；在服务器上可设置 OLLAMA_KEEP_ALIVE 让它常驻内存（Ollama）。在 Mac 上运行大模型的最佳应用详细对比了这些工具。

AI App Store 收录了这些工具以及其他本地运行模型的应用，每一款都附有开发者的官方下载、许可证以及你的数据流向何处。

5在上面运行 AI 智能体

现在很多 Mac mini 都在全天候运行 AI 智能体，通过聊天 App、文件和网页工作。例如 OpenClaw 是一个运行在你自己电脑上的开源助手，模型（包括本地模型）以插件形式接入，可以随时更换（OpenClaw）。把这类智能体指向本地服务器的地址，它就会使用你 Mac mini 上的模型，而不是云端 API。

对智能体来说，有两点比聊天更重要。一是上下文：智能体发送的提示很长，包含工具说明和历史记录，在模型之外还要占内存（原因见此）。二是模型质量：能在你的 Mac mini 上流畅运行的最大模型，比小模型更能可靠地遵循指令和调用工具。

6保护隐私

• 在你修改设置之前，这些服务器只监听本机。只把它们开放给家庭或办公室网络，而且前提是你信任网络中的设备。
• mlx-lm 自己的文档说明，它的服务器只实现了基本的安全检查，不建议用于生产环境（mlx-lm）。
• 不要把端口转发到互联网。要从外部访问 Mac mini，请使用 VPN 等私有网络。
• 能运行命令或发送消息的智能体是以你的账户身份行事的：只给它必需的权限。

7运行成本与闲置时间

家用服务器一天中大部分时间都在等待。MLX Node 可以利用这些时间：它在你设定的限制内（包括一个任务最多可占多少内存）为 MLX Network 运行 AI 任务，使用免费席位每天最多可赚 1 MLX 代币。需要 Mac mini 全速工作时可暂停它，也可以让它只在 Mac 闲置后才启动。收益取决于网络，没有保证：请阅读风险说明。

8常见问题

Mac mini 适合跑 AI 吗？

用于本地运行模型，适合：它的 GPU 直接读取统一内存，所以 64 GB 的 M5 Pro 在 4-bit 下能装下约 85B 参数以内的模型，待机只要几瓦。如果是训练或运行最大的模型，Mac Studio 或 GPU 服务器更合适。

做本地大模型服务器该买哪款 Mac mini？

内存尽量买大：内存决定能装下哪些模型，而且之后无法升级。M5 Pro 读取内存也比 24 GB 或 32 GB 的 M6 快约 80%，所以生成更快。在 Mac mini M5 Pro 和 Mac mini M6 比较每种配置。

Mac mini 能跑 70B 模型吗？

只有 64 GB 的 M5 Pro 可以，需用 4-bit 和较短的上下文：权重约占 GPU 默认可用的 48 GB 中的 39 GB。生成很慢，每秒只有几个 token。见 Mac 上的 Llama 3.3 70B。

怎样在笔记本或手机上使用 Mac mini 上的模型？

启动服务器并让它监听局域网（例如 mlx_lm.server --host 0.0.0.0），然后在另一台设备的 App 中把 http://<mac-mini-name>.local:8080/v1 设为 OpenAI 兼容端点。

Mac mini AI 服务器耗电多少？

M6 Mac mini 待机约 4 W，最高 70 W；M5 Pro 为 6 W 到 145 W。全天满载最多也就 1.68 或 3.48 kWh（Apple）。