登录创建钱包

Mac 能运行 Qwen3 Coder 30B A3B Instruct 吗？

可以，需要 32 GB 或以上的统一内存。Qwen3 Coder 30B A3B Instruct 有 30.5B 参数，每个 token 激活其中 3.3B；下面是它在各种精度下所需的内存，以及每款 Apple 芯片运行它的速度。

4 位 所需内存18.7 GB权重 17.2 GB + 上下文
最低配置 Mac32 GB4 位 · 55 种 Mac 配置
最快的 Mac154–274token/秒 · M5 Ultra 96 GB（估算）

各种精度所需内存

版本权重含上下文最低配置 Mac
8 位32.4 GB35 GB48 GB
6 位24.8 GB26.8 GB36 GB
4 位17.2 GB18.7 GB32 GB
3 位 质量较低13.3 GB14.8 GB24 GB
2 位 质量较低9.5 GB11 GB16 GB

在每款 Apple 芯片上

每款芯片能运行 Qwen3 Coder 30B A3B Instruct 的最小内存容量、装得下的最佳版本，以及预计的生成速度。

芯片需要版本token/秒
M632 GB4 位 流畅运行40–72
M5 Ultra96 GB8 位 流畅运行154–274
M5 Max36 GB6 位 流畅运行77–136
M5 Pro48 GB8 位 流畅运行39–70
M532 GB4 位 流畅运行36–64
M4 Max36 GB6 位 流畅运行68–121
M4 Pro48 GB8 位 流畅运行35–62
M432 GB4 位 流畅运行28–51
M3 Ultra96 GB8 位 流畅运行105–187
M3 Max36 GB6 位 流畅运行50–89
M3 Pro36 GB6 位 流畅运行25–44
M316 GB2 位 流畅运行45–80
M2 Ultra64 GB8 位 流畅运行103–183
M2 Max32 GB4 位 流畅运行95–168
M2 Pro32 GB4 位 流畅运行47–84
M216 GB2 位 流畅运行45–80
M1 Ultra64 GB8 位 流畅运行103–183
M1 Max32 GB4 位 流畅运行95–168
M1 Pro32 GB4 位 流畅运行47–84
M116 GB2 位 流畅运行31–54

如何运行

  1. 最简单的方法：下载免费开源的 MLX Harness。搜索 Qwen3 Coder 30B A3B Instruct，下载适合你 Mac 的版本，即可开始对话。它还能通过 OpenAI 兼容 API 把模型提供给你的其他 App。下载 MLX Harness免费 · Apple Silicon · macOS 14.5 或更高版本
  2. 在终端中使用 Apple 的 MLX：pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit版本：Hugging Face 上的 mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit。其他精度的版本就在旁边。

分步指南：在 Mac 上下载并运行 LLM · 如何使用 MLX Harness · MLX、Ollama 与 llama.cpp 对比

关于 Qwen3 Coder 30B A3B Instruct

开发者Qwen (Alibaba)
参数共 30.5B · 激活 3.3B（混合专家）
上下文256K token
许可证Apache-2.0
发布时间2025-07
输入文本
权重Qwen/Qwen3-Coder-30B-A3B-Instruct

常见问题

Qwen3 Coder 30B A3B Instruct 需要多少内存？
在 4 位 下权重约 17.2 GB，再加上上下文空间，总共 18.7 GB。在 Mac 上，这意味着需要 32 GB 或以上的统一内存，因为 macOS 默认允许 GPU 使用约 75% 的统一内存。
Qwen3 Coder 30B A3B Instruct 在 Mac 上有多快？
生成速度取决于内存带宽。本页中运行它最快的 Mac 是 96 GB 的 M5 Ultra，每秒约 154–274 个 token（8 位）。能运行它的最低配置 Mac 是 32 GB 的 M2 Max，每秒约 95–168 个。
为什么 Qwen3 Coder 30B A3B Instruct 运行起来比它的规模显示的更快？
它是混合专家模型：内存中保存 30.5B 参数，但每个 token 只读取 3.3B，所以生成速度相当于小得多的模型。

类似模型

所有模型 · 所有 Mac · 对比你的 Mac

用于你的模型卡或 README

Runs on a Mac: Qwen3 Coder 30B A3B Instruct 显示能流畅运行 Qwen3 Coder 30B A3B Instruct 的最低配置 Mac，并链接到本页。

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-coder-30b-a3b.svg)](https://mlx.app/run/qwen3-coder-30b-a3b)

计算方法

内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

Mac 能运行 Qwen3 Coder 30B A3B Instruct 吗？各款 Apple 芯片的内存与速度