Mac 能运行 Qwen3.8 2.4T A95B 吗?

单台 Mac 不行。Qwen3.8 2.4T A95B 有 2,400B 参数,即使是 2 位,也超过最大 Mac 的内存。下面是运行它需要什么,以及确实能流畅运行的较小模型。

4 位 所需内存1.5 TB权重 1.4 TB + 上下文
最低配置 Mac无即使是 2 位
最快的 Mac–没有 Mac 装得下

各种精度所需内存

版本权重含上下文最低配置 Mac
8 位2.6 TB2.8 TB超过任何 Mac
6 位2 TB2.1 TB超过任何 Mac
4 位1.4 TB1.5 TB超过任何 Mac
3 位 质量较低1.1 TB1.1 TB超过任何 Mac
2 位 质量较低750 GB810 GB超过任何 Mac

在每款 Apple 芯片上

每款芯片能运行 Qwen3.8 2.4T A95B 的最小内存容量、装得下的最佳版本,以及预计的生成速度。

芯片需要版本token/秒
M6没有合适的容量太大–
M5 Ultra没有合适的容量太大–
M5 Max没有合适的容量太大–
M5 Pro没有合适的容量太大–
M5没有合适的容量太大–
M4 Max没有合适的容量太大–
M4 Pro没有合适的容量太大–
M4没有合适的容量太大–
M3 Ultra没有合适的容量太大–
M3 Max没有合适的容量太大–
M3 Pro没有合适的容量太大–
M3没有合适的容量太大–
M2 Ultra没有合适的容量太大–
M2 Max没有合适的容量太大–
M2 Pro没有合适的容量太大–
M2没有合适的容量太大–
M1 Ultra没有合适的容量太大–
M1 Max没有合适的容量太大–
M1 Pro没有合适的容量太大–
M1没有合适的容量太大–

如何运行

单台 Mac 装不下它。下面的较小模型运行流畅;Mac 集群指南介绍了如何把一个模型分布到多台 Mac 上。

分步指南:在 Mac 上下载并运行 LLM · 如何使用 MLX Harness · MLX、Ollama 与 llama.cpp 对比

关于 Qwen3.8 2.4T A95B

开发者Qwen (Alibaba)
参数共 2,400B · 激活 95B(混合专家)
上下文256K token
许可证Qwen3.8-Max license (qwen3.8-max)
发布时间2026-08
输入文本
智能Artificial Analysis Intelligence Index 得分 39.9
权重Qwen/Qwen3.8-2.4T-A95B

常见问题

Qwen3.8 2.4T A95B 需要多少内存?
在 4 位 下权重约 1.4 TB,再加上上下文空间,总共 1.5 TB。这超过了目前任何一台 Mac 的内存。
有哪台 Mac 能运行 Qwen3.8 2.4T A95B 吗?
单台不行:即使是 2 位,它需要的内存也超过最大的 Mac。可以换用较小的模型,或用集群运行时把它分布到多台 Mac 上。
为什么 Qwen3.8 2.4T A95B 运行起来比它的规模显示的更快?
它是混合专家模型:内存中保存 2,400B 参数,但每个 token 只读取 95B,所以生成速度相当于小得多的模型。

类似模型

所有模型 · 所有 Mac · 对比你的 Mac

用于你的模型卡或 README

Runs on a Mac: Qwen3.8 2.4T A95B 显示能流畅运行 Qwen3.8 2.4T A95B 的最低配置 Mac,并链接到本页。

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.8-2.4t-a95b.svg)](https://mlx.app/run/qwen3.8-2.4t-a95b)

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

Mac 能运行 Qwen3.8 2.4T A95B 吗?各款 Apple 芯片的内存与速度