Mac 能執行 Qwen3.8 2.4T A95B 嗎?

單台 Mac 不行。Qwen3.8 2.4T A95B 有 2,400B 參數,即使是 2 位元,也超過最大 Mac 的記憶體。以下是執行它需要什麼,以及確實能順暢執行的較小模型。

4 位元 所需記憶體1.5 TB權重 1.4 TB + 上下文
最低配備 Mac無即使是 2 位元
最快的 Mac–沒有 Mac 放得下

各種精度所需記憶體

版本權重含上下文最低配備 Mac
8 位元2.6 TB2.8 TB超過任何 Mac
6 位元2 TB2.1 TB超過任何 Mac
4 位元1.4 TB1.5 TB超過任何 Mac
3 位元 品質較低1.1 TB1.1 TB超過任何 Mac
2 位元 品質較低750 GB810 GB超過任何 Mac

在每款 Apple 晶片上

每款晶片能執行 Qwen3.8 2.4T A95B 的最小記憶體容量、放得下的最佳版本,以及預期的產生速度。

晶片需要版本token/秒
M6沒有合適的容量太大–
M5 Ultra沒有合適的容量太大–
M5 Max沒有合適的容量太大–
M5 Pro沒有合適的容量太大–
M5沒有合適的容量太大–
M4 Max沒有合適的容量太大–
M4 Pro沒有合適的容量太大–
M4沒有合適的容量太大–
M3 Ultra沒有合適的容量太大–
M3 Max沒有合適的容量太大–
M3 Pro沒有合適的容量太大–
M3沒有合適的容量太大–
M2 Ultra沒有合適的容量太大–
M2 Max沒有合適的容量太大–
M2 Pro沒有合適的容量太大–
M2沒有合適的容量太大–
M1 Ultra沒有合適的容量太大–
M1 Max沒有合適的容量太大–
M1 Pro沒有合適的容量太大–
M1沒有合適的容量太大–

如何執行

單台 Mac 放不下它。下方的較小模型執行順暢;Mac 叢集指南說明如何把一個模型分散到多台 Mac 上。

逐步教學:在 Mac 上下載並執行 LLM · 如何使用 MLX Harness · MLX、Ollama 與 llama.cpp 比較

關於 Qwen3.8 2.4T A95B

開發者Qwen (Alibaba)
參數共 2,400B · 啟用 95B(混合專家)
上下文256K token
授權條款Qwen3.8-Max license (qwen3.8-max)
發布時間2026-08
輸入文字
智慧Artificial Analysis Intelligence Index 得分 39.9
權重Qwen/Qwen3.8-2.4T-A95B

常見問題

Qwen3.8 2.4T A95B 需要多少記憶體?
在 4 位元 下權重約 1.4 TB,再加上上下文空間,總共 1.5 TB。這超過了目前任何一台 Mac 的記憶體。
有哪台 Mac 能執行 Qwen3.8 2.4T A95B 嗎?
單台不行:即使是 2 位元,它需要的記憶體也超過最大的 Mac。可以改用較小的模型,或用叢集執行環境把它分散到多台 Mac 上。
為什麼 Qwen3.8 2.4T A95B 執行起來比它的規模看起來更快?
它是混合專家模型:記憶體中保存 2,400B 參數,但每個 token 只讀取 95B,所以產生速度相當於小得多的模型。

類似模型

所有模型 · 所有 Mac · 比較你的 Mac

用於你的模型卡或 README

Runs on a Mac: Qwen3.8 2.4T A95B 顯示能順暢執行 Qwen3.8 2.4T A95B 的最低配備 Mac,並連結到本頁。

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.8-2.4t-a95b.svg)](https://mlx.app/run/qwen3.8-2.4t-a95b)

計算方式

記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。

Mac 能執行 Qwen3.8 2.4T A95B 嗎?各款 Apple 晶片的記憶體與速度