Mac 能執行 GLM-4.5 Air 嗎?

可以,需要 96 GB 以上的統一記憶體。GLM-4.5 Air 有 106B 參數,每個 token 啟用其中 12B;以下是它在各種精度下所需的記憶體,以及每款 Apple 晶片執行它的速度。

4 位元 所需記憶體64.4 GB權重 59.6 GB + 上下文
最低配備 Mac96 GB4 位元 · 28 種 Mac 配置
最快的 Mac79–141token/秒 · M5 Ultra 96 GB(估算)

各種精度所需記憶體

版本權重含上下文最低配備 Mac
8 位元113 GB122 GB192 GB
6 位元86.1 GB93 GB128 GB
4 位元59.6 GB64.4 GB96 GB
3 位元 品質較低46.4 GB50.1 GB96 GB
2 位元 品質較低33.1 GB35.7 GB48 GB

在每款 Apple 晶片上

每款晶片能執行 GLM-4.5 Air 的最小記憶體容量、放得下的最佳版本,以及預期的產生速度。

晶片需要版本token/秒
M6沒有合適的容量太大–
M5 Ultra96 GB4 位元 順暢執行79–141
M5 Max128 GB6 位元 順暢執行28–50
M5 Pro48 GB2 位元 順暢執行36–65
M5沒有合適的容量太大–
M4 Max128 GB6 位元 順暢執行25–45
M4 Pro48 GB2 位元 順暢執行32–57
M4沒有合適的容量太大–
M3 Ultra96 GB4 位元 順暢執行54–96
M3 Max96 GB4 位元 順暢執行20–35
M3 Pro沒有合適的容量太大–
M3沒有合適的容量太大–
M2 Ultra128 GB6 位元 順暢執行37–65
M2 Max96 GB4 位元 順暢執行26–47
M2 Pro沒有合適的容量太大–
M2沒有合適的容量太大–
M1 Ultra128 GB6 位元 順暢執行37–65
M1 Max64 GB2 位元 順暢執行47–84
M1 Pro沒有合適的容量太大–
M1沒有合適的容量太大–

如何執行

  1. 最簡單的方法:下載免費開源的 MLX Harness。搜尋 GLM-4.5 Air,下載適合你 Mac 的版本,就能開始對話。它也能透過 OpenAI 相容 API,把模型提供給你的其他 App。下載 MLX Harness免費 · Apple Silicon · macOS 14.5 或以上版本
  2. 在「終端機」中使用 Apple 的 MLX:pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.5-Air-4bit版本:Hugging Face 上的 mlx-community/GLM-4.5-Air-4bit。其他精度的版本就在旁邊。

逐步教學:在 Mac 上下載並執行 LLM · 如何使用 MLX Harness · MLX、Ollama 與 llama.cpp 比較

關於 GLM-4.5 Air

開發者Z.ai (Zhipu)
參數共 106B · 啟用 12B(混合專家)
上下文128K token
授權條款MIT
發布時間2025-07
輸入文字
權重zai-org/GLM-4.5-Air

常見問題

GLM-4.5 Air 需要多少記憶體?
在 4 位元 下權重約 59.6 GB,再加上上下文空間,總共 64.4 GB。在 Mac 上,這代表需要 96 GB 以上的統一記憶體,因為 macOS 預設讓 GPU 使用約 75% 的統一記憶體。
GLM-4.5 Air 在 Mac 上有多快?
產生速度取決於記憶體頻寬。本頁中執行它最快的 Mac 是 96 GB 的 M5 Ultra,每秒約 79–141 個 token(4 位元)。能執行它的最低配備 Mac 是 96 GB 的 M5 Ultra,每秒約 79–141 個。
為什麼 GLM-4.5 Air 執行起來比它的規模看起來更快?
它是混合專家模型:記憶體中保存 106B 參數,但每個 token 只讀取 12B,所以產生速度相當於小得多的模型。

類似模型

所有模型 · 所有 Mac · 比較你的 Mac

用於你的模型卡或 README

Runs on a Mac: GLM-4.5 Air 顯示能順暢執行 GLM-4.5 Air 的最低配備 Mac,並連結到本頁。

[![Runs on a Mac](https://mlx.app/badge/run/glm-4.5-air.svg)](https://mlx.app/run/glm-4.5-air)

計算方式

記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。

Mac 能執行 GLM-4.5 Air 嗎?各款 Apple 晶片的記憶體與速度