各種精度所需記憶體
| 版本 | 權重 | 含上下文 | 最低配備 Mac |
|---|---|---|---|
| 原生 4.25 位元 | 1.6 TB | 1.7 TB | 超過任何 Mac |
| 3 位元 品質較低 | 1.2 TB | 1.3 TB | 超過任何 Mac |
| 2 位元 品質較低 | 875 GB | 945 GB | 超過任何 Mac |
在每款 Apple 晶片上
每款晶片能執行 Kimi K3 的最小記憶體容量、放得下的最佳版本,以及預期的產生速度。
| 晶片 | 需要 | 版本 | token/秒 |
|---|---|---|---|
| M6 | 沒有合適的容量 | 太大 | – |
| M5 Ultra | 沒有合適的容量 | 太大 | – |
| M5 Max | 沒有合適的容量 | 太大 | – |
| M5 Pro | 沒有合適的容量 | 太大 | – |
| M5 | 沒有合適的容量 | 太大 | – |
| M4 Max | 沒有合適的容量 | 太大 | – |
| M4 Pro | 沒有合適的容量 | 太大 | – |
| M4 | 沒有合適的容量 | 太大 | – |
| M3 Ultra | 沒有合適的容量 | 太大 | – |
| M3 Max | 沒有合適的容量 | 太大 | – |
| M3 Pro | 沒有合適的容量 | 太大 | – |
| M3 | 沒有合適的容量 | 太大 | – |
| M2 Ultra | 沒有合適的容量 | 太大 | – |
| M2 Max | 沒有合適的容量 | 太大 | – |
| M2 Pro | 沒有合適的容量 | 太大 | – |
| M2 | 沒有合適的容量 | 太大 | – |
| M1 Ultra | 沒有合適的容量 | 太大 | – |
| M1 Max | 沒有合適的容量 | 太大 | – |
| M1 Pro | 沒有合適的容量 | 太大 | – |
| M1 | 沒有合適的容量 | 太大 | – |
如何執行
單台 Mac 放不下它。下方的較小模型執行順暢;Mac 叢集指南說明如何把一個模型分散到多台 Mac 上。
逐步教學:在 Mac 上下載並執行 LLM · 如何使用 MLX Harness · MLX、Ollama 與 llama.cpp 比較
關於 Kimi K3
| 開發者 | Moonshot AI |
|---|---|
| 參數 | 共 2,800B · 啟用 104B(混合專家) |
| 上下文 | 1M token |
| 授權條款 | Kimi K3 License (custom) |
| 發布時間 | 2026-06 |
| 輸入 | 文字和影像 |
| 智慧 | Artificial Analysis Intelligence Index 得分 43.6 |
| 權重 | moonshotai/Kimi-K3 |
常見問題
- Kimi K3 需要多少記憶體?
- 在 原生 4.25 位元 下權重約 1.6 TB,再加上上下文空間,總共 1.7 TB。這超過了目前任何一台 Mac 的記憶體。
- 有哪台 Mac 能執行 Kimi K3 嗎?
- 單台不行:即使是 2 位元,它需要的記憶體也超過最大的 Mac。可以改用較小的模型,或用叢集執行環境把它分散到多台 Mac 上。
- 為什麼 Kimi K3 執行起來比它的規模看起來更快?
- 它是混合專家模型:記憶體中保存 2,800B 參數,但每個 token 只讀取 104B,所以產生速度相當於小得多的模型。
類似模型
用於你的模型卡或 README
顯示能順暢執行 Kimi K3 的最低配備 Mac,並連結到本頁。
[](https://mlx.app/run/kimi-k3)計算方式
記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。