各種精度所需記憶體
| 版本 | 權重 | 含上下文 | 最低配備 Mac |
|---|---|---|---|
| 8 位元 | 42.3 GB | 45.7 GB | 64 GB |
| 6 位元 | 32.3 GB | 34.9 GB | 48 GB |
| 4 位元 | 22.4 GB | 24.2 GB | 36 GB |
| 3 位元 品質較低 | 17.4 GB | 18.9 GB | 32 GB |
| 2 位元 品質較低 | 12.4 GB | 13.9 GB | 24 GB |
在每款 Apple 晶片上
每款晶片能執行 Recursive Flint 的最小記憶體容量、放得下的最佳版本，以及預期的產生速度。
| 晶片 | 需要 | 版本 | token/秒 |
|---|---|---|---|
| M6 | 24 GB | 2 位元 順暢執行 | 96–170 |
| M5 Ultra | 96 GB | 8 位元 順暢執行 | 200–356 |
| M5 Max | 36 GB | 4 位元 順暢執行 | 148–263 |
| M5 Pro | 48 GB | 6 位元 順暢執行 | 69–123 |
| M5 | 24 GB | 2 位元 順暢執行 | 86–153 |
| M4 Max | 36 GB | 4 位元 順暢執行 | 132–234 |
| M4 Pro | 48 GB | 6 位元 順暢執行 | 61–109 |
| M4 | 24 GB | 2 位元 順暢執行 | 68–120 |
| M3 Ultra | 96 GB | 8 位元 順暢執行 | 137–243 |
| M3 Max | 36 GB | 4 位元 順暢執行 | 96–171 |
| M3 Pro | 36 GB | 4 位元 順暢執行 | 48–86 |
| M3 | 24 GB | 2 位元 順暢執行 | 56–100 |
| M2 Ultra | 64 GB | 8 位元 順暢執行 | 133–237 |
| M2 Max | 64 GB | 8 位元 順暢執行 | 67–119 |
| M2 Pro | 32 GB | 3 位元 順暢執行 | 82–145 |
| M2 | 24 GB | 2 位元 順暢執行 | 56–100 |
| M1 Ultra | 64 GB | 8 位元 順暢執行 | 133–237 |
| M1 Max | 64 GB | 8 位元 順暢執行 | 67–119 |
| M1 Pro | 32 GB | 3 位元 順暢執行 | 82–145 |
| M1 | 16 GB | 2 位元 勉強 | 38–68 |
他人實測
其他人在自己的 Mac 上實測並公開發布的 Recursive Flint 生成速度。這些是第三方測量，不是我們測的，也不是上面的估算。
| Mac | 執行環境 | 精度 | 解碼 tok/s | 來源 |
|---|---|---|---|---|
| Mac Studio M3 Ultra | Ollama (MLX engine) | INT4 (QAT) | 107 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-lm (PR #1998) | INT4 (QAT) | 104.5 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 51.3上下文 1K 時 | Prince Canuma @Prince_Canuma |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 33上下文 128K 時 | Prince Canuma @Prince_Canuma |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 115 | Pratik Gandhi @pratikg |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 87上下文 20K 時 | Pratik Gandhi @pratikg |
結果因執行環境和設定而異：版本、精度、上下文長度、提示詞以及是否開啟推理都會改變速度。
如何執行
- 在「終端機」中使用開發者自己的引擎 Rec：
curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch pi需求：M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)版本：Hugging Face 上的 RecursiveSI/flint-int4。其他精度的版本就在旁邊。
逐步教學：在 Mac 上下載並執行 LLM · 如何使用 MLX Harness · MLX、Ollama 與 llama.cpp 比較
關於 Recursive Flint
| 開發者 | Recursive |
|---|---|
| 參數 | 共 39.8B · 啟用 2.5B（混合專家） |
| 上下文 | 256K token |
| 授權條款 | Apache-2.0 |
| 發布時間 | 2026-10 |
| 輸入 | 文字 |
| 權重 | RecursiveSI/flint |
常見問題
- Recursive Flint 需要多少記憶體？
- 在 4 位元 下權重約 22.4 GB，再加上上下文空間，總共 24.2 GB。在 Mac 上，這代表需要 36 GB 以上的統一記憶體，因為 macOS 預設讓 GPU 使用約 75% 的統一記憶體。 Recursive 自己的引擎 Rec 需要配備至少 48 GB 統一記憶體的 M4 Pro、M5 Pro或M5 Max（開發者要求）。
- Recursive Flint 在 Mac 上有多快？
- 產生速度取決於記憶體頻寬。本頁中執行它最快的 Mac 是 96 GB 的 M5 Ultra，每秒約 200–356 個 token（8 位元）。能執行它的最低配備 Mac 是 36 GB 的 M5 Max，每秒約 148–263 個。
- 為什麼 Recursive Flint 執行起來比它的規模看起來更快？
- 它是混合專家模型：記憶體中保存 39.8B 參數，但每個 token 只讀取 2.5B，所以產生速度相當於小得多的模型。
類似模型
用於你的模型卡或 README
顯示能順暢執行 Recursive Flint 的最低配備 Mac，並連結到本頁。
[](https://mlx.app/run/flint)計算方式
記憶體：模型參數以每個權重 8、6、4、3 或 2 位元計算，加上 MLX 的分組縮放（每個權重半個位元），或依其原生格式計算，再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度：記憶體頻寬除以每個 token 讀取的位元組數，就是單一對話的上限；在 llama.cpp 的 Apple Silicon 公開效能測試中，實際執行可達這個上限的約 45% 到 80%，本頁顯示的就是這個範圍。這些是估算值，不是實測值：可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡，晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。
開放資料: mlx.app/data (JSON, CSV)