Recursive Flint cần bao nhiêu bộ nhớ?

Khoảng 22,4 GB cho trọng số ở mức 4-bit, cộng thêm chỗ cho ngữ cảnh: tổng cộng 24,2 GB. Trên Mac, điều đó có nghĩa là cần từ 36 GB bộ nhớ hợp nhất trở lên, vì mặc định macOS cho GPU dùng khoảng 75% bộ nhớ. Công cụ riêng của Recursive, Rec, cần M4 Pro, M5 Pro hoặc M5 Max với ít nhất 48 GB bộ nhớ hợp nhất (yêu cầu của nhà phát triển).

Recursive Flint chạy nhanh đến đâu trên Mac?

Tốc độ viết phụ thuộc vào băng thông bộ nhớ. Mac nhanh nhất cho mô hình này ở đây là M5 Ultra với 96 GB, khoảng 200–356 token mỗi giây (8-bit). Mac nhỏ nhất chạy được nó, M5 Max với 36 GB, đạt khoảng 148–263.

Vì sao Recursive Flint chạy nhanh hơn kích thước của nó?

Đây là mô hình mixture-of-experts: nó giữ 39,8B tham số trong bộ nhớ nhưng mỗi token chỉ đọc 2,5B, nên viết nhanh như một mô hình nhỏ hơn nhiều.

Mac chạy được Recursive Flint không? Bộ nhớ, tốc độ

Bộ nhớ ở từng mức chính xác

Phiên bản	Trọng số	Kèm ngữ cảnh	Mac nhỏ nhất
8-bit	42,3 GB	45,7 GB	64 GB
6-bit	32,3 GB	34,9 GB	48 GB
4-bit	22,4 GB	24,2 GB	36 GB
3-bit chất lượng thấp hơn	17,4 GB	18,9 GB	32 GB
2-bit chất lượng thấp hơn	12,4 GB	13,9 GB	24 GB

Trên mọi chip Apple

Dung lượng bộ nhớ nhỏ nhất của mỗi chip chạy được Recursive Flint, phiên bản tốt nhất vừa với nó, và tốc độ viết bạn có thể kỳ vọng.

Chip	Cần	Phiên bản	Token/giây
M6	24 GB	2-bit Chạy tốt	96–170
M5 Ultra	96 GB	8-bit Chạy tốt	200–356
M5 Max	36 GB	4-bit Chạy tốt	148–263
M5 Pro	48 GB	6-bit Chạy tốt	69–123
M5	24 GB	2-bit Chạy tốt	86–153
M4 Max	36 GB	4-bit Chạy tốt	132–234
M4 Pro	48 GB	6-bit Chạy tốt	61–109
M4	24 GB	2-bit Chạy tốt	68–120
M3 Ultra	96 GB	8-bit Chạy tốt	137–243
M3 Max	36 GB	4-bit Chạy tốt	96–171
M3 Pro	36 GB	4-bit Chạy tốt	48–86
M3	24 GB	2-bit Chạy tốt	56–100
M2 Ultra	64 GB	8-bit Chạy tốt	133–237
M2 Max	64 GB	8-bit Chạy tốt	67–119
M2 Pro	32 GB	3-bit Chạy tốt	82–145
M2	24 GB	2-bit Chạy tốt	56–100
M1 Ultra	64 GB	8-bit Chạy tốt	133–237
M1 Max	64 GB	8-bit Chạy tốt	67–119
M1 Pro	32 GB	3-bit Chạy tốt	82–145
M1	16 GB	2-bit Vừa khít	38–68

Do người khác đo

Tốc độ sinh văn bản của Recursive Flint do người khác đo trên chính máy Mac của họ và đăng công khai. Đây là số đo của bên thứ ba, không phải của chúng tôi, và không phải các ước tính ở trên.

Mac	Runtime	Độ chính xác	Giải mã tok/s	Nguồn
Mac Studio M3 Ultra	Ollama (MLX engine)	INT4 (QAT)	107	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-lm (PR #1998)	INT4 (QAT)	104,5	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-vlm	BF16	51,3ở ngữ cảnh 1K	Prince Canuma @Prince_Canuma
Mac Studio M3 Ultra	mlx-vlm	BF16	33ở ngữ cảnh 128K	Prince Canuma @Prince_Canuma
Mac mini M5 Pro 64 GB	Ollama	4-bit	115	Pratik Gandhi @pratikg
Mac mini M5 Pro 64 GB	Ollama	4-bit	87ở ngữ cảnh 20K	Pratik Gandhi @pratikg

Kết quả thay đổi theo runtime và cài đặt: phiên bản, độ chính xác, độ dài ngữ cảnh, prompt và việc bật hay tắt suy luận đều làm tốc độ thay đổi.

Cách chạy

Trong Terminal với Rec, công cụ riêng của nhà phát triển:curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piYêu cầu: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Bản dựng: RecursiveSI/flint-int4 trên Hugging Face. Các mức chính xác khác nằm ngay cạnh.

Từng bước: tải và chạy LLM trên Mac · cách dùng MLX Harness · MLX vs Ollama vs llama.cpp

Về Recursive Flint

Nhà phát triển	Recursive
Tham số	Tổng 39,8B · 2,5B hoạt động (mixture-of-experts)
Ngữ cảnh	256K token
Giấy phép	Apache-2.0
Phát hành	2026-10
Đầu vào	Văn bản
Trọng số	RecursiveSI/flint

Câu hỏi

Recursive Flint cần bao nhiêu bộ nhớ?: Khoảng 22,4 GB cho trọng số ở mức 4-bit, cộng thêm chỗ cho ngữ cảnh: tổng cộng 24,2 GB. Trên Mac, điều đó có nghĩa là cần từ 36 GB bộ nhớ hợp nhất trở lên, vì mặc định macOS cho GPU dùng khoảng 75% bộ nhớ. Công cụ riêng của Recursive, Rec, cần M4 Pro, M5 Pro hoặc M5 Max với ít nhất 48 GB bộ nhớ hợp nhất (yêu cầu của nhà phát triển).
Recursive Flint chạy nhanh đến đâu trên Mac?: Tốc độ viết phụ thuộc vào băng thông bộ nhớ. Mac nhanh nhất cho mô hình này ở đây là M5 Ultra với 96 GB, khoảng 200–356 token mỗi giây (8-bit). Mac nhỏ nhất chạy được nó, M5 Max với 36 GB, đạt khoảng 148–263.
Vì sao Recursive Flint chạy nhanh hơn kích thước của nó?: Đây là mô hình mixture-of-experts: nó giữ 39,8B tham số trong bộ nhớ nhưng mỗi token chỉ đọc 2,5B, nên viết nhanh như một mô hình nhỏ hơn nhiều.

Mô hình tương tự

Mọi mô hình · Mọi Mac · So sánh Mac của bạn

Cho thẻ mô hình hoặc README của bạn

Hiển thị chiếc Mac nhỏ nhất chạy tốt Recursive Flint và liên kết tới trang này.

[![Runs on a Mac](https://mlx.app/badge/run/flint.svg)](https://mlx.app/run/flint)

Cách tính

Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.

Dữ liệu mở: mlx.app/data (JSON, CSV)