Bộ nhớ ở từng mức chính xác
| Phiên bản | Trọng số | Kèm ngữ cảnh | Mac nhỏ nhất |
|---|---|---|---|
| 4,25-bit gốc | 1,6 TB | 1,7 TB | hơn mọi Mac |
| 3-bit chất lượng thấp hơn | 1,2 TB | 1,3 TB | hơn mọi Mac |
| 2-bit chất lượng thấp hơn | 875 GB | 945 GB | hơn mọi Mac |
Trên mọi chip Apple
Dung lượng bộ nhớ nhỏ nhất của mỗi chip chạy được Kimi K3, phiên bản tốt nhất vừa với nó, và tốc độ viết bạn có thể kỳ vọng.
| Chip | Cần | Phiên bản | Token/giây |
|---|---|---|---|
| M6 | không dung lượng nào vừa | Quá lớn | – |
| M5 Ultra | không dung lượng nào vừa | Quá lớn | – |
| M5 Max | không dung lượng nào vừa | Quá lớn | – |
| M5 Pro | không dung lượng nào vừa | Quá lớn | – |
| M5 | không dung lượng nào vừa | Quá lớn | – |
| M4 Max | không dung lượng nào vừa | Quá lớn | – |
| M4 Pro | không dung lượng nào vừa | Quá lớn | – |
| M4 | không dung lượng nào vừa | Quá lớn | – |
| M3 Ultra | không dung lượng nào vừa | Quá lớn | – |
| M3 Max | không dung lượng nào vừa | Quá lớn | – |
| M3 Pro | không dung lượng nào vừa | Quá lớn | – |
| M3 | không dung lượng nào vừa | Quá lớn | – |
| M2 Ultra | không dung lượng nào vừa | Quá lớn | – |
| M2 Max | không dung lượng nào vừa | Quá lớn | – |
| M2 Pro | không dung lượng nào vừa | Quá lớn | – |
| M2 | không dung lượng nào vừa | Quá lớn | – |
| M1 Ultra | không dung lượng nào vừa | Quá lớn | – |
| M1 Max | không dung lượng nào vừa | Quá lớn | – |
| M1 Pro | không dung lượng nào vừa | Quá lớn | – |
| M1 | không dung lượng nào vừa | Quá lớn | – |
Cách chạy
Không chiếc Mac đơn lẻ nào chứa được. Các mô hình nhỏ hơn bên dưới chạy tốt, và hướng dẫn cụm Mac trình bày cách chia một mô hình cho nhiều máy Mac.
Từng bước: tải và chạy LLM trên Mac · cách dùng MLX Harness · MLX vs Ollama vs llama.cpp
Về Kimi K3
| Nhà phát triển | Moonshot AI |
|---|---|
| Tham số | Tổng 2.800B · 104B hoạt động (mixture-of-experts) |
| Ngữ cảnh | 1M token |
| Giấy phép | Kimi K3 License (custom) |
| Phát hành | 2026-06 |
| Đầu vào | Văn bản và hình ảnh |
| Trí tuệ | 43,6 trên Artificial Analysis Intelligence Index |
| Trọng số | moonshotai/Kimi-K3 |
Câu hỏi
- Kimi K3 cần bao nhiêu bộ nhớ?
- Khoảng 1,6 TB cho trọng số ở mức 4,25-bit gốc, cộng thêm chỗ cho ngữ cảnh: tổng cộng 1,7 TB. Con số này lớn hơn bộ nhớ của mọi chiếc Mac hiện nay.
- Có chiếc Mac nào chạy được Kimi K3 không?
- Một máy thì không: ngay cả ở mức 2 bit, nó vẫn cần nhiều bộ nhớ hơn chiếc Mac lớn nhất. Hãy dùng mô hình nhỏ hơn, hoặc chia nó cho nhiều máy Mac bằng một runtime chạy cụm.
- Vì sao Kimi K3 chạy nhanh hơn kích thước của nó?
- Đây là mô hình mixture-of-experts: nó giữ 2.800B tham số trong bộ nhớ nhưng mỗi token chỉ đọc 104B, nên viết nhanh như một mô hình nhỏ hơn nhiều.
Mô hình tương tự
Cho thẻ mô hình hoặc README của bạn
Hiển thị chiếc Mac nhỏ nhất chạy tốt Kimi K3 và liên kết tới trang này.
[](https://mlx.app/run/kimi-k3)Cách tính
Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.