Bộ nhớ ở từng mức chính xác
| Phiên bản | Trọng số | Kèm ngữ cảnh | Mac nhỏ nhất |
|---|---|---|---|
| 8-bit | 717 GB | 775 GB | hơn mọi Mac |
| 6-bit | 548 GB | 592 GB | hơn mọi Mac |
| 4-bit | 380 GB | 410 GB | hơn mọi Mac |
| 3-bit chất lượng thấp hơn | 295 GB | 319 GB | 512 GB |
| 2-bit chất lượng thấp hơn | 211 GB | 228 GB | 512 GB |
Trên mọi chip Apple
Dung lượng bộ nhớ nhỏ nhất của mỗi chip chạy được Mistral Large 3 (675B), phiên bản tốt nhất vừa với nó, và tốc độ viết bạn có thể kỳ vọng.
| Chip | Cần | Phiên bản | Token/giây |
|---|---|---|---|
| M6 | không dung lượng nào vừa | Quá lớn | – |
| M5 Ultra | 512 GB | 3-bit Chạy tốt | 30–54 |
| M5 Max | không dung lượng nào vừa | Quá lớn | – |
| M5 Pro | không dung lượng nào vừa | Quá lớn | – |
| M5 | không dung lượng nào vừa | Quá lớn | – |
| M4 Max | không dung lượng nào vừa | Quá lớn | – |
| M4 Pro | không dung lượng nào vừa | Quá lớn | – |
| M4 | không dung lượng nào vừa | Quá lớn | – |
| M3 Ultra | 512 GB | 3-bit Chạy tốt | 21–37 |
| M3 Max | không dung lượng nào vừa | Quá lớn | – |
| M3 Pro | không dung lượng nào vừa | Quá lớn | – |
| M3 | không dung lượng nào vừa | Quá lớn | – |
| M2 Ultra | không dung lượng nào vừa | Quá lớn | – |
| M2 Max | không dung lượng nào vừa | Quá lớn | – |
| M2 Pro | không dung lượng nào vừa | Quá lớn | – |
| M2 | không dung lượng nào vừa | Quá lớn | – |
| M1 Ultra | không dung lượng nào vừa | Quá lớn | – |
| M1 Max | không dung lượng nào vừa | Quá lớn | – |
| M1 Pro | không dung lượng nào vừa | Quá lớn | – |
| M1 | không dung lượng nào vừa | Quá lớn | – |
Cách chạy
- Cách dễ nhất: tải MLX Harness, miễn phí và mã nguồn mở. Tìm Mistral Large 3 (675B), tải phiên bản vừa với Mac của bạn và bắt đầu trò chuyện. Ứng dụng cũng cung cấp mô hình cho các ứng dụng khác qua API tương thích OpenAI.Tải MLX HarnessMiễn phí · Apple Silicon · macOS 14.5 trở lên
- Trong Terminal với MLX của Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bitBản dựng: mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bit trên Hugging Face. Các mức chính xác khác nằm ngay cạnh.
Từng bước: tải và chạy LLM trên Mac · cách dùng MLX Harness · MLX vs Ollama vs llama.cpp
Về Mistral Large 3 (675B)
| Nhà phát triển | Mistral AI |
|---|---|
| Tham số | Tổng 675B · 41B hoạt động (mixture-of-experts) |
| Ngữ cảnh | 256K token |
| Giấy phép | Apache-2.0 |
| Phát hành | 2025-11 |
| Đầu vào | Văn bản và hình ảnh |
| Trọng số | mistralai/Mistral-Large-3-675B-Instruct-2512 |
Câu hỏi
- Mistral Large 3 (675B) cần bao nhiêu bộ nhớ?
- Khoảng 380 GB cho trọng số ở mức 4-bit, cộng thêm chỗ cho ngữ cảnh: tổng cộng 410 GB. Con số này lớn hơn bộ nhớ của mọi chiếc Mac hiện nay.
- Mistral Large 3 (675B) chạy nhanh đến đâu trên Mac?
- Tốc độ viết phụ thuộc vào băng thông bộ nhớ. Mac nhanh nhất cho mô hình này ở đây là M5 Ultra với 512 GB, khoảng 30–54 token mỗi giây (3-bit). Mac nhỏ nhất chạy được nó, M5 Ultra với 512 GB, đạt khoảng 30–54.
- Vì sao Mistral Large 3 (675B) chạy nhanh hơn kích thước của nó?
- Đây là mô hình mixture-of-experts: nó giữ 675B tham số trong bộ nhớ nhưng mỗi token chỉ đọc 41B, nên viết nhanh như một mô hình nhỏ hơn nhiều.
Mô hình tương tự
Cho thẻ mô hình hoặc README của bạn
Hiển thị chiếc Mac nhỏ nhất chạy tốt Mistral Large 3 (675B) và liên kết tới trang này.
[](https://mlx.app/run/mistral-large-3)Cách tính
Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.