Theo dung lượng bộ nhớ
| Bộ nhớ | Chạy tốt | Lớn nhất mà chạy tốt | gpt-oss-20b |
|---|---|---|---|
| 36 GB410 GB/s | 38 | Qwen3.6 35B A3B | 97–173 tok/s |
| 48 GB546 GB/s | 38 | Qwen3.6 35B A3B | 129–230 tok/s |
| 64 GB546 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 129–230 tok/s |
| 128 GB546 GB/s | 47 | Qwen3.5 122B A10B | 129–230 tok/s |
Các mẫu máy: MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024). Không phải mẫu máy nào cũng có mọi dung lượng bộ nhớ; Thông số kỹ thuật của Apple liệt kê cấu hình của từng mẫu.
Câu hỏi
- MacBook Pro chip M4 Max có tốt cho LLM cục bộ không?
- Với 128 GB, máy chạy tốt 47 trên 73 mô hình mở, lớn nhất là Qwen3.5 122B A10B, và viết khoảng 129–230 token mỗi giây với gpt-oss-20b. M4 Max đọc bộ nhớ ở 546 GB/s, yếu tố quyết định tốc độ viết.
- MacBook Pro chip M4 Max nên có bao nhiêu bộ nhớ để chạy AI?
- Với 36 GB, máy chạy tốt 38 mô hình mở; với 128 GB là 47, lớn nhất là Qwen3.5 122B A10B. Bộ nhớ quyết định mô hình nào vừa và không thể nâng cấp sau này.
Các Mac khác
MacBook Pro với các chip khác:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Các Mac khác dùng chip M4 Max:
Đối đầu:
- M1 Max vs M4 Max
- M2 Max vs M4 Max
- M2 Ultra vs M4 Max
- M3 Max vs M4 Max
- M3 Ultra vs M4 Max
- M4 Pro vs M4 Max
- M4 Max vs M5 Max
- M4 Max vs M5 Ultra
So với PC và card đồ họa:
M4 Max cho AI cục bộ · Mac tốt nhất cho LLM cục bộ · Mọi Mac
Cách tính
Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.