Cạnh nhau
| M2 | M4 | |
|---|---|---|
| Dung lượng bộ nhớ | 8, 16, 24 GB | 16, 24, 32 GB |
| Băng thông bộ nhớ | 100 GB/s | 120 GB/s |
| Cho mô hình, tối đa | khoảng 18 GB | khoảng 24 GB |
| Mô hình chạy tốt | 20 trên 73 | 27 trên 73 |
| Hạng ghế MLX | Core | Core |
| Có trên | MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023) | MacBook Pro (14-inch, M4, 2024), iMac (24-inch, 2024, Two ports), iMac (24-inch, 2024, Four ports), Mac mini (2024), MacBook Air (13-inch, M4, 2025), MacBook Air (15-inch, M4, 2025) |
Tốc độ với các mô hình phổ biến
Token mỗi giây cho một cuộc trò chuyện, mỗi chip ở dung lượng bộ nhớ lớn nhất (24 GB và 32 GB), với phiên bản tốt nhất của mô hình vừa với máy.
| Mô hình | M2 | M4 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 10–18 4-bit | 12–21 4-bit |
| gpt-oss-20b21B · 3,6B hoạt động | 24–42 4,25-bit gốc | 28–51 4,25-bit gốc |
| Qwen3.6 35B A3B35B · 3B hoạt động | 35–62 3-bit chất lượng thấp hơn | 32–56 4-bit |
| Qwen3.8 27B27B | 3–5 4-bit | 2–4 6-bit |
| Llama 3.3 70B Instruct70B | quá lớn | 2–4 2-bit chất lượng thấp hơn |
| gpt-oss-120b117B · 5,1B hoạt động | quá lớn | quá lớn |
| Qwen3.5 122B A10B122B · 10B hoạt động | quá lớn | quá lớn |
| DeepSeek V4 Flash 0731284B · 13B hoạt động | quá lớn | quá lớn |
Câu hỏi
- M4 có nhanh hơn M2 cho LLM không?
- M4 đọc bộ nhớ nhanh hơn M2 khoảng 20% (120 so với 100 GB/s), nên viết nhanh hơn khoảng 20% với mọi mô hình vừa cả hai. Việc đọc một prompt dài lại phụ thuộc vào sức tính toán của GPU, điều mà phép so sánh này không đề cập.
- M2 hay M4 chạy được mô hình lớn hơn?
- M4: M4 có tới 32 GB bộ nhớ, M2 tới 24 GB. Ở cấu hình lớn nhất, nó chạy tốt 27 trên 73 mô hình mở, so với 20.
Thêm so sánh
M2 cho AI cục bộ · M4 cho AI cục bộ · So sánh mọi mô hình · Mac tốt nhất cho LLM cục bộ
Cách tính
Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.