M3 có nhanh hơn M2 cho LLM không?

Gần như nhau: băng thông bộ nhớ của hai chip chỉ chênh vài phần trăm. Cả hai đều có tới 24 GB bộ nhớ.

M2 hay M3 chạy được mô hình lớn hơn?

Không chip nào hơn: cả hai đều tới 24 GB. Ở dung lượng đó, M2 chạy tốt 20 và M3 chạy tốt 20 trên 73 mô hình mở; chip nhanh hơn đưa được nhiều mô hình hơn lên mức 10 token mỗi giây.

M2 vs M3 cho LLM: bộ nhớ, tốc độ, nên mua máy nào

Cạnh nhau

	M2	M3
Dung lượng bộ nhớ	8, 16, 24 GB	8, 16, 24 GB
Băng thông bộ nhớ	100 GB/s	100 GB/s
Cho mô hình, tối đa	khoảng 18 GB	khoảng 18 GB
Mô hình chạy tốt	20 trên 73	20 trên 73
Hạng ghế MLX	Core	Core
Có trên	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)

Tốc độ với các mô hình phổ biến

Token mỗi giây cho một cuộc trò chuyện, mỗi chip ở dung lượng bộ nhớ lớn nhất (24 GB và 24 GB), với phiên bản tốt nhất của mô hình vừa với máy.

Mô hình	M2	M3
Llama 3.1 8B Instruct8B	10–18 4-bit	10–18 4-bit
gpt-oss-20b21B · 3,6B hoạt động	24–42 4,25-bit gốc	24–42 4,25-bit gốc
Qwen3.6 35B A3B35B · 3B hoạt động	35–62 3-bit chất lượng thấp hơn	35–62 3-bit chất lượng thấp hơn
Qwen3.8 27B27B	3–5 4-bit	3–5 4-bit
Llama 3.3 70B Instruct70B	quá lớn	quá lớn
gpt-oss-120b117B · 5,1B hoạt động	quá lớn	quá lớn
Qwen3.5 122B A10B122B · 10B hoạt động	quá lớn	quá lớn
DeepSeek V4 Flash 0731284B · 13B hoạt động	quá lớn	quá lớn

Câu hỏi

M3 có nhanh hơn M2 cho LLM không?: Gần như nhau: băng thông bộ nhớ của hai chip chỉ chênh vài phần trăm. Cả hai đều có tới 24 GB bộ nhớ.
M2 hay M3 chạy được mô hình lớn hơn?: Không chip nào hơn: cả hai đều tới 24 GB. Ở dung lượng đó, M2 chạy tốt 20 và M3 chạy tốt 20 trên 73 mô hình mở; chip nhanh hơn đưa được nhiều mô hình hơn lên mức 10 token mỗi giây.

Thêm so sánh

M2 cho AI cục bộ · M3 cho AI cục bộ · So sánh mọi mô hình · Mac tốt nhất cho LLM cục bộ

Cách tính

Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.