M4 Pro có nhanh hơn M3 Pro cho LLM không?

M4 Pro đọc bộ nhớ nhanh hơn M3 Pro khoảng 82% (273 so với 150 GB/s), nên viết nhanh hơn khoảng 82% với mọi mô hình vừa cả hai. Việc đọc một prompt dài lại phụ thuộc vào sức tính toán của GPU, điều mà phép so sánh này không đề cập.

M3 Pro hay M4 Pro chạy được mô hình lớn hơn?

M4 Pro: M4 Pro có tới 64 GB bộ nhớ, M3 Pro tới 36 GB. Ở cấu hình lớn nhất, nó chạy tốt 31 trên 73 mô hình mở, so với 28.

M3 Pro vs M4 Pro cho LLM: bộ nhớ, tốc độ, nên mua máy nào

Cạnh nhau

	M3 Pro	M4 Pro
Dung lượng bộ nhớ	18, 36 GB	24, 48, 64 GB
Băng thông bộ nhớ	150 GB/s	273 GB/s
Cho mô hình, tối đa	khoảng 27 GB	khoảng 48 GB
Mô hình chạy tốt	28 trên 73	31 trên 73
Hạng ghế MLX	Pro	Pro
Có trên	MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)	Mac mini (2024), MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024)

Tốc độ với các mô hình phổ biến

Token mỗi giây cho một cuộc trò chuyện, mỗi chip ở dung lượng bộ nhớ lớn nhất (36 GB và 64 GB), với phiên bản tốt nhất của mô hình vừa với máy.

Mô hình	M3 Pro	M4 Pro
Llama 3.1 8B Instruct8B	10–18 6-bit	14–26 8-bit
gpt-oss-20b21B · 3,6B hoạt động	36–63 4,25-bit gốc	65–115 4,25-bit gốc
Qwen3.6 35B A3B35B · 3B hoạt động	40–71 4-bit	38–68 8-bit
Qwen3.8 27B27B	3–5 6-bit	4–8 8-bit
Llama 3.3 70B Instruct70B	3–5 2-bit chất lượng thấp hơn	3–6 4-bit
gpt-oss-120b117B · 5,1B hoạt động	quá lớn	77–137 2-bit chất lượng thấp hơn
Qwen3.5 122B A10B122B · 10B hoạt động	quá lớn	40–70 2-bit chất lượng thấp hơn
DeepSeek V4 Flash 0731284B · 13B hoạt động	quá lớn	quá lớn

Câu hỏi

M4 Pro có nhanh hơn M3 Pro cho LLM không?: M4 Pro đọc bộ nhớ nhanh hơn M3 Pro khoảng 82% (273 so với 150 GB/s), nên viết nhanh hơn khoảng 82% với mọi mô hình vừa cả hai. Việc đọc một prompt dài lại phụ thuộc vào sức tính toán của GPU, điều mà phép so sánh này không đề cập.
M3 Pro hay M4 Pro chạy được mô hình lớn hơn?: M4 Pro: M4 Pro có tới 64 GB bộ nhớ, M3 Pro tới 36 GB. Ở cấu hình lớn nhất, nó chạy tốt 31 trên 73 mô hình mở, so với 28.

Thêm so sánh

M3 Pro cho AI cục bộ · M4 Pro cho AI cục bộ · So sánh mọi mô hình · Mac tốt nhất cho LLM cục bộ

Cách tính

Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.