M3 Max có nhanh hơn M2 Max cho LLM không?

Gần như nhau: băng thông bộ nhớ của hai chip chỉ chênh vài phần trăm. M3 Max có tới 128 GB bộ nhớ, M2 Max tới 96 GB.

M2 Max hay M3 Max chạy được mô hình lớn hơn?

M3 Max: M3 Max có tới 128 GB bộ nhớ, M2 Max tới 96 GB. Ở cấu hình lớn nhất, nó chạy tốt 47 trên 73 mô hình mở, so với 43.

M2 Max vs M3 Max cho LLM: bộ nhớ, tốc độ, nên mua máy nào

Cạnh nhau

	M2 Max	M3 Max
Dung lượng bộ nhớ	32, 64, 96 GB	36, 48, 64, 96, 128 GB
Băng thông bộ nhớ	400 GB/s	300–400 GB/s
Cho mô hình, tối đa	khoảng 72 GB	khoảng 96 GB
Mô hình chạy tốt	43 trên 73	47 trên 73
Hạng ghế MLX	Pro	Pro
Có trên	MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac Studio (2023)	MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)

Tốc độ với các mô hình phổ biến

Token mỗi giây cho một cuộc trò chuyện, mỗi chip ở dung lượng bộ nhớ lớn nhất (96 GB và 128 GB), với phiên bản tốt nhất của mô hình vừa với máy.

Mô hình	M2 Max	M3 Max
Llama 3.1 8B Instruct8B	21–38 8-bit	21–38 8-bit
gpt-oss-20b21B · 3,6B hoạt động	95–168 4,25-bit gốc	95–168 4,25-bit gốc
Qwen3.6 35B A3B35B · 3B hoạt động	56–100 8-bit	56–100 8-bit
Qwen3.8 27B27B	12–21 4-bit	12–21 4-bit
Llama 3.3 70B Instruct70B	3–6 6-bit	2–4 8-bit
gpt-oss-120b117B · 5,1B hoạt động	67–119 4,25-bit gốc	67–119 4,25-bit gốc
Qwen3.5 122B A10B122B · 10B hoạt động	41–73 3-bit chất lượng thấp hơn	32–57 4-bit
DeepSeek V4 Flash 0731284B · 13B hoạt động	quá lớn	44–78 2-bit chất lượng thấp hơn

Câu hỏi

M3 Max có nhanh hơn M2 Max cho LLM không?: Gần như nhau: băng thông bộ nhớ của hai chip chỉ chênh vài phần trăm. M3 Max có tới 128 GB bộ nhớ, M2 Max tới 96 GB.
M2 Max hay M3 Max chạy được mô hình lớn hơn?: M3 Max: M3 Max có tới 128 GB bộ nhớ, M2 Max tới 96 GB. Ở cấu hình lớn nhất, nó chạy tốt 47 trên 73 mô hình mở, so với 43.

Thêm so sánh

M2 Max cho AI cục bộ · M3 Max cho AI cục bộ · So sánh mọi mô hình · Mac tốt nhất cho LLM cục bộ

Cách tính

Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.