M5 Ultra có nhanh hơn M3 Ultra cho LLM không?

M5 Ultra đọc bộ nhớ nhanh hơn M3 Ultra khoảng 47% (1.200 so với 819 GB/s), nên viết nhanh hơn khoảng 47% với mọi mô hình vừa cả hai. Việc đọc một prompt dài lại phụ thuộc vào sức tính toán của GPU, điều mà phép so sánh này không đề cập.

M3 Ultra hay M5 Ultra chạy được mô hình lớn hơn?

Không chip nào hơn: cả hai đều tới 512 GB. Ở dung lượng đó, M3 Ultra chạy tốt 60 và M5 Ultra chạy tốt 61 trên 73 mô hình mở; chip nhanh hơn đưa được nhiều mô hình hơn lên mức 10 token mỗi giây.

M3 Ultra vs M5 Ultra cho LLM: bộ nhớ, tốc độ, nên mua máy nào

Cạnh nhau

	M3 Ultra	M5 Ultra
Dung lượng bộ nhớ	96, 256, 512 GB	96, 256, 512 GB
Băng thông bộ nhớ	819 GB/s	1.200 GB/s
Cho mô hình, tối đa	khoảng 384 GB	khoảng 384 GB
Mô hình chạy tốt	60 trên 73	61 trên 73
Hạng ghế MLX	Ultra	Ultra Latest
Có trên	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Tốc độ với các mô hình phổ biến

Token mỗi giây cho một cuộc trò chuyện, mỗi chip ở dung lượng bộ nhớ lớn nhất (512 GB và 512 GB), với phiên bản tốt nhất của mô hình vừa với máy.

Mô hình	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8-bit	64–113 8-bit
gpt-oss-20b21B · 3,6B hoạt động	194–345 4,25-bit gốc	284–505 4,25-bit gốc
Qwen3.6 35B A3B35B · 3B hoạt động	115–205 8-bit	169–300 8-bit
Qwen3.8 27B27B	13–23 8-bit	19–33 8-bit
Llama 3.3 70B Instruct70B	5–9 8-bit	14–24 4-bit
gpt-oss-120b117B · 5,1B hoạt động	137–243 4,25-bit gốc	200–356 4,25-bit gốc
Qwen3.5 122B A10B122B · 10B hoạt động	35–62 8-bit	51–91 8-bit
DeepSeek V4 Flash 0731284B · 13B hoạt động	27–47 8-bit	39–70 8-bit

Câu hỏi

M5 Ultra có nhanh hơn M3 Ultra cho LLM không?: M5 Ultra đọc bộ nhớ nhanh hơn M3 Ultra khoảng 47% (1.200 so với 819 GB/s), nên viết nhanh hơn khoảng 47% với mọi mô hình vừa cả hai. Việc đọc một prompt dài lại phụ thuộc vào sức tính toán của GPU, điều mà phép so sánh này không đề cập.
M3 Ultra hay M5 Ultra chạy được mô hình lớn hơn?: Không chip nào hơn: cả hai đều tới 512 GB. Ở dung lượng đó, M3 Ultra chạy tốt 60 và M5 Ultra chạy tốt 61 trên 73 mô hình mở; chip nhanh hơn đưa được nhiều mô hình hơn lên mức 10 token mỗi giây.

Thêm so sánh

M3 Ultra cho AI cục bộ · M5 Ultra cho AI cục bộ · So sánh mọi mô hình · Mac tốt nhất cho LLM cục bộ

Cách tính

Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.