Cạnh nhau
| M5 Max | Ryzen AI Max+ PRO 495 | |
|---|---|---|
| Đây là gì | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | Một máy tính nhỏ hoàn chỉnh |
| Dung lượng bộ nhớ | 36, 48, 64, 128 GB | 192 GB |
| Băng thông bộ nhớ | 460–614 GB/s | 273 GB/s |
| Cho mô hình, tối đa | khoảng 96 GB | khoảng 144 GB |
| Mô hình chạy tốt | 47 trên 73 | 41 trên 73 |
| Đo thực tế: viết | 120 tok/s | chưa đo |
| Đo thực tế: đọc prompt | 3.220 tok/s | chưa đo |
Với mô hình, chúng tôi tính khoảng 75% bộ nhớ cho cả hai, mức mặc định của macOS, vì Ryzen AI Max+ PRO 495 cũng dùng chung một bộ nhớ cho CPU và GPU. GPU của nó thật sự được dùng bao nhiêu tùy vào hệ điều hành và cài đặt.
Mỗi bên mạnh ở đâu
- Tốc độ viết. M5 Max đọc bộ nhớ nhanh hơn Ryzen AI Max+ PRO 495 khoảng 125% (614 so với 273 GB/s), nên viết nhanh hơn khoảng 125% với mọi mô hình vừa cả hai.
- Kích thước mô hình. Ryzen AI Max+ PRO 495 có khoảng 144 GB cho mô hình, M5 Max khoảng 96 GB. 47 trong 73 mô hình mở phổ biến chạy tốt trên M5 Max, 41 trên Ryzen AI Max+ PRO 495.
- Đọc prompt dài. Các benchmark công khai của llama.cpp chưa có kết quả cho Ryzen AI Max+ PRO 495, nên ở đây không so sánh việc đọc prompt.
- Phần mềm. Ryzen AI Max+ PRO 495 chạy Windows hoặc Linux, và llama.cpp dùng GPU của nó qua Vulkan. Phần mềm cần CUDA của NVIDIA không chạy được trên cả hai máy.
- Xung quanh. Cả hai đều là máy tính hoàn chỉnh, giữ mô hình trong một bộ nhớ dùng chung cho CPU và GPU.
- Mac. Đây cũng là máy tính dùng hằng ngày, và chạy được MLX Harness cùng MLX Node, vốn làm cho Apple Silicon.
Tốc độ với các mô hình phổ biến
Token mỗi giây cho một cuộc trò chuyện, mỗi chip ở dung lượng bộ nhớ lớn nhất (128 GB và 192 GB), với phiên bản tốt nhất của mô hình vừa với máy.
| Mô hình | M5 Max | Ryzen AI Max+ PRO 495 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-bit | 14–26 8-bit |
| gpt-oss-20b21B · 3,6B hoạt động | 145–259 4,25-bit gốc | 65–115 4,25-bit gốc |
| Qwen3.6 35B A3B35B · 3B hoạt động | 86–154 8-bit | 38–68 8-bit |
| Qwen3.8 27B27B | 10–17 8-bit | 4–8 8-bit |
| Llama 3.3 70B Instruct70B | 4–7 8-bit | 2–3 8-bit |
| gpt-oss-120b117B · 5,1B hoạt động | 102–182 4,25-bit gốc | 45–81 4,25-bit gốc |
| Qwen3.5 122B A10B122B · 10B hoạt động | 49–88 4-bit | 12–21 8-bit |
| DeepSeek V4 Flash 0731284B · 13B hoạt động | 67–120 2-bit chất lượng thấp hơn | 22–38 3-bit chất lượng thấp hơn |
Câu hỏi
- Ryzen AI Max+ PRO 495 có nhanh hơn M5 Max cho LLM không?
- M5 Max đọc bộ nhớ nhanh hơn Ryzen AI Max+ PRO 495 khoảng 125% (614 so với 273 GB/s), nên viết nhanh hơn khoảng 125% với mọi mô hình vừa cả hai. Các benchmark công khai của llama.cpp chưa có kết quả cho Ryzen AI Max+ PRO 495, nên ở đây không so sánh việc đọc prompt.
- M5 Max hay Ryzen AI Max+ PRO 495 chạy được mô hình lớn hơn?
- Ryzen AI Max+ PRO 495 có khoảng 144 GB cho mô hình, M5 Max khoảng 96 GB. 47 trong 73 mô hình mở phổ biến chạy tốt trên M5 Max, 41 trên Ryzen AI Max+ PRO 495.
- MLX Node có chạy trên Ryzen AI Max+ PRO 495 không?
- Không. MLX Node và MLX Harness chỉ chạy trên Mac dùng Apple Silicon, với framework MLX của Apple.
Thêm so sánh
- M5 Max vs DGX Spark
- M5 Max vs Ryzen AI Max+ 395
- M5 Max vs RTX 5090
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
- M4 Max vs M5 Max
- M5 Pro vs M5 Max
M5 Max cho AI cục bộ · So sánh mọi mô hình · Mac tốt nhất cho LLM cục bộ
Cách tính
Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.
Băng thông của Ryzen AI Max+ PRO 495 được tính từ độ rộng bus và tốc độ bộ nhớ AMD công bố, vì AMD không ghi con số GB/s. Số liệu của Ryzen AI Max+ PRO 495: AMD: Ryzen AI Max+ PRO 495, Framework: Desktop specs.