Ryzen AI Max+ 395 có nhanh hơn M4 Pro cho LLM không?

M4 Pro đọc bộ nhớ nhanh hơn Ryzen AI Max+ 395 khoảng 7% (273 so với 256 GB/s), nên viết nhanh hơn khoảng 7% với mọi mô hình vừa cả hai. Trong bài đo của llama.cpp, Ryzen AI Max+ 395 đọc prompt nhanh gấp khoảng 2,9 lần (1.289 so với 440 token mỗi giây). Việc đọc prompt phụ thuộc vào sức tính toán của GPU chứ không phải băng thông bộ nhớ, và quyết định thời gian chờ đến chữ đầu tiên với một tài liệu dài hay một codebase.

M4 Pro hay Ryzen AI Max+ 395 chạy được mô hình lớn hơn?

Ryzen AI Max+ 395 có khoảng 96 GB cho mô hình, M4 Pro khoảng 48 GB. 31 trong 73 mô hình mở phổ biến chạy tốt trên M4 Pro, 39 trên Ryzen AI Max+ 395.

MLX Node có chạy trên Ryzen AI Max+ 395 không?

Không. MLX Node và MLX Harness chỉ chạy trên Mac dùng Apple Silicon, với framework MLX của Apple.

M4 Pro vs Ryzen AI Max+ 395 cho LLM: bộ nhớ, tốc độ, nên mua máy nào

Cạnh nhau

	M4 Pro	Ryzen AI Max+ 395
Đây là gì	Mac mini (2024), MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024)	Một máy tính nhỏ hoàn chỉnh
Dung lượng bộ nhớ	24, 48, 64 GB	128 GB
Băng thông bộ nhớ	273 GB/s	256 GB/s
Cho mô hình, tối đa	khoảng 48 GB	khoảng 96 GB
Mô hình chạy tốt	31 trên 73	39 trên 73
Đo thực tế: viết	51 tok/s	54 tok/s
Đo thực tế: đọc prompt	440 tok/s	1.289 tok/s

Các dòng đo thực tế: kết quả nhanh nhất của mỗi máy trong các benchmark công khai của llama.cpp với Llama 2 7B Q4_0, khi viết 128 token (tg128) và đọc một prompt 512 token (pp512), tính bằng token mỗi giây. Mac chạy Metal, Ryzen AI Max+ 395 chạy Vulkan. Kết quả Apple Silicon · Kết quả Ryzen AI Max+ 395 Với mô hình, chúng tôi tính khoảng 75% bộ nhớ cho cả hai, mức mặc định của macOS, vì Ryzen AI Max+ 395 cũng dùng chung một bộ nhớ cho CPU và GPU. GPU của nó thật sự được dùng bao nhiêu tùy vào hệ điều hành và cài đặt.

Mỗi bên mạnh ở đâu

Tốc độ viết. M4 Pro đọc bộ nhớ nhanh hơn Ryzen AI Max+ 395 khoảng 7% (273 so với 256 GB/s), nên viết nhanh hơn khoảng 7% với mọi mô hình vừa cả hai.
Kích thước mô hình. Ryzen AI Max+ 395 có khoảng 96 GB cho mô hình, M4 Pro khoảng 48 GB. 31 trong 73 mô hình mở phổ biến chạy tốt trên M4 Pro, 39 trên Ryzen AI Max+ 395.
Đọc prompt dài. Trong bài đo của llama.cpp, Ryzen AI Max+ 395 đọc prompt nhanh gấp khoảng 2,9 lần (1.289 so với 440 token mỗi giây). Việc đọc prompt phụ thuộc vào sức tính toán của GPU chứ không phải băng thông bộ nhớ, và quyết định thời gian chờ đến chữ đầu tiên với một tài liệu dài hay một codebase.
Phần mềm. Ryzen AI Max+ 395 chạy Windows hoặc Linux, và llama.cpp dùng GPU của nó qua Vulkan. Phần mềm cần CUDA của NVIDIA không chạy được trên cả hai máy.
Xung quanh. Cả hai đều là máy tính hoàn chỉnh, giữ mô hình trong một bộ nhớ dùng chung cho CPU và GPU.
Mac. Đây cũng là máy tính dùng hằng ngày, và chạy được MLX Harness cùng MLX Node, vốn làm cho Apple Silicon.

Tốc độ với các mô hình phổ biến

Token mỗi giây cho một cuộc trò chuyện, mỗi chip ở dung lượng bộ nhớ lớn nhất (64 GB và 128 GB), với phiên bản tốt nhất của mô hình vừa với máy.

Mô hình	M4 Pro	Ryzen AI Max+ 395
Llama 3.1 8B Instruct8B	14–26 8-bit	14–24 8-bit
gpt-oss-20b21B · 3,6B hoạt động	65–115 4,25-bit gốc	61–108 4,25-bit gốc
Qwen3.6 35B A3B35B · 3B hoạt động	38–68 8-bit	36–64 8-bit
Qwen3.8 27B27B	4–8 8-bit	4–7 8-bit
Llama 3.3 70B Instruct70B	3–6 4-bit	2–3 8-bit
gpt-oss-120b117B · 5,1B hoạt động	77–137 2-bit chất lượng thấp hơn	43–76 4,25-bit gốc
Qwen3.5 122B A10B122B · 10B hoạt động	40–70 2-bit chất lượng thấp hơn	21–37 4-bit
DeepSeek V4 Flash 0731284B · 13B hoạt động	quá lớn	28–50 2-bit chất lượng thấp hơn

Câu hỏi

Ryzen AI Max+ 395 có nhanh hơn M4 Pro cho LLM không?: M4 Pro đọc bộ nhớ nhanh hơn Ryzen AI Max+ 395 khoảng 7% (273 so với 256 GB/s), nên viết nhanh hơn khoảng 7% với mọi mô hình vừa cả hai. Trong bài đo của llama.cpp, Ryzen AI Max+ 395 đọc prompt nhanh gấp khoảng 2,9 lần (1.289 so với 440 token mỗi giây). Việc đọc prompt phụ thuộc vào sức tính toán của GPU chứ không phải băng thông bộ nhớ, và quyết định thời gian chờ đến chữ đầu tiên với một tài liệu dài hay một codebase.
M4 Pro hay Ryzen AI Max+ 395 chạy được mô hình lớn hơn?: Ryzen AI Max+ 395 có khoảng 96 GB cho mô hình, M4 Pro khoảng 48 GB. 31 trong 73 mô hình mở phổ biến chạy tốt trên M4 Pro, 39 trên Ryzen AI Max+ 395.
MLX Node có chạy trên Ryzen AI Max+ 395 không?: Không. MLX Node và MLX Harness chỉ chạy trên Mac dùng Apple Silicon, với framework MLX của Apple.

Thêm so sánh

M4 Pro cho AI cục bộ · So sánh mọi mô hình · Mac tốt nhất cho LLM cục bộ

Cách tính

Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.

Băng thông của Ryzen AI Max+ 395 được tính từ độ rộng bus và tốc độ bộ nhớ AMD công bố, vì AMD không ghi con số GB/s. Số liệu của Ryzen AI Max+ 395: AMD: Ryzen AI Max+ 395, Framework: Desktop specs, Framework: Desktop DIY configurator (32/64/128 GB).