Theo dung lượng bộ nhớ
| Bộ nhớ | Chạy tốt | Lớn nhất mà chạy tốt | gpt-oss-20b |
|---|---|---|---|
| 64 GB800 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 189–337 tok/s |
| 128 GB800 GB/s | 47 | Qwen3.5 122B A10B | 189–337 tok/s |
| 192 GB800 GB/s | 49 | MiniMax M2.7 | 189–337 tok/s |
Các mẫu máy: Mac Pro (2023), Mac Pro (Rack, 2023). Không phải mẫu máy nào cũng có mọi dung lượng bộ nhớ; Thông số kỹ thuật của Apple liệt kê cấu hình của từng mẫu.
Câu hỏi
- Mac Pro chip M2 Ultra có tốt cho LLM cục bộ không?
- Với 192 GB, máy chạy tốt 49 trên 73 mô hình mở, lớn nhất là MiniMax M2.7, và viết khoảng 189–337 token mỗi giây với gpt-oss-20b. M2 Ultra đọc bộ nhớ ở 800 GB/s, yếu tố quyết định tốc độ viết.
- Mac Pro chip M2 Ultra nên có bao nhiêu bộ nhớ để chạy AI?
- Với 64 GB, máy chạy tốt 39 mô hình mở; với 192 GB là 49, lớn nhất là MiniMax M2.7. Bộ nhớ quyết định mô hình nào vừa và không thể nâng cấp sau này.
Các Mac khác
Các Mac khác dùng chip M2 Ultra:
Đối đầu:
M2 Ultra cho AI cục bộ · Mac tốt nhất cho LLM cục bộ · Mọi Mac
Cách tính
Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.