Đăng nhậpTạo ví

MacBook Pro chip M3 Pro cho AI cục bộ.

M3 Pro đọc bộ nhớ ở 150 GB/s, yếu tố quyết định tốc độ viết. Bộ nhớ quyết định mô hình nào vừa và không thể nâng cấp sau này, nên hãy chọn dung lượng ngay tại đây.

18 GB20 mô hình chạy tốtGemma 4 12B Unified · 10–18 tok/s36 GB28 mô hình chạy tốtQwen3.6 35B A3B · 40–71 tok/s

Theo dung lượng bộ nhớ

Bộ nhớChạy tốtLớn nhất mà chạy tốtgpt-oss-20b
18 GB150 GB/s20Gemma 4 12B Unified36–63 tok/s
36 GB150 GB/s28Qwen3.6 35B A3B36–63 tok/s

Các mẫu máy: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023). Không phải mẫu máy nào cũng có mọi dung lượng bộ nhớ; Thông số kỹ thuật của Apple liệt kê cấu hình của từng mẫu.

Câu hỏi

MacBook Pro chip M3 Pro có tốt cho LLM cục bộ không?
Với 36 GB, máy chạy tốt 28 trên 73 mô hình mở, lớn nhất là Qwen3.6 35B A3B, và viết khoảng 36–63 token mỗi giây với gpt-oss-20b. M3 Pro đọc bộ nhớ ở 150 GB/s, yếu tố quyết định tốc độ viết.
MacBook Pro chip M3 Pro nên có bao nhiêu bộ nhớ để chạy AI?
Với 18 GB, máy chạy tốt 20 mô hình mở; với 36 GB là 28, lớn nhất là Qwen3.6 35B A3B. Bộ nhớ quyết định mô hình nào vừa và không thể nâng cấp sau này.

Các Mac khác

MacBook Pro với các chip khác:

Đối đầu:

M3 Pro cho AI cục bộ · Mac tốt nhất cho LLM cục bộ · Mọi Mac

Cách tính

Bộ nhớ: số tham số của mô hình ở 8, 6, 4, 3 hoặc 2 bit mỗi trọng số cộng với hệ số tỷ lệ theo nhóm của MLX (nửa bit mỗi trọng số), hoặc theo định dạng gốc, rồi thêm chỗ cho ngữ cảnh. Mặc định macOS cho GPU dùng khoảng 75% bộ nhớ hợp nhất. Tốc độ: băng thông bộ nhớ chia cho số byte đọc mỗi token là mức trần cho một cuộc trò chuyện; trong benchmark Apple Silicon công khai của llama.cpp, thực tế đạt khoảng 45% đến 80% mức đó, và đó là khoảng được hiển thị. Đây là ước tính, không phải số đo: hãy đo chính Mac của bạn trên MLX Bench. Số liệu mô hình lấy từ thẻ mô hình chính thức, số liệu chip từ Thông số kỹ thuật của Apple. Kiểm tra ngày 2026-10-19. Cùng dữ liệu với mlx.app/compare.

MacBook Pro M3 Pro cho AI cục bộ: chạy được LLM nào, theo bộ nhớ