MasukBuat dompet

M2 Max vs M3 Max untuk AI lokal.

M2 Max dan M3 Max membaca memori dengan kecepatan yang hampir sama, jadi keduanya menulis dengan kecepatan yang hampir sama untuk model apa pun yang muat di keduanya. M3 Max tersedia hingga 128 GB memori, M2 Max hingga 96 GB.

M2 Max400 GB/shingga 96 GB · 43 model berjalan baikM3 Max300–400 GB/shingga 128 GB · 47 model berjalan baik

Berdampingan

M2 MaxM3 Max
Ukuran memori32, 64, 96 GB36, 48, 64, 96, 128 GB
Bandwidth memori400 GB/s300–400 GB/s
Untuk model, paling banyaksekitar 72 GBsekitar 96 GB
Model yang berjalan baik43 dari 7347 dari 73
Kelas kursi MLXProPro
Ada diMacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac Studio (2023)MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)

Kecepatan dengan model populer

Token per detik untuk satu percakapan, setiap chip pada ukuran memori terbesarnya (96 GB dan 128 GB), dengan versi terbaik model yang muat.

ModelM2 MaxM3 Max
Llama 3.1 8B Instruct8B21–38 8-bit21–38 8-bit
gpt-oss-20b21B · 3,6B aktif95–168 4,25-bit bawaan95–168 4,25-bit bawaan
Qwen3.6 35B A3B35B · 3B aktif56–100 8-bit56–100 8-bit
Qwen3.8 27B27B12–21 4-bit12–21 4-bit
Llama 3.3 70B Instruct70B3–6 6-bit2–4 8-bit
gpt-oss-120b117B · 5,1B aktif67–119 4,25-bit bawaan67–119 4,25-bit bawaan
Qwen3.5 122B A10B122B · 10B aktif41–73 3-bit kualitas lebih rendah32–57 4-bit
DeepSeek V4 Flash 0731284B · 13B aktifterlalu besar44–78 2-bit kualitas lebih rendah

Pertanyaan

Apakah M3 Max lebih cepat daripada M2 Max untuk LLM?
Hampir sama: bandwidth memori keduanya hanya berbeda beberapa persen. M3 Max tersedia hingga 128 GB memori, M2 Max hingga 96 GB.
Mana yang bisa menjalankan model lebih besar, M2 Max atau M3 Max?
M3 Max: M3 Max tersedia hingga 128 GB memori, M2 Max hingga 96 GB. Pada konfigurasi terbesarnya, ia menjalankan 47 dari 73 model terbuka dengan baik, dibandingkan 43.

Perbandingan lainnya

M2 Max untuk AI lokal · M3 Max untuk AI lokal · Bandingkan semua model · Mac terbaik untuk LLM lokal

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.

M2 Max vs M3 Max untuk LLM: memori, kecepatan, pilih mana