Apakah M4 Max lebih cepat daripada M3 Max untuk LLM?

M4 Max membaca memori sekitar 37% lebih cepat daripada M3 Max (546 vs 400 GB/s), jadi ia menulis sekitar 37% lebih cepat untuk model apa pun yang muat di keduanya. Membaca prompt yang panjang bergantung pada daya komputasi GPU, yang tidak dicakup perbandingan ini.

Mana yang bisa menjalankan model lebih besar, M3 Max atau M4 Max?

Tidak keduanya: keduanya tersedia hingga 128 GB. Pada ukuran itu M3 Max menjalankan 47 dan M4 Max 47 dari 73 model terbuka dengan baik; yang lebih cepat membuat lebih banyak model melewati 10 token per detik.

M3 Max vs M4 Max untuk LLM: memori, kecepatan, pilih mana

Berdampingan

	M3 Max	M4 Max
Ukuran memori	36, 48, 64, 96, 128 GB	36, 48, 64, 128 GB
Bandwidth memori	300–400 GB/s	410–546 GB/s
Untuk model, paling banyak	sekitar 96 GB	sekitar 96 GB
Model yang berjalan baik	47 dari 73	47 dari 73
Kelas kursi MLX	Pro	Pro
Ada di	MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)

Kecepatan dengan model populer

Token per detik untuk satu percakapan, setiap chip pada ukuran memori terbesarnya (128 GB dan 128 GB), dengan versi terbaik model yang muat.

Model	M3 Max	M4 Max
Llama 3.1 8B Instruct8B	21–38 8-bit	29–51 8-bit
gpt-oss-20b21B · 3,6B aktif	95–168 4,25-bit bawaan	129–230 4,25-bit bawaan
Qwen3.6 35B A3B35B · 3B aktif	56–100 8-bit	77–137 8-bit
Qwen3.8 27B27B	12–21 4-bit	11–20 6-bit
Llama 3.3 70B Instruct70B	2–4 8-bit	3–6 8-bit
gpt-oss-120b117B · 5,1B aktif	67–119 4,25-bit bawaan	91–162 4,25-bit bawaan
Qwen3.5 122B A10B122B · 10B aktif	32–57 4-bit	44–78 4-bit
DeepSeek V4 Flash 0731284B · 13B aktif	44–78 2-bit kualitas lebih rendah	60–107 2-bit kualitas lebih rendah

Pertanyaan

Apakah M4 Max lebih cepat daripada M3 Max untuk LLM?: M4 Max membaca memori sekitar 37% lebih cepat daripada M3 Max (546 vs 400 GB/s), jadi ia menulis sekitar 37% lebih cepat untuk model apa pun yang muat di keduanya. Membaca prompt yang panjang bergantung pada daya komputasi GPU, yang tidak dicakup perbandingan ini.
Mana yang bisa menjalankan model lebih besar, M3 Max atau M4 Max?: Tidak keduanya: keduanya tersedia hingga 128 GB. Pada ukuran itu M3 Max menjalankan 47 dan M4 Max 47 dari 73 model terbuka dengan baik; yang lebih cepat membuat lebih banyak model melewati 10 token per detik.

Perbandingan lainnya

M3 Max untuk AI lokal · M4 Max untuk AI lokal · Bandingkan semua model · Mac terbaik untuk LLM lokal

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.