Apakah M4 lebih cepat daripada M2 untuk LLM?

M4 membaca memori sekitar 20% lebih cepat daripada M2 (120 vs 100 GB/s), jadi ia menulis sekitar 20% lebih cepat untuk model apa pun yang muat di keduanya. Membaca prompt yang panjang bergantung pada daya komputasi GPU, yang tidak dicakup perbandingan ini.

Mana yang bisa menjalankan model lebih besar, M2 atau M4?

M4: M4 tersedia hingga 32 GB memori, M2 hingga 24 GB. Pada konfigurasi terbesarnya, ia menjalankan 27 dari 73 model terbuka dengan baik, dibandingkan 20.

M2 vs M4 untuk LLM: memori, kecepatan, pilih mana

Berdampingan

	M2	M4
Ukuran memori	8, 16, 24 GB	16, 24, 32 GB
Bandwidth memori	100 GB/s	120 GB/s
Untuk model, paling banyak	sekitar 18 GB	sekitar 24 GB
Model yang berjalan baik	20 dari 73	27 dari 73
Kelas kursi MLX	Core	Core
Ada di	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M4, 2024), iMac (24-inch, 2024, Two ports), iMac (24-inch, 2024, Four ports), Mac mini (2024), MacBook Air (13-inch, M4, 2025), MacBook Air (15-inch, M4, 2025)

Kecepatan dengan model populer

Token per detik untuk satu percakapan, setiap chip pada ukuran memori terbesarnya (24 GB dan 32 GB), dengan versi terbaik model yang muat.

Model	M2	M4
Llama 3.1 8B Instruct8B	10–18 4-bit	12–21 4-bit
gpt-oss-20b21B · 3,6B aktif	24–42 4,25-bit bawaan	28–51 4,25-bit bawaan
Qwen3.6 35B A3B35B · 3B aktif	35–62 3-bit kualitas lebih rendah	32–56 4-bit
Qwen3.8 27B27B	3–5 4-bit	2–4 6-bit
Llama 3.3 70B Instruct70B	terlalu besar	2–4 2-bit kualitas lebih rendah
gpt-oss-120b117B · 5,1B aktif	terlalu besar	terlalu besar
Qwen3.5 122B A10B122B · 10B aktif	terlalu besar	terlalu besar
DeepSeek V4 Flash 0731284B · 13B aktif	terlalu besar	terlalu besar

Pertanyaan

Apakah M4 lebih cepat daripada M2 untuk LLM?: M4 membaca memori sekitar 20% lebih cepat daripada M2 (120 vs 100 GB/s), jadi ia menulis sekitar 20% lebih cepat untuk model apa pun yang muat di keduanya. Membaca prompt yang panjang bergantung pada daya komputasi GPU, yang tidak dicakup perbandingan ini.
Mana yang bisa menjalankan model lebih besar, M2 atau M4?: M4: M4 tersedia hingga 32 GB memori, M2 hingga 24 GB. Pada konfigurasi terbesarnya, ia menjalankan 27 dari 73 model terbuka dengan baik, dibandingkan 20.

Perbandingan lainnya

M2 untuk AI lokal · M4 untuk AI lokal · Bandingkan semua model · Mac terbaik untuk LLM lokal

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.