Apakah M5 Pro lebih cepat daripada M4 Pro untuk LLM?

M5 Pro membaca memori sekitar 12% lebih cepat daripada M4 Pro (307 vs 273 GB/s), jadi ia menulis sekitar 12% lebih cepat untuk model apa pun yang muat di keduanya. Membaca prompt yang panjang bergantung pada daya komputasi GPU, yang tidak dicakup perbandingan ini.

Mana yang bisa menjalankan model lebih besar, M4 Pro atau M5 Pro?

Tidak keduanya: keduanya tersedia hingga 64 GB. Pada ukuran itu M4 Pro menjalankan 31 dan M5 Pro 34 dari 73 model terbuka dengan baik; yang lebih cepat membuat lebih banyak model melewati 10 token per detik.

M4 Pro vs M5 Pro untuk LLM: memori, kecepatan, pilih mana

Berdampingan

	M4 Pro	M5 Pro
Ukuran memori	24, 48, 64 GB	24, 48, 64 GB
Bandwidth memori	273 GB/s	307 GB/s
Untuk model, paling banyak	sekitar 48 GB	sekitar 48 GB
Model yang berjalan baik	31 dari 73	34 dari 73
Kelas kursi MLX	Pro	Pro Latest
Ada di	Mac mini (2024), MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024)	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac mini (M6 or M5 Pro)

Kecepatan dengan model populer

Token per detik untuk satu percakapan, setiap chip pada ukuran memori terbesarnya (64 GB dan 64 GB), dengan versi terbaik model yang muat.

Model	M4 Pro	M5 Pro
Llama 3.1 8B Instruct8B	14–26 8-bit	16–29 8-bit
gpt-oss-20b21B · 3,6B aktif	65–115 4,25-bit bawaan	73–129 4,25-bit bawaan
Qwen3.6 35B A3B35B · 3B aktif	38–68 8-bit	43–77 8-bit
Qwen3.8 27B27B	4–8 8-bit	5–9 8-bit
Llama 3.3 70B Instruct70B	3–6 4-bit	4–6 4-bit
gpt-oss-120b117B · 5,1B aktif	77–137 2-bit kualitas lebih rendah	86–154 2-bit kualitas lebih rendah
Qwen3.5 122B A10B122B · 10B aktif	40–70 2-bit kualitas lebih rendah	45–79 2-bit kualitas lebih rendah
DeepSeek V4 Flash 0731284B · 13B aktif	terlalu besar	terlalu besar

Pertanyaan

Apakah M5 Pro lebih cepat daripada M4 Pro untuk LLM?: M5 Pro membaca memori sekitar 12% lebih cepat daripada M4 Pro (307 vs 273 GB/s), jadi ia menulis sekitar 12% lebih cepat untuk model apa pun yang muat di keduanya. Membaca prompt yang panjang bergantung pada daya komputasi GPU, yang tidak dicakup perbandingan ini.
Mana yang bisa menjalankan model lebih besar, M4 Pro atau M5 Pro?: Tidak keduanya: keduanya tersedia hingga 64 GB. Pada ukuran itu M4 Pro menjalankan 31 dan M5 Pro 34 dari 73 model terbuka dengan baik; yang lebih cepat membuat lebih banyak model melewati 10 token per detik.

Perbandingan lainnya

M4 Pro untuk AI lokal · M5 Pro untuk AI lokal · Bandingkan semua model · Mac terbaik untuk LLM lokal

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.