Adakah M4 Max lebih pantas daripada M3 Max untuk LLM?

M4 Max membaca memori kira-kira 37% lebih pantas daripada M3 Max (546 vs 400 GB/s), jadi ia menulis kira-kira 37% lebih pantas dengan mana-mana model yang muat dalam kedua-duanya. Membaca gesaan yang panjang pula bergantung pada kuasa pengkomputeran GPU, yang tidak diliputi oleh perbandingan ini.

Yang mana boleh menjalankan model lebih besar, M3 Max atau M4 Max?

Tiada satu pun: kedua-duanya sehingga 128 GB. Pada saiz itu M3 Max menjalankan 47 dan M4 Max 47 daripada 73 model terbuka dengan baik; yang lebih pantas membawa lebih banyak model melepasi 10 token sesaat.

M3 Max vs M4 Max untuk LLM: memori, kelajuan, pilih mana

Bersebelahan

	M3 Max	M4 Max
Saiz memori	36, 48, 64, 96, 128 GB	36, 48, 64, 128 GB
Lebar jalur memori	300–400 GB/s	410–546 GB/s
Untuk model, paling banyak	kira-kira 96 GB	kira-kira 96 GB
Model yang berjalan baik	47 daripada 73	47 daripada 73
Kelas kerusi MLX	Pro	Pro
Terdapat dalam	MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)

Kelajuan dengan model popular

Token sesaat untuk satu perbualan, setiap cip pada saiz memori terbesarnya (128 GB dan 128 GB), dengan versi terbaik model yang muat.

Model	M3 Max	M4 Max
Llama 3.1 8B Instruct8B	21–38 8-bit	29–51 8-bit
gpt-oss-20b21B · 3.6B aktif	95–168 4.25-bit asli	129–230 4.25-bit asli
Qwen3.6 35B A3B35B · 3B aktif	56–100 8-bit	77–137 8-bit
Qwen3.8 27B27B	12–21 4-bit	11–20 6-bit
Llama 3.3 70B Instruct70B	2–4 8-bit	3–6 8-bit
gpt-oss-120b117B · 5.1B aktif	67–119 4.25-bit asli	91–162 4.25-bit asli
Qwen3.5 122B A10B122B · 10B aktif	32–57 4-bit	44–78 4-bit
DeepSeek V4 Flash 0731284B · 13B aktif	44–78 2-bit kualiti lebih rendah	60–107 2-bit kualiti lebih rendah

Soalan

Adakah M4 Max lebih pantas daripada M3 Max untuk LLM?: M4 Max membaca memori kira-kira 37% lebih pantas daripada M3 Max (546 vs 400 GB/s), jadi ia menulis kira-kira 37% lebih pantas dengan mana-mana model yang muat dalam kedua-duanya. Membaca gesaan yang panjang pula bergantung pada kuasa pengkomputeran GPU, yang tidak diliputi oleh perbandingan ini.
Yang mana boleh menjalankan model lebih besar, M3 Max atau M4 Max?: Tiada satu pun: kedua-duanya sehingga 128 GB. Pada saiz itu M3 Max menjalankan 47 dan M4 Max 47 daripada 73 model terbuka dengan baik; yang lebih pantas membawa lebih banyak model melepasi 10 token sesaat.

Lebih banyak perbandingan

M3 Max untuk AI tempatan · M4 Max untuk AI tempatan · Bandingkan semua model · Mac terbaik untuk LLM tempatan

Cara ia dikira

Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.