Adakah M4 lebih pantas daripada M3 untuk LLM?

M4 membaca memori kira-kira 20% lebih pantas daripada M3 (120 vs 100 GB/s), jadi ia menulis kira-kira 20% lebih pantas dengan mana-mana model yang muat dalam kedua-duanya. Membaca gesaan yang panjang pula bergantung pada kuasa pengkomputeran GPU, yang tidak diliputi oleh perbandingan ini.

Yang mana boleh menjalankan model lebih besar, M3 atau M4?

M4: M4 tersedia sehingga 32 GB memori, M3 sehingga 24 GB. Pada konfigurasi terbesarnya ia menjalankan 27 daripada 73 model terbuka dengan baik, berbanding 20.

M3 vs M4 untuk LLM: memori, kelajuan, pilih mana

Bersebelahan

	M3	M4
Saiz memori	8, 16, 24 GB	16, 24, 32 GB
Lebar jalur memori	100 GB/s	120 GB/s
Untuk model, paling banyak	kira-kira 18 GB	kira-kira 24 GB
Model yang berjalan baik	20 daripada 73	27 daripada 73
Kelas kerusi MLX	Core	Core
Terdapat dalam	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)	MacBook Pro (14-inch, M4, 2024), iMac (24-inch, 2024, Two ports), iMac (24-inch, 2024, Four ports), Mac mini (2024), MacBook Air (13-inch, M4, 2025), MacBook Air (15-inch, M4, 2025)

Kelajuan dengan model popular

Token sesaat untuk satu perbualan, setiap cip pada saiz memori terbesarnya (24 GB dan 32 GB), dengan versi terbaik model yang muat.

Model	M3	M4
Llama 3.1 8B Instruct8B	10–18 4-bit	12–21 4-bit
gpt-oss-20b21B · 3.6B aktif	24–42 4.25-bit asli	28–51 4.25-bit asli
Qwen3.6 35B A3B35B · 3B aktif	35–62 3-bit kualiti lebih rendah	32–56 4-bit
Qwen3.8 27B27B	3–5 4-bit	2–4 6-bit
Llama 3.3 70B Instruct70B	terlalu besar	2–4 2-bit kualiti lebih rendah
gpt-oss-120b117B · 5.1B aktif	terlalu besar	terlalu besar
Qwen3.5 122B A10B122B · 10B aktif	terlalu besar	terlalu besar
DeepSeek V4 Flash 0731284B · 13B aktif	terlalu besar	terlalu besar

Soalan

Adakah M4 lebih pantas daripada M3 untuk LLM?: M4 membaca memori kira-kira 20% lebih pantas daripada M3 (120 vs 100 GB/s), jadi ia menulis kira-kira 20% lebih pantas dengan mana-mana model yang muat dalam kedua-duanya. Membaca gesaan yang panjang pula bergantung pada kuasa pengkomputeran GPU, yang tidak diliputi oleh perbandingan ini.
Yang mana boleh menjalankan model lebih besar, M3 atau M4?: M4: M4 tersedia sehingga 32 GB memori, M3 sehingga 24 GB. Pada konfigurasi terbesarnya ia menjalankan 27 daripada 73 model terbuka dengan baik, berbanding 20.

Lebih banyak perbandingan

M3 untuk AI tempatan · M4 untuk AI tempatan · Bandingkan semua model · Mac terbaik untuk LLM tempatan

Cara ia dikira

Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.