Adakah M2 Max lebih pantas daripada M1 Max untuk LLM?

Lebih kurang sama: lebar jalur memori kedua-duanya hanya berbeza beberapa peratus. M2 Max tersedia sehingga 96 GB memori, M1 Max sehingga 64 GB.

Yang mana boleh menjalankan model lebih besar, M1 Max atau M2 Max?

M2 Max: M2 Max tersedia sehingga 96 GB memori, M1 Max sehingga 64 GB. Pada konfigurasi terbesarnya ia menjalankan 43 daripada 73 model terbuka dengan baik, berbanding 39.

M1 Max vs M2 Max untuk LLM: memori, kelajuan, pilih mana

Bersebelahan

	M1 Max	M2 Max
Saiz memori	32, 64 GB	32, 64, 96 GB
Lebar jalur memori	400 GB/s	400 GB/s
Untuk model, paling banyak	kira-kira 48 GB	kira-kira 72 GB
Model yang berjalan baik	39 daripada 73	43 daripada 73
Kelas kerusi MLX	Pro	Pro
Terdapat dalam	MacBook Pro (14-inch, 2021), MacBook Pro (16-inch, 2021), Mac Studio (2022)	MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac Studio (2023)

Kelajuan dengan model popular

Token sesaat untuk satu perbualan, setiap cip pada saiz memori terbesarnya (64 GB dan 96 GB), dengan versi terbaik model yang muat.

Model	M1 Max	M2 Max
Llama 3.1 8B Instruct8B	21–38 8-bit	21–38 8-bit
gpt-oss-20b21B · 3.6B aktif	95–168 4.25-bit asli	95–168 4.25-bit asli
Qwen3.6 35B A3B35B · 3B aktif	56–100 8-bit	56–100 8-bit
Qwen3.8 27B27B	12–21 4-bit	12–21 4-bit
Llama 3.3 70B Instruct70B	5–8 4-bit	3–6 6-bit
gpt-oss-120b117B · 5.1B aktif	113–200 2-bit kualiti lebih rendah	67–119 4.25-bit asli
Qwen3.5 122B A10B122B · 10B aktif	58–103 2-bit kualiti lebih rendah	41–73 3-bit kualiti lebih rendah
DeepSeek V4 Flash 0731284B · 13B aktif	terlalu besar	terlalu besar

Soalan

Adakah M2 Max lebih pantas daripada M1 Max untuk LLM?: Lebih kurang sama: lebar jalur memori kedua-duanya hanya berbeza beberapa peratus. M2 Max tersedia sehingga 96 GB memori, M1 Max sehingga 64 GB.
Yang mana boleh menjalankan model lebih besar, M1 Max atau M2 Max?: M2 Max: M2 Max tersedia sehingga 96 GB memori, M1 Max sehingga 64 GB. Pada konfigurasi terbesarnya ia menjalankan 43 daripada 73 model terbuka dengan baik, berbanding 39.

Lebih banyak perbandingan

M1 Max untuk AI tempatan · M2 Max untuk AI tempatan · Bandingkan semua model · Mac terbaik untuk LLM tempatan

Cara ia dikira

Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.