M1 Ultra vs M2 Ultra untuk AI tempatan.

M1 Ultra dan M2 Ultra membaca memori pada kelajuan yang hampir sama, jadi kedua-duanya menulis pada kelajuan yang hampir sama dengan mana-mana model yang muat dalam kedua-duanya. M2 Ultra tersedia sehingga 192 GB memori, M1 Ultra sehingga 128 GB.

M1 Ultra800 GB/ssehingga 128 GB · 47 model berjalan baikM2 Ultra800 GB/ssehingga 192 GB · 49 model berjalan baik

Bersebelahan

M1 UltraM2 Ultra
Saiz memori64, 128 GB64, 128, 192 GB
Lebar jalur memori800 GB/s800 GB/s
Untuk model, paling banyakkira-kira 96 GBkira-kira 144 GB
Model yang berjalan baik47 daripada 7349 daripada 73
Kelas kerusi MLXUltraUltra
Terdapat dalamMac Studio (2022)Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)

Kelajuan dengan model popular

Token sesaat untuk satu perbualan, setiap cip pada saiz memori terbesarnya (128 GB dan 192 GB), dengan versi terbaik model yang muat.

ModelM1 UltraM2 Ultra
Llama 3.1 8B Instruct8B42–75 8-bit42–75 8-bit
gpt-oss-20b21B · 3.6B aktif189–337 4.25-bit asli189–337 4.25-bit asli
Qwen3.6 35B A3B35B · 3B aktif113–200 8-bit113–200 8-bit
Qwen3.8 27B27B13–22 8-bit13–22 8-bit
Llama 3.3 70B Instruct70B5–9 8-bit5–9 8-bit
gpt-oss-120b117B · 5.1B aktif133–237 4.25-bit asli133–237 4.25-bit asli
Qwen3.5 122B A10B122B · 10B aktif64–114 4-bit34–60 8-bit
DeepSeek V4 Flash 0731284B · 13B aktif88–156 2-bit kualiti lebih rendah63–112 3-bit kualiti lebih rendah

Soalan

Adakah M2 Ultra lebih pantas daripada M1 Ultra untuk LLM?
Lebih kurang sama: lebar jalur memori kedua-duanya hanya berbeza beberapa peratus. M2 Ultra tersedia sehingga 192 GB memori, M1 Ultra sehingga 128 GB.
Yang mana boleh menjalankan model lebih besar, M1 Ultra atau M2 Ultra?
M2 Ultra: M2 Ultra tersedia sehingga 192 GB memori, M1 Ultra sehingga 128 GB. Pada konfigurasi terbesarnya ia menjalankan 49 daripada 73 model terbuka dengan baik, berbanding 47.

Lebih banyak perbandingan

M1 Ultra untuk AI tempatan · M2 Ultra untuk AI tempatan · Bandingkan semua model · Mac terbaik untuk LLM tempatan

Cara ia dikira

Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.

M1 Ultra vs M2 Ultra untuk LLM: memori, kelajuan, pilih mana