Adakah M5 Ultra lebih pantas daripada M3 Ultra untuk LLM?

M5 Ultra membaca memori kira-kira 47% lebih pantas daripada M3 Ultra (1,200 vs 819 GB/s), jadi ia menulis kira-kira 47% lebih pantas dengan mana-mana model yang muat dalam kedua-duanya. Membaca gesaan yang panjang pula bergantung pada kuasa pengkomputeran GPU, yang tidak diliputi oleh perbandingan ini.

Yang mana boleh menjalankan model lebih besar, M3 Ultra atau M5 Ultra?

Tiada satu pun: kedua-duanya sehingga 512 GB. Pada saiz itu M3 Ultra menjalankan 60 dan M5 Ultra 61 daripada 73 model terbuka dengan baik; yang lebih pantas membawa lebih banyak model melepasi 10 token sesaat.

M3 Ultra vs M5 Ultra untuk LLM: memori, kelajuan, pilih mana

Bersebelahan

	M3 Ultra	M5 Ultra
Saiz memori	96, 256, 512 GB	96, 256, 512 GB
Lebar jalur memori	819 GB/s	1,200 GB/s
Untuk model, paling banyak	kira-kira 384 GB	kira-kira 384 GB
Model yang berjalan baik	60 daripada 73	61 daripada 73
Kelas kerusi MLX	Ultra	Ultra Latest
Terdapat dalam	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Kelajuan dengan model popular

Token sesaat untuk satu perbualan, setiap cip pada saiz memori terbesarnya (512 GB dan 512 GB), dengan versi terbaik model yang muat.

Model	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8-bit	64–113 8-bit
gpt-oss-20b21B · 3.6B aktif	194–345 4.25-bit asli	284–505 4.25-bit asli
Qwen3.6 35B A3B35B · 3B aktif	115–205 8-bit	169–300 8-bit
Qwen3.8 27B27B	13–23 8-bit	19–33 8-bit
Llama 3.3 70B Instruct70B	5–9 8-bit	14–24 4-bit
gpt-oss-120b117B · 5.1B aktif	137–243 4.25-bit asli	200–356 4.25-bit asli
Qwen3.5 122B A10B122B · 10B aktif	35–62 8-bit	51–91 8-bit
DeepSeek V4 Flash 0731284B · 13B aktif	27–47 8-bit	39–70 8-bit

Soalan

Adakah M5 Ultra lebih pantas daripada M3 Ultra untuk LLM?: M5 Ultra membaca memori kira-kira 47% lebih pantas daripada M3 Ultra (1,200 vs 819 GB/s), jadi ia menulis kira-kira 47% lebih pantas dengan mana-mana model yang muat dalam kedua-duanya. Membaca gesaan yang panjang pula bergantung pada kuasa pengkomputeran GPU, yang tidak diliputi oleh perbandingan ini.
Yang mana boleh menjalankan model lebih besar, M3 Ultra atau M5 Ultra?: Tiada satu pun: kedua-duanya sehingga 512 GB. Pada saiz itu M3 Ultra menjalankan 60 dan M5 Ultra 61 daripada 73 model terbuka dengan baik; yang lebih pantas membawa lebih banyak model melepasi 10 token sesaat.

Lebih banyak perbandingan

M3 Ultra untuk AI tempatan · M5 Ultra untuk AI tempatan · Bandingkan semua model · Mac terbaik untuk LLM tempatan

Cara ia dikira

Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.