Mas mabilis ba ang M5 Ultra kaysa sa M4 Max para sa LLM?

Mga 120% na mas mabilis magbasa ng memory ang M5 Ultra kaysa sa M4 Max (1,200 vs 546 GB/s), kaya mga 120% na mas mabilis itong magsulat sa anumang model na kasya sa dalawa. Ang pagbasa naman ng mahabang prompt ay nakadepende sa GPU compute, na hindi saklaw ng paghahambing na ito.

Alin ang kaya ang mas malalaking model, ang M4 Max o ang M5 Ultra?

Ang M5 Ultra: Hanggang 512 GB na memory ang M5 Ultra, hanggang 128 GB ang M4 Max. Sa pinakamalaking memory nito, maayos nitong napapatakbo ang 61 sa 73 na open model, kumpara sa 47.

M4 Max vs M5 Ultra para sa LLM: memory, bilis, alin ang bilhin

Magkatabi

	M4 Max	M5 Ultra
Mga memory size	36, 48, 64, 128 GB	96, 256, 512 GB
Memory bandwidth	410–546 GB/s	1,200 GB/s
Para sa model, hanggang	mga 96 GB	mga 384 GB
Mga model na maayos tumakbo	47 sa 73	61 sa 73
Klase ng MLX seat	Pro	Ultra Latest
Makikita sa	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Bilis sa mga sikat na model

Token bawat segundo para sa isang usapan, bawat chip sa pinakamalaking memory size nito (128 GB at 512 GB), gamit ang pinakamagandang bersyon ng model na kasya.

Model	M4 Max	M5 Ultra
Llama 3.1 8B Instruct8B	29–51 8-bit	64–113 8-bit
gpt-oss-20b21B · 3.6B aktibo	129–230 native na 4.25-bit	284–505 native na 4.25-bit
Qwen3.6 35B A3B35B · 3B aktibo	77–137 8-bit	169–300 8-bit
Qwen3.8 27B27B	11–20 6-bit	19–33 8-bit
Llama 3.3 70B Instruct70B	3–6 8-bit	14–24 4-bit
gpt-oss-120b117B · 5.1B aktibo	91–162 native na 4.25-bit	200–356 native na 4.25-bit
Qwen3.5 122B A10B122B · 10B aktibo	44–78 4-bit	51–91 8-bit
DeepSeek V4 Flash 0731284B · 13B aktibo	60–107 2-bit mas mababang kalidad	39–70 8-bit

Mga tanong

Mas mabilis ba ang M5 Ultra kaysa sa M4 Max para sa LLM?: Mga 120% na mas mabilis magbasa ng memory ang M5 Ultra kaysa sa M4 Max (1,200 vs 546 GB/s), kaya mga 120% na mas mabilis itong magsulat sa anumang model na kasya sa dalawa. Ang pagbasa naman ng mahabang prompt ay nakadepende sa GPU compute, na hindi saklaw ng paghahambing na ito.
Alin ang kaya ang mas malalaking model, ang M4 Max o ang M5 Ultra?: Ang M5 Ultra: Hanggang 512 GB na memory ang M5 Ultra, hanggang 128 GB ang M4 Max. Sa pinakamalaking memory nito, maayos nitong napapatakbo ang 61 sa 73 na open model, kumpara sa 47.

Iba pang paghahambing

Ang M4 Max para sa local AI · Ang M5 Ultra para sa local AI · Ihambing ang bawat model · Ang pinakamagandang Mac para sa local LLM

Paano ito kinuwenta

Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.