Mas mabilis ba ang M3 Ultra kaysa sa M2 Ultra para sa LLM?

Halos pareho: ilang porsiyento lang ang pagitan ng memory bandwidth nila. Hanggang 512 GB na memory ang M3 Ultra, hanggang 192 GB ang M2 Ultra.

Alin ang kaya ang mas malalaking model, ang M2 Ultra o ang M3 Ultra?

Ang M3 Ultra: Hanggang 512 GB na memory ang M3 Ultra, hanggang 192 GB ang M2 Ultra. Sa pinakamalaking memory nito, maayos nitong napapatakbo ang 60 sa 73 na open model, kumpara sa 49.

M2 Ultra vs M3 Ultra para sa LLM: memory, bilis, alin ang bilhin

Magkatabi

	M2 Ultra	M3 Ultra
Mga memory size	64, 128, 192 GB	96, 256, 512 GB
Memory bandwidth	800 GB/s	819 GB/s
Para sa model, hanggang	mga 144 GB	mga 384 GB
Mga model na maayos tumakbo	49 sa 73	60 sa 73
Klase ng MLX seat	Ultra	Ultra
Makikita sa	Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)	Mac Studio (2025)

Bilis sa mga sikat na model

Token bawat segundo para sa isang usapan, bawat chip sa pinakamalaking memory size nito (192 GB at 512 GB), gamit ang pinakamagandang bersyon ng model na kasya.

Model	M2 Ultra	M3 Ultra
Llama 3.1 8B Instruct8B	42–75 8-bit	43–77 8-bit
gpt-oss-20b21B · 3.6B aktibo	189–337 native na 4.25-bit	194–345 native na 4.25-bit
Qwen3.6 35B A3B35B · 3B aktibo	113–200 8-bit	115–205 8-bit
Qwen3.8 27B27B	13–22 8-bit	13–23 8-bit
Llama 3.3 70B Instruct70B	5–9 8-bit	5–9 8-bit
gpt-oss-120b117B · 5.1B aktibo	133–237 native na 4.25-bit	137–243 native na 4.25-bit
Qwen3.5 122B A10B122B · 10B aktibo	34–60 8-bit	35–62 8-bit
DeepSeek V4 Flash 0731284B · 13B aktibo	63–112 3-bit mas mababang kalidad	27–47 8-bit

Mga tanong

Mas mabilis ba ang M3 Ultra kaysa sa M2 Ultra para sa LLM?: Halos pareho: ilang porsiyento lang ang pagitan ng memory bandwidth nila. Hanggang 512 GB na memory ang M3 Ultra, hanggang 192 GB ang M2 Ultra.
Alin ang kaya ang mas malalaking model, ang M2 Ultra o ang M3 Ultra?: Ang M3 Ultra: Hanggang 512 GB na memory ang M3 Ultra, hanggang 192 GB ang M2 Ultra. Sa pinakamalaking memory nito, maayos nitong napapatakbo ang 60 sa 73 na open model, kumpara sa 49.

Iba pang paghahambing

Ang M2 Ultra para sa local AI · Ang M3 Ultra para sa local AI · Ihambing ang bawat model · Ang pinakamagandang Mac para sa local LLM

Paano ito kinuwenta

Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.