M5 vs M5 Pro para sa local AI.

Mga 101% na mas mabilis magbasa ng memory ang M5 Pro kaysa sa M5 (307 vs 153 GB/s), kaya mga 101% na mas mabilis itong magsulat sa anumang model na kasya sa dalawa. Hanggang 64 GB na memory ang M5 Pro, hanggang 32 GB ang M5.

M5153 GB/shanggang 32 GB · 28 model ang maayosM5 Pro307 GB/shanggang 64 GB · 34 model ang maayos

Magkatabi

M5M5 Pro
Mga memory size16, 24, 32 GB24, 48, 64 GB
Memory bandwidth153 GB/s307 GB/s
Para sa model, hanggangmga 24 GBmga 48 GB
Mga model na maayos tumakbo28 sa 7334 sa 73
Klase ng MLX seatCorePro Latest
Makikita saMacBook Pro (14-inch, M5), MacBook Air (13-inch, M5), MacBook Air (15-inch, M5)MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac mini (M6 or M5 Pro)

Bilis sa mga sikat na model

Token bawat segundo para sa isang usapan, bawat chip sa pinakamalaking memory size nito (32 GB at 64 GB), gamit ang pinakamagandang bersyon ng model na kasya.

ModelM5M5 Pro
Llama 3.1 8B Instruct8B11–19 6-bit16–29 8-bit
gpt-oss-20b21B · 3.6B aktibo36–64 native na 4.25-bit73–129 native na 4.25-bit
Qwen3.6 35B A3B35B · 3B aktibo41–72 4-bit43–77 8-bit
Qwen3.8 27B27B3–6 6-bit5–9 8-bit
Llama 3.3 70B Instruct70B3–6 2-bit mas mababang kalidad4–6 4-bit
gpt-oss-120b117B · 5.1B aktibomasyadong malaki86–154 2-bit mas mababang kalidad
Qwen3.5 122B A10B122B · 10B aktibomasyadong malaki45–79 2-bit mas mababang kalidad
DeepSeek V4 Flash 0731284B · 13B aktibomasyadong malakimasyadong malaki

Mga tanong

Mas mabilis ba ang M5 Pro kaysa sa M5 para sa LLM?
Mga 101% na mas mabilis magbasa ng memory ang M5 Pro kaysa sa M5 (307 vs 153 GB/s), kaya mga 101% na mas mabilis itong magsulat sa anumang model na kasya sa dalawa. Ang pagbasa naman ng mahabang prompt ay nakadepende sa GPU compute, na hindi saklaw ng paghahambing na ito.
Alin ang kaya ang mas malalaking model, ang M5 o ang M5 Pro?
Ang M5 Pro: Hanggang 64 GB na memory ang M5 Pro, hanggang 32 GB ang M5. Sa pinakamalaking memory nito, maayos nitong napapatakbo ang 34 sa 73 na open model, kumpara sa 28.

Iba pang paghahambing

Ang M5 para sa local AI · Ang M5 Pro para sa local AI · Ihambing ang bawat model · Ang pinakamagandang Mac para sa local LLM

Paano ito kinuwenta

Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.

M5 vs M5 Pro para sa LLM: memory, bilis, alin ang bilhin