Mas mabilis ba ang M3 kaysa sa M2 para sa LLM?

Halos pareho: ilang porsiyento lang ang pagitan ng memory bandwidth nila. Pareho silang hanggang 24 GB na memory.

Alin ang kaya ang mas malalaking model, ang M2 o ang M3?

Wala: pareho silang hanggang 24 GB. Sa laking iyon, maayos na napapatakbo ng M2 ang 20 at ng M3 ang 20 sa 73 na open model; mas marami ang naaabot ng mas mabilis sa 10 token bawat segundo.

M2 vs M3 para sa LLM: memory, bilis, alin ang bilhin

Magkatabi

	M2	M3
Mga memory size	8, 16, 24 GB	8, 16, 24 GB
Memory bandwidth	100 GB/s	100 GB/s
Para sa model, hanggang	mga 18 GB	mga 18 GB
Mga model na maayos tumakbo	20 sa 73	20 sa 73
Klase ng MLX seat	Core	Core
Makikita sa	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)

Bilis sa mga sikat na model

Token bawat segundo para sa isang usapan, bawat chip sa pinakamalaking memory size nito (24 GB at 24 GB), gamit ang pinakamagandang bersyon ng model na kasya.

Model	M2	M3
Llama 3.1 8B Instruct8B	10–18 4-bit	10–18 4-bit
gpt-oss-20b21B · 3.6B aktibo	24–42 native na 4.25-bit	24–42 native na 4.25-bit
Qwen3.6 35B A3B35B · 3B aktibo	35–62 3-bit mas mababang kalidad	35–62 3-bit mas mababang kalidad
Qwen3.8 27B27B	3–5 4-bit	3–5 4-bit
Llama 3.3 70B Instruct70B	masyadong malaki	masyadong malaki
gpt-oss-120b117B · 5.1B aktibo	masyadong malaki	masyadong malaki
Qwen3.5 122B A10B122B · 10B aktibo	masyadong malaki	masyadong malaki
DeepSeek V4 Flash 0731284B · 13B aktibo	masyadong malaki	masyadong malaki

Mga tanong

Mas mabilis ba ang M3 kaysa sa M2 para sa LLM?: Halos pareho: ilang porsiyento lang ang pagitan ng memory bandwidth nila. Pareho silang hanggang 24 GB na memory.
Alin ang kaya ang mas malalaking model, ang M2 o ang M3?: Wala: pareho silang hanggang 24 GB. Sa laking iyon, maayos na napapatakbo ng M2 ang 20 at ng M3 ang 20 sa 73 na open model; mas marami ang naaabot ng mas mabilis sa 10 token bawat segundo.

Iba pang paghahambing

Ang M2 para sa local AI · Ang M3 para sa local AI · Ihambing ang bawat model · Ang pinakamagandang Mac para sa local LLM

Paano ito kinuwenta

Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.