Je, M4 ina kasi zaidi kuliko M3 kwa LLM?

M4 husoma kumbukumbu takriban 20% haraka zaidi kuliko M3 (120 dhidi ya 100 GB/s), hivyo huandika takriban 20% haraka zaidi na modeli yoyote inayotosha zote mbili. Kusoma prompt ndefu hutegemea uwezo wa kukokotoa wa GPU badala yake, jambo ambalo ulinganisho huu haushughulikii.

Ipi inaweza kuendesha modeli kubwa zaidi, M3 au M4?

M4: M4 hufikia hadi GB 32 za kumbukumbu, M3 hadi GB 24. Ikiwa na kumbukumbu yake kubwa zaidi huendesha vizuri modeli 27 kati ya 73 huria, dhidi ya 20.

M3 dhidi ya M4 kwa LLM: kumbukumbu, kasi, ipi ununue

Kando kwa kando

	M3	M4
Ukubwa wa kumbukumbu	8, 16, 24 GB	16, 24, 32 GB
Bandwidth ya kumbukumbu	100 GB/s	120 GB/s
Kwa modeli, upeo	takriban GB 18	takriban GB 24
Modeli zinazoenda vizuri	20 kati ya 73	27 kati ya 73
Daraja la kiti cha MLX	Core	Core
Inapatikana katika	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)	MacBook Pro (14-inch, M4, 2024), iMac (24-inch, 2024, Two ports), iMac (24-inch, 2024, Four ports), Mac mini (2024), MacBook Air (13-inch, M4, 2025), MacBook Air (15-inch, M4, 2025)

Kasi na modeli maarufu

Tokeni kwa sekunde kwa mazungumzo moja, kila chipu ikiwa na ukubwa wake mkubwa zaidi wa kumbukumbu (GB 24 na GB 32), na toleo bora la modeli linalotosha.

Modeli	M3	M4
Llama 3.1 8B Instruct8B	10–18 4-bit	12–21 4-bit
gpt-oss-20b21B · 3.6B zinazotumika	24–42 4.25-bit asili	28–51 4.25-bit asili
Qwen3.6 35B A3B35B · 3B zinazotumika	35–62 3-bit ubora wa chini	32–56 4-bit
Qwen3.8 27B27B	3–5 4-bit	2–4 6-bit
Llama 3.3 70B Instruct70B	kubwa mno	2–4 2-bit ubora wa chini
gpt-oss-120b117B · 5.1B zinazotumika	kubwa mno	kubwa mno
Qwen3.5 122B A10B122B · 10B zinazotumika	kubwa mno	kubwa mno
DeepSeek V4 Flash 0731284B · 13B zinazotumika	kubwa mno	kubwa mno

Maswali

Je, M4 ina kasi zaidi kuliko M3 kwa LLM?: M4 husoma kumbukumbu takriban 20% haraka zaidi kuliko M3 (120 dhidi ya 100 GB/s), hivyo huandika takriban 20% haraka zaidi na modeli yoyote inayotosha zote mbili. Kusoma prompt ndefu hutegemea uwezo wa kukokotoa wa GPU badala yake, jambo ambalo ulinganisho huu haushughulikii.
Ipi inaweza kuendesha modeli kubwa zaidi, M3 au M4?: M4: M4 hufikia hadi GB 32 za kumbukumbu, M3 hadi GB 24. Ikiwa na kumbukumbu yake kubwa zaidi huendesha vizuri modeli 27 kati ya 73 huria, dhidi ya 20.

Ulinganisho zaidi

M3 kwa AI ya ndani ya kifaa · M4 kwa AI ya ndani ya kifaa · Linganisha kila modeli · Mac bora kwa LLM za ndani

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.