Je, M5 Max ina kasi zaidi kuliko M3 Ultra kwa LLM?

M3 Ultra husoma kumbukumbu takriban 33% haraka zaidi kuliko M5 Max (819 dhidi ya 614 GB/s), hivyo huandika takriban 33% haraka zaidi na modeli yoyote inayotosha zote mbili. Kusoma prompt ndefu hutegemea uwezo wa kukokotoa wa GPU badala yake, jambo ambalo ulinganisho huu haushughulikii.

Ipi inaweza kuendesha modeli kubwa zaidi, M3 Ultra au M5 Max?

M3 Ultra: M3 Ultra hufikia hadi GB 512 za kumbukumbu, M5 Max hadi GB 128. Ikiwa na kumbukumbu yake kubwa zaidi huendesha vizuri modeli 60 kati ya 73 huria, dhidi ya 47.

M3 Ultra dhidi ya M5 Max kwa LLM: kumbukumbu, kasi, ipi ununue

Kando kwa kando

	M3 Ultra	M5 Max
Ukubwa wa kumbukumbu	96, 256, 512 GB	36, 48, 64, 128 GB
Bandwidth ya kumbukumbu	819 GB/s	460–614 GB/s
Kwa modeli, upeo	takriban GB 384	takriban GB 96
Modeli zinazoenda vizuri	60 kati ya 73	47 kati ya 73
Daraja la kiti cha MLX	Ultra	Pro Latest
Inapatikana katika	Mac Studio (2025)	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)

Kasi na modeli maarufu

Tokeni kwa sekunde kwa mazungumzo moja, kila chipu ikiwa na ukubwa wake mkubwa zaidi wa kumbukumbu (GB 512 na GB 128), na toleo bora la modeli linalotosha.

Modeli	M3 Ultra	M5 Max
Llama 3.1 8B Instruct8B	43–77 8-bit	33–58 8-bit
gpt-oss-20b21B · 3.6B zinazotumika	194–345 4.25-bit asili	145–259 4.25-bit asili
Qwen3.6 35B A3B35B · 3B zinazotumika	115–205 8-bit	86–154 8-bit
Qwen3.8 27B27B	13–23 8-bit	10–17 8-bit
Llama 3.3 70B Instruct70B	5–9 8-bit	4–7 8-bit
gpt-oss-120b117B · 5.1B zinazotumika	137–243 4.25-bit asili	102–182 4.25-bit asili
Qwen3.5 122B A10B122B · 10B zinazotumika	35–62 8-bit	49–88 4-bit
DeepSeek V4 Flash 0731284B · 13B zinazotumika	27–47 8-bit	67–120 2-bit ubora wa chini

Maswali

Je, M5 Max ina kasi zaidi kuliko M3 Ultra kwa LLM?: M3 Ultra husoma kumbukumbu takriban 33% haraka zaidi kuliko M5 Max (819 dhidi ya 614 GB/s), hivyo huandika takriban 33% haraka zaidi na modeli yoyote inayotosha zote mbili. Kusoma prompt ndefu hutegemea uwezo wa kukokotoa wa GPU badala yake, jambo ambalo ulinganisho huu haushughulikii.
Ipi inaweza kuendesha modeli kubwa zaidi, M3 Ultra au M5 Max?: M3 Ultra: M3 Ultra hufikia hadi GB 512 za kumbukumbu, M5 Max hadi GB 128. Ikiwa na kumbukumbu yake kubwa zaidi huendesha vizuri modeli 60 kati ya 73 huria, dhidi ya 47.

Ulinganisho zaidi

M3 Ultra kwa AI ya ndani ya kifaa · M5 Max kwa AI ya ndani ya kifaa · Linganisha kila modeli · Mac bora kwa LLM za ndani

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.