Je, M2 Ultra ina kasi zaidi kuliko M2 Max kwa LLM?

M2 Ultra husoma kumbukumbu takriban 100% haraka zaidi kuliko M2 Max (800 dhidi ya 400 GB/s), hivyo huandika takriban 100% haraka zaidi na modeli yoyote inayotosha zote mbili. Kusoma prompt ndefu hutegemea uwezo wa kukokotoa wa GPU badala yake, jambo ambalo ulinganisho huu haushughulikii.

Ipi inaweza kuendesha modeli kubwa zaidi, M2 Max au M2 Ultra?

M2 Ultra: M2 Ultra hufikia hadi GB 192 za kumbukumbu, M2 Max hadi GB 96. Ikiwa na kumbukumbu yake kubwa zaidi huendesha vizuri modeli 49 kati ya 73 huria, dhidi ya 43.

M2 Max dhidi ya M2 Ultra kwa LLM: kumbukumbu, kasi, ipi ununue

Kando kwa kando

	M2 Max	M2 Ultra
Ukubwa wa kumbukumbu	32, 64, 96 GB	64, 128, 192 GB
Bandwidth ya kumbukumbu	400 GB/s	800 GB/s
Kwa modeli, upeo	takriban GB 72	takriban GB 144
Modeli zinazoenda vizuri	43 kati ya 73	49 kati ya 73
Daraja la kiti cha MLX	Pro	Ultra
Inapatikana katika	MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac Studio (2023)	Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)

Kasi na modeli maarufu

Tokeni kwa sekunde kwa mazungumzo moja, kila chipu ikiwa na ukubwa wake mkubwa zaidi wa kumbukumbu (GB 96 na GB 192), na toleo bora la modeli linalotosha.

Modeli	M2 Max	M2 Ultra
Llama 3.1 8B Instruct8B	21–38 8-bit	42–75 8-bit
gpt-oss-20b21B · 3.6B zinazotumika	95–168 4.25-bit asili	189–337 4.25-bit asili
Qwen3.6 35B A3B35B · 3B zinazotumika	56–100 8-bit	113–200 8-bit
Qwen3.8 27B27B	12–21 4-bit	13–22 8-bit
Llama 3.3 70B Instruct70B	3–6 6-bit	5–9 8-bit
gpt-oss-120b117B · 5.1B zinazotumika	67–119 4.25-bit asili	133–237 4.25-bit asili
Qwen3.5 122B A10B122B · 10B zinazotumika	41–73 3-bit ubora wa chini	34–60 8-bit
DeepSeek V4 Flash 0731284B · 13B zinazotumika	kubwa mno	63–112 3-bit ubora wa chini

Maswali

Je, M2 Ultra ina kasi zaidi kuliko M2 Max kwa LLM?: M2 Ultra husoma kumbukumbu takriban 100% haraka zaidi kuliko M2 Max (800 dhidi ya 400 GB/s), hivyo huandika takriban 100% haraka zaidi na modeli yoyote inayotosha zote mbili. Kusoma prompt ndefu hutegemea uwezo wa kukokotoa wa GPU badala yake, jambo ambalo ulinganisho huu haushughulikii.
Ipi inaweza kuendesha modeli kubwa zaidi, M2 Max au M2 Ultra?: M2 Ultra: M2 Ultra hufikia hadi GB 192 za kumbukumbu, M2 Max hadi GB 96. Ikiwa na kumbukumbu yake kubwa zaidi huendesha vizuri modeli 49 kati ya 73 huria, dhidi ya 43.

Ulinganisho zaidi

M2 Max kwa AI ya ndani ya kifaa · M2 Ultra kwa AI ya ndani ya kifaa · Linganisha kila modeli · Mac bora kwa LLM za ndani

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.