IngiaFungua pochi

M5 Ultra dhidi ya RTX PRO 6000 kwa AI ya ndani.

RTX PRO 6000 husoma kumbukumbu takriban 49% haraka zaidi kuliko M5 Ultra (1,792 dhidi ya 1,200 GB/s), hivyo huandika takriban 49% haraka zaidi na modeli yoyote inayotosha zote mbili. M5 Ultra ina takriban GB 384 kwa modeli, RTX PRO 6000 takriban GB 95.

M5 Ultra1,200 GB/shadi GB 512 · modeli 61 zinaenda vizuriRTX PRO 60001,792 GB/shadi GB 96 · modeli 50 zinaenda vizuri

Kando kwa kando

M5 UltraRTX PRO 6000
Ni niniMac Studio (M5 Max or M5 Ultra)Kadi ya michoro kwa PC ya mezani
Ukubwa wa kumbukumbu96, 256, 512 GB96 GB
Bandwidth ya kumbukumbu1,200 GB/s1,792 GB/s
Kwa modeli, upeotakriban GB 384takriban GB 95
Modeli zinazoenda vizuri61 kati ya 7350 kati ya 73
Iliyopimwa: kuandika179 tok/s274 tok/s
Iliyopimwa: kusoma kidokezo4,945 tok/s14,855 tok/s

Safu zilizopimwa: matokeo ya kasi zaidi ya kila mashine katika vipimo vya wazi vya llama.cpp kwa Llama 2 7B Q4_0, ikiandika tokeni 128 (tg128) na kusoma kidokezo cha tokeni 512 (pp512), kwa tokeni kwa sekunde. Mac ilitumia Metal, RTX PRO 6000 ilitumia CUDA. Matokeo ya Apple Silicon · Matokeo ya RTX PRO 6000 Kwa modeli tunahesabu GB 96 za RTX PRO 6000 yenyewe ukitoa takriban GB 1, na takriban 75% ya kumbukumbu ya pamoja ya Mac, kiwango cha kawaida cha macOS.

Kila moja inashinda wapi

  • Kasi ya kuandika. RTX PRO 6000 husoma kumbukumbu takriban 49% haraka zaidi kuliko M5 Ultra (1,792 dhidi ya 1,200 GB/s), hivyo huandika takriban 49% haraka zaidi na modeli yoyote inayotosha zote mbili.
  • Ukubwa wa modeli. M5 Ultra ina takriban GB 384 kwa modeli, RTX PRO 6000 takriban GB 95. Modeli wazi maarufu 61 kati ya 73 zinaendeshwa vizuri kwenye M5 Ultra, 50 kwenye RTX PRO 6000.
  • Kusoma vidokezo virefu. Katika jaribio lililopimwa la llama.cpp, RTX PRO 6000 husoma kidokezo takriban mara 3 kwa kasi zaidi (tokeni 14,855 dhidi ya 4,945 kwa sekunde). Kusoma kidokezo hutegemea nguvu ya kukokotoa ya GPU, si kipimo data cha kumbukumbu, na ndicho huamua muda wa kusubiri neno la kwanza kwa hati ndefu au msimbo mkubwa.
  • Programu. RTX PRO 6000 hutumia CUDA ya NVIDIA, ambayo programu nyingi za AI huiunga mkono kwanza, ikiwemo msimbo wa mafunzo na zana nyingi za picha na video. Kwenye Mac unaendesha modeli kwa MLX, backend ya Metal ya llama.cpp au backend ya MPS ya PyTorch badala yake.
  • Kinachoizunguka. Kadi ya michoro inahitaji PC ya kuizunguka, na GB 96 zake zenyewe ndizo kikomo: modeli isiyotosha lazima iendeshwe kwa sehemu kutoka kumbukumbu ya mfumo ya PC, iliyo polepole zaidi sana, au igawanywe kwenye kadi ya pili.
  • Mac. Pia ni kompyuta ya kila siku, na huendesha MLX Harness na MLX Node, zilizotengenezwa kwa Apple Silicon.

Kasi na modeli maarufu

Tokeni kwa sekunde kwa mazungumzo moja, kila chipu ikiwa na ukubwa wake mkubwa zaidi wa kumbukumbu (GB 512 na GB 96), na toleo bora la modeli linalotosha.

ModeliM5 UltraRTX PRO 6000
Llama 3.1 8B Instruct8B64–113 8-bit95–169 8-bit
gpt-oss-20b21B · 3.6B zinazotumika284–505 4.25-bit asili424–755 4.25-bit asili
Qwen3.6 35B A3B35B · 3B zinazotumika169–300 8-bit252–448 8-bit
Qwen3.8 27B27B19–33 8-bit28–50 8-bit
Llama 3.3 70B Instruct70B14–24 4-bit11–19 8-bit
gpt-oss-120b117B · 5.1B zinazotumika200–356 4.25-bit asili299–531 4.25-bit asili
Qwen3.5 122B A10B122B · 10B zinazotumika51–91 8-bit144–256 4-bit
DeepSeek V4 Flash 0731284B · 13B zinazotumika39–70 8-bitkubwa mno

Maswali

Je, RTX PRO 6000 ina kasi zaidi kuliko M5 Ultra kwa LLM?
RTX PRO 6000 husoma kumbukumbu takriban 49% haraka zaidi kuliko M5 Ultra (1,792 dhidi ya 1,200 GB/s), hivyo huandika takriban 49% haraka zaidi na modeli yoyote inayotosha zote mbili. Katika jaribio lililopimwa la llama.cpp, RTX PRO 6000 husoma kidokezo takriban mara 3 kwa kasi zaidi (tokeni 14,855 dhidi ya 4,945 kwa sekunde). Kusoma kidokezo hutegemea nguvu ya kukokotoa ya GPU, si kipimo data cha kumbukumbu, na ndicho huamua muda wa kusubiri neno la kwanza kwa hati ndefu au msimbo mkubwa.
Ipi inaweza kuendesha modeli kubwa zaidi, M5 Ultra au RTX PRO 6000?
M5 Ultra ina takriban GB 384 kwa modeli, RTX PRO 6000 takriban GB 95. Modeli wazi maarufu 61 kati ya 73 zinaendeshwa vizuri kwenye M5 Ultra, 50 kwenye RTX PRO 6000.
Je, MLX Node inaendeshwa kwenye RTX PRO 6000?
Hapana. MLX Node na MLX Harness zinaendeshwa kwenye Mac zenye Apple Silicon pekee, kwa mfumo wa MLX wa Apple.

Ulinganisho zaidi

M5 Ultra kwa AI ya ndani ya kifaa · Linganisha kila modeli · Mac bora kwa LLM za ndani

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.

Data ya RTX PRO 6000: NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table).

M5 Ultra dhidi ya RTX PRO 6000 kwa LLM: kumbukumbu, kasi, ipi ununue