Kando kwa kando
| M1 Ultra | M2 Ultra | |
|---|---|---|
| Ukubwa wa kumbukumbu | 64, 128 GB | 64, 128, 192 GB |
| Bandwidth ya kumbukumbu | 800 GB/s | 800 GB/s |
| Kwa modeli, upeo | takriban GB 96 | takriban GB 144 |
| Modeli zinazoenda vizuri | 47 kati ya 73 | 49 kati ya 73 |
| Daraja la kiti cha MLX | Ultra | Ultra |
| Inapatikana katika | Mac Studio (2022) | Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023) |
Kasi na modeli maarufu
Tokeni kwa sekunde kwa mazungumzo moja, kila chipu ikiwa na ukubwa wake mkubwa zaidi wa kumbukumbu (GB 128 na GB 192), na toleo bora la modeli linalotosha.
| Modeli | M1 Ultra | M2 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8-bit | 42–75 8-bit |
| gpt-oss-20b21B · 3.6B zinazotumika | 189–337 4.25-bit asili | 189–337 4.25-bit asili |
| Qwen3.6 35B A3B35B · 3B zinazotumika | 113–200 8-bit | 113–200 8-bit |
| Qwen3.8 27B27B | 13–22 8-bit | 13–22 8-bit |
| Llama 3.3 70B Instruct70B | 5–9 8-bit | 5–9 8-bit |
| gpt-oss-120b117B · 5.1B zinazotumika | 133–237 4.25-bit asili | 133–237 4.25-bit asili |
| Qwen3.5 122B A10B122B · 10B zinazotumika | 64–114 4-bit | 34–60 8-bit |
| DeepSeek V4 Flash 0731284B · 13B zinazotumika | 88–156 2-bit ubora wa chini | 63–112 3-bit ubora wa chini |
Maswali
- Je, M2 Ultra ina kasi zaidi kuliko M1 Ultra kwa LLM?
- Karibu sawa: bandwidth zao za kumbukumbu zinatofautiana kwa asilimia chache tu. M2 Ultra hufikia hadi GB 192 za kumbukumbu, M1 Ultra hadi GB 128.
- Ipi inaweza kuendesha modeli kubwa zaidi, M1 Ultra au M2 Ultra?
- M2 Ultra: M2 Ultra hufikia hadi GB 192 za kumbukumbu, M1 Ultra hadi GB 128. Ikiwa na kumbukumbu yake kubwa zaidi huendesha vizuri modeli 49 kati ya 73 huria, dhidi ya 47.
Ulinganisho zaidi
M1 Ultra kwa AI ya ndani ya kifaa · M2 Ultra kwa AI ya ndani ya kifaa · Linganisha kila modeli · Mac bora kwa LLM za ndani
Jinsi inavyokokotolewa
Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.