Obok siebie
Szybkość z popularnymi modelami
Tokeny na sekundę w jednej rozmowie, każdy układ z największą pamięcią (64 GB i 128 GB), z najlepszą wersją modelu, która się mieści.
| Model | M1 Max | M1 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 21–38 8-bit | 42–75 8-bit |
| gpt-oss-20b21B · aktywne: 3,6B | 95–168 natywnie 4,25-bit | 189–337 natywnie 4,25-bit |
| Qwen3.6 35B A3B35B · aktywne: 3B | 56–100 8-bit | 113–200 8-bit |
| Qwen3.8 27B27B | 12–21 4-bit | 13–22 8-bit |
| Llama 3.3 70B Instruct70B | 5–8 4-bit | 5–9 8-bit |
| gpt-oss-120b117B · aktywne: 5,1B | 113–200 2-bit niższa jakość | 133–237 natywnie 4,25-bit |
| Qwen3.5 122B A10B122B · aktywne: 10B | 58–103 2-bit niższa jakość | 64–114 4-bit |
| DeepSeek V4 Flash 0731284B · aktywne: 13B | za duży | 88–156 2-bit niższa jakość |
Pytania
- Czy M1 Ultra jest szybszy od M1 Max w LLM?
- M1 Ultra odczytuje pamięć o około 100% szybciej niż M1 Max (800 wobec 400 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 100% szybciej. Wczytywanie długiego promptu zależy z kolei od mocy obliczeniowej GPU, której to porównanie nie obejmuje.
- Który uruchomi większe modele: M1 Max czy M1 Ultra?
- M1 Ultra: M1 Ultra ma do 128 GB pamięci, M1 Max do 64 GB. W największej konfiguracji dobrze uruchamia 47 z 73 otwartych modeli, wobec 39.
Więcej porównań
M1 Max do lokalnej AI · M1 Ultra do lokalnej AI · Porównaj wszystkie modele · Najlepszy Mac do lokalnych LLM
Jak to liczymy
Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.