Czy M5 Ultra jest szybszy od M3 Ultra w LLM?

M5 Ultra odczytuje pamięć o około 47% szybciej niż M3 Ultra (1200 wobec 819 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 47% szybciej. Wczytywanie długiego promptu zależy z kolei od mocy obliczeniowej GPU, której to porównanie nie obejmuje.

Który uruchomi większe modele: M3 Ultra czy M5 Ultra?

Żaden: oba mają do 512 GB. Przy tym rozmiarze M3 Ultra dobrze uruchamia 60, a M5 Ultra 61 z 73 otwartych modeli; szybszy z nich przekracza próg 10 tokenów na sekundę z większą liczbą modeli.

M3 Ultra czy M5 Ultra do LLM: pamięć, szybkość, co kupić

Obok siebie

	M3 Ultra	M5 Ultra
Rozmiary pamięci	96, 256, 512 GB	96, 256, 512 GB
Przepustowość pamięci	819 GB/s	1200 GB/s
Dla modeli, maksymalnie	około 384 GB	około 384 GB
Modele działające dobrze	60 z 73	61 z 73
Klasa miejsca MLX	Ultra	Ultra Latest
Występuje w	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Szybkość z popularnymi modelami

Tokeny na sekundę w jednej rozmowie, każdy układ z największą pamięcią (512 GB i 512 GB), z najlepszą wersją modelu, która się mieści.

Model	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8-bit	64–113 8-bit
gpt-oss-20b21B · aktywne: 3,6B	194–345 natywnie 4,25-bit	284–505 natywnie 4,25-bit
Qwen3.6 35B A3B35B · aktywne: 3B	115–205 8-bit	169–300 8-bit
Qwen3.8 27B27B	13–23 8-bit	19–33 8-bit
Llama 3.3 70B Instruct70B	5–9 8-bit	14–24 4-bit
gpt-oss-120b117B · aktywne: 5,1B	137–243 natywnie 4,25-bit	200–356 natywnie 4,25-bit
Qwen3.5 122B A10B122B · aktywne: 10B	35–62 8-bit	51–91 8-bit
DeepSeek V4 Flash 0731284B · aktywne: 13B	27–47 8-bit	39–70 8-bit

Pytania

Czy M5 Ultra jest szybszy od M3 Ultra w LLM?: M5 Ultra odczytuje pamięć o około 47% szybciej niż M3 Ultra (1200 wobec 819 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 47% szybciej. Wczytywanie długiego promptu zależy z kolei od mocy obliczeniowej GPU, której to porównanie nie obejmuje.
Który uruchomi większe modele: M3 Ultra czy M5 Ultra?: Żaden: oba mają do 512 GB. Przy tym rozmiarze M3 Ultra dobrze uruchamia 60, a M5 Ultra 61 z 73 otwartych modeli; szybszy z nich przekracza próg 10 tokenów na sekundę z większą liczbą modeli.

Więcej porównań

M3 Ultra do lokalnej AI · M5 Ultra do lokalnej AI · Porównaj wszystkie modele · Najlepszy Mac do lokalnych LLM

Jak to liczymy

Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.