Czy RTX 5090 jest szybszy od M5 Max w LLM?

RTX 5090 odczytuje pamięć o około 192% szybciej niż M5 Max (1792 wobec 614 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 192% szybciej. W zmierzonym teście llama.cpp RTX 5090 czyta prompt około 4,4× szybciej (14 073 wobec 3220 tokenów na sekundę). Czytanie promptu zależy od mocy obliczeniowej GPU, a nie od przepustowości pamięci, i to ono decyduje, jak długo czekasz na pierwsze słowo przy długim dokumencie lub repozytorium kodu.

Który uruchomi większe modele: M5 Max czy RTX 5090?

M5 Max ma około 96 GB na modele, RTX 5090 około 31 GB. 47 z 73 popularnych otwartych modeli działa dobrze na M5 Max, 38 na RTX 5090.

Czy MLX Node działa na RTX 5090?

Nie. MLX Node i MLX Harness działają tylko na Macach z Apple Silicon, z frameworkiem MLX firmy Apple.

M5 Max czy RTX 5090 do LLM: pamięć, szybkość, co kupić

Obok siebie

	M5 Max	RTX 5090
Co to jest	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Karta graficzna do komputera stacjonarnego
Rozmiary pamięci	36, 48, 64, 128 GB	32 GB
Przepustowość pamięci	460–614 GB/s	1792 GB/s
Dla modeli, maksymalnie	około 96 GB	około 31 GB
Modele działające dobrze	47 z 73	38 z 73
Zmierzone: generowanie	120 tok/s	290 tok/s
Zmierzone: czytanie promptu	3220 tok/s	14 073 tok/s

Wiersze z pomiarami: najszybszy wynik każdej maszyny w publicznych benchmarkach llama.cpp z Llama 2 7B Q4_0, przy generowaniu 128 tokenów (tg128) i czytaniu promptu z 512 tokenów (pp512), w tokenach na sekundę. Mac działał z Metal, RTX 5090 z CUDA. Wyniki Apple Silicon · Wyniki RTX 5090 Dla modeli liczymy własne 32 GB karty RTX 5090 minus około 1 GB oraz około 75% pamięci zunifikowanej Maca, domyślną wartość macOS.

Gdzie który wygrywa

Szybkość generowania. RTX 5090 odczytuje pamięć o około 192% szybciej niż M5 Max (1792 wobec 614 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 192% szybciej.
Wielkość modelu. M5 Max ma około 96 GB na modele, RTX 5090 około 31 GB. 47 z 73 popularnych otwartych modeli działa dobrze na M5 Max, 38 na RTX 5090.
Czytanie długich promptów. W zmierzonym teście llama.cpp RTX 5090 czyta prompt około 4,4× szybciej (14 073 wobec 3220 tokenów na sekundę). Czytanie promptu zależy od mocy obliczeniowej GPU, a nie od przepustowości pamięci, i to ono decyduje, jak długo czekasz na pierwsze słowo przy długim dokumencie lub repozytorium kodu.
Oprogramowanie. RTX 5090 korzysta z CUDA firmy NVIDIA, którą większość oprogramowania AI obsługuje w pierwszej kolejności, w tym kod do trenowania i wiele narzędzi do obrazu i wideo. Na Macu modele uruchamia się zamiast tego w MLX, w backendzie Metal llama.cpp albo w backendzie MPS PyTorcha.
Otoczenie. Karta graficzna potrzebuje komputera PC wokół siebie, a jej własne 32 GB to granica: model, który się nie mieści, musi działać częściowo z dużo wolniejszej pamięci systemowej PC albo na drugiej karcie.
Mac. To także komputer na co dzień i uruchamia MLX Harness oraz MLX Node, stworzone dla Apple Silicon.

Szybkość z popularnymi modelami

Tokeny na sekundę w jednej rozmowie, każdy układ z największą pamięcią (128 GB i 32 GB), z najlepszą wersją modelu, która się mieści.

Model	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8-bit	95–169 8-bit
gpt-oss-20b21B · aktywne: 3,6B	145–259 natywnie 4,25-bit	424–755 natywnie 4,25-bit
Qwen3.6 35B A3B35B · aktywne: 3B	86–154 8-bit	336–597 6-bit
Qwen3.8 27B27B	10–17 8-bit	28–50 8-bit
Llama 3.3 70B Instruct70B	4–7 8-bit	37–65 2-bit niższa jakość
gpt-oss-120b117B · aktywne: 5,1B	102–182 natywnie 4,25-bit	za duży
Qwen3.5 122B A10B122B · aktywne: 10B	49–88 4-bit	za duży
DeepSeek V4 Flash 0731284B · aktywne: 13B	67–120 2-bit niższa jakość	za duży

Pytania

Czy RTX 5090 jest szybszy od M5 Max w LLM?: RTX 5090 odczytuje pamięć o około 192% szybciej niż M5 Max (1792 wobec 614 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 192% szybciej. W zmierzonym teście llama.cpp RTX 5090 czyta prompt około 4,4× szybciej (14 073 wobec 3220 tokenów na sekundę). Czytanie promptu zależy od mocy obliczeniowej GPU, a nie od przepustowości pamięci, i to ono decyduje, jak długo czekasz na pierwsze słowo przy długim dokumencie lub repozytorium kodu.
Który uruchomi większe modele: M5 Max czy RTX 5090?: M5 Max ma około 96 GB na modele, RTX 5090 około 31 GB. 47 z 73 popularnych otwartych modeli działa dobrze na M5 Max, 38 na RTX 5090.
Czy MLX Node działa na RTX 5090?: Nie. MLX Node i MLX Harness działają tylko na Macach z Apple Silicon, z frameworkiem MLX firmy Apple.

Więcej porównań

M5 Max do lokalnej AI · Porównaj wszystkie modele · Najlepszy Mac do lokalnych LLM

Jak to liczymy

Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.

Dane RTX 5090: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).