Obok siebie
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| Co to jest | Mac Studio (M5 Max or M5 Ultra) | Karta graficzna do komputera stacjonarnego |
| Rozmiary pamięci | 96, 256, 512 GB | 96 GB |
| Przepustowość pamięci | 1200 GB/s | 1792 GB/s |
| Dla modeli, maksymalnie | około 384 GB | około 95 GB |
| Modele działające dobrze | 61 z 73 | 50 z 73 |
| Zmierzone: generowanie | 179 tok/s | 274 tok/s |
| Zmierzone: czytanie promptu | 4945 tok/s | 14 855 tok/s |
Wiersze z pomiarami: najszybszy wynik każdej maszyny w publicznych benchmarkach llama.cpp z Llama 2 7B Q4_0, przy generowaniu 128 tokenów (tg128) i czytaniu promptu z 512 tokenów (pp512), w tokenach na sekundę. Mac działał z Metal, RTX PRO 6000 z CUDA. Wyniki Apple Silicon · Wyniki RTX PRO 6000 Dla modeli liczymy własne 96 GB karty RTX PRO 6000 minus około 1 GB oraz około 75% pamięci zunifikowanej Maca, domyślną wartość macOS.
Gdzie który wygrywa
- Szybkość generowania. RTX PRO 6000 odczytuje pamięć o około 49% szybciej niż M5 Ultra (1792 wobec 1200 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 49% szybciej.
- Wielkość modelu. M5 Ultra ma około 384 GB na modele, RTX PRO 6000 około 95 GB. 61 z 73 popularnych otwartych modeli działa dobrze na M5 Ultra, 50 na RTX PRO 6000.
- Czytanie długich promptów. W zmierzonym teście llama.cpp RTX PRO 6000 czyta prompt około 3× szybciej (14 855 wobec 4945 tokenów na sekundę). Czytanie promptu zależy od mocy obliczeniowej GPU, a nie od przepustowości pamięci, i to ono decyduje, jak długo czekasz na pierwsze słowo przy długim dokumencie lub repozytorium kodu.
- Oprogramowanie. RTX PRO 6000 korzysta z CUDA firmy NVIDIA, którą większość oprogramowania AI obsługuje w pierwszej kolejności, w tym kod do trenowania i wiele narzędzi do obrazu i wideo. Na Macu modele uruchamia się zamiast tego w MLX, w backendzie Metal llama.cpp albo w backendzie MPS PyTorcha.
- Otoczenie. Karta graficzna potrzebuje komputera PC wokół siebie, a jej własne 96 GB to granica: model, który się nie mieści, musi działać częściowo z dużo wolniejszej pamięci systemowej PC albo na drugiej karcie.
- Mac. To także komputer na co dzień i uruchamia MLX Harness oraz MLX Node, stworzone dla Apple Silicon.
Szybkość z popularnymi modelami
Tokeny na sekundę w jednej rozmowie, każdy układ z największą pamięcią (512 GB i 96 GB), z najlepszą wersją modelu, która się mieści.
| Model | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8-bit | 95–169 8-bit |
| gpt-oss-20b21B · aktywne: 3,6B | 284–505 natywnie 4,25-bit | 424–755 natywnie 4,25-bit |
| Qwen3.6 35B A3B35B · aktywne: 3B | 169–300 8-bit | 252–448 8-bit |
| Qwen3.8 27B27B | 19–33 8-bit | 28–50 8-bit |
| Llama 3.3 70B Instruct70B | 14–24 4-bit | 11–19 8-bit |
| gpt-oss-120b117B · aktywne: 5,1B | 200–356 natywnie 4,25-bit | 299–531 natywnie 4,25-bit |
| Qwen3.5 122B A10B122B · aktywne: 10B | 51–91 8-bit | 144–256 4-bit |
| DeepSeek V4 Flash 0731284B · aktywne: 13B | 39–70 8-bit | za duży |
Pytania
- Czy RTX PRO 6000 jest szybszy od M5 Ultra w LLM?
- RTX PRO 6000 odczytuje pamięć o około 49% szybciej niż M5 Ultra (1792 wobec 1200 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 49% szybciej. W zmierzonym teście llama.cpp RTX PRO 6000 czyta prompt około 3× szybciej (14 855 wobec 4945 tokenów na sekundę). Czytanie promptu zależy od mocy obliczeniowej GPU, a nie od przepustowości pamięci, i to ono decyduje, jak długo czekasz na pierwsze słowo przy długim dokumencie lub repozytorium kodu.
- Który uruchomi większe modele: M5 Ultra czy RTX PRO 6000?
- M5 Ultra ma około 384 GB na modele, RTX PRO 6000 około 95 GB. 61 z 73 popularnych otwartych modeli działa dobrze na M5 Ultra, 50 na RTX PRO 6000.
- Czy MLX Node działa na RTX PRO 6000?
- Nie. MLX Node i MLX Harness działają tylko na Macach z Apple Silicon, z frameworkiem MLX firmy Apple.
Więcej porównań
M5 Ultra do lokalnej AI · Porównaj wszystkie modele · Najlepszy Mac do lokalnych LLM
Jak to liczymy
Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.
Dane RTX PRO 6000: NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table).