Czy Mac Studio z układem M5 Max nadaje się do lokalnych LLM?

Z 128 GB dobrze uruchamia 47 z 73 otwartych modeli, aż do Qwen3.5 122B A10B, i generuje około 145–259 tokenów na sekundę z gpt-oss-20b. M5 Max odczytuje pamięć z szybkością 614 GB/s, co wyznacza szybkość generowania.

Mac Studio z układem M5 Max: ile pamięci potrzeba do AI?

Otwarte modele działające dobrze: 38 przy 36 GB i 47 przy 128 GB, aż do Qwen3.5 122B A10B. Pamięć decyduje o tym, które modele się zmieszczą, i nie da się jej później rozszerzyć.

Mac Studio M5 Max do lokalnej AI: jakie LLM, według pamięci

Według rozmiaru pamięci

Pamięć	Działa dobrze	Największy z dobrze działających	gpt-oss-20b
36 GB460 GB/s	38	Qwen3.6 35B A3B	109–194 tok/s
48 GB614 GB/s	38	Qwen3.6 35B A3B	145–259 tok/s
64 GB614 GB/s	39	Nemotron 3.5 Bolt 74B A9B	145–259 tok/s
128 GB614 GB/s	47	Qwen3.5 122B A10B	145–259 tok/s

Modele: Mac Studio (M5 Max or M5 Ultra). Nie każdy rozmiar pamięci jest dostępny w każdym modelu; specyfikacje techniczne Apple podają, z czym oferowany jest każdy z nich.

Pytania

Czy Mac Studio z układem M5 Max nadaje się do lokalnych LLM?: Z 128 GB dobrze uruchamia 47 z 73 otwartych modeli, aż do Qwen3.5 122B A10B, i generuje około 145–259 tokenów na sekundę z gpt-oss-20b. M5 Max odczytuje pamięć z szybkością 614 GB/s, co wyznacza szybkość generowania.
Mac Studio z układem M5 Max: ile pamięci potrzeba do AI?: Otwarte modele działające dobrze: 38 przy 36 GB i 47 przy 128 GB, aż do Qwen3.5 122B A10B. Pamięć decyduje o tym, które modele się zmieszczą, i nie da się jej później rozszerzyć.

Inne Maki

Mac Studio z innymi układami:

Inne Maki z układem M5 Max:

MacBook Pro M5 Max

Bezpośrednio:

Przeciw komputerom PC i kartom graficznym:

M5 Max do lokalnej AI · Najlepszy Mac do lokalnych LLM · Wszystkie Maki

Jak to liczymy

Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.