Według rozmiaru pamięci
| Pamięć | Działa dobrze | Największy z dobrze działających | gpt-oss-20b |
|---|---|---|---|
| 24 GB273 GB/s | 25 | Gemma 4 26B A4B | 65–115 tok/s |
| 48 GB273 GB/s | 30 | Qwen3.6 35B A3B | 65–115 tok/s |
| 64 GB273 GB/s | 31 | Nemotron 3.5 Bolt 74B A9B | 65–115 tok/s |
Modele: Mac mini (2024). Nie każdy rozmiar pamięci jest dostępny w każdym modelu; specyfikacje techniczne Apple podają, z czym oferowany jest każdy z nich.
Pytania
- Czy Mac mini z układem M4 Pro nadaje się do lokalnych LLM?
- Z 64 GB dobrze uruchamia 31 z 73 otwartych modeli, aż do Nemotron 3.5 Bolt 74B A9B, i generuje około 65–115 tokenów na sekundę z gpt-oss-20b. M4 Pro odczytuje pamięć z szybkością 273 GB/s, co wyznacza szybkość generowania.
- Mac mini z układem M4 Pro: ile pamięci potrzeba do AI?
- Otwarte modele działające dobrze: 25 przy 24 GB i 31 przy 64 GB, aż do Nemotron 3.5 Bolt 74B A9B. Pamięć decyduje o tym, które modele się zmieszczą, i nie da się jej później rozszerzyć.
Inne Maki
Mac mini z innymi układami:
Inne Maki z układem M4 Pro:
Bezpośrednio:
Przeciw komputerom PC i kartom graficznym:
M4 Pro do lokalnej AI · Najlepszy Mac do lokalnych LLM · Wszystkie Maki
Jak to liczymy
Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.