Mac mini jako Twój serwer AI.

1Dlaczego Mac mini

Pisanie tekstu przez model językowy jest ograniczone szybkością odczytu wag z pamięci. Na Macu GPU czyta pamięć zunifikowaną bezpośrednio, więc Mac mini z 64 GB mieści modele, które nie zmieszczą się na konsumenckiej karcie graficznej, przy kilku watach w spoczynku. Zajmuje mało miejsca i działa na macOS, więc działają na nim te same narzędzia co na MacBooku.

Jego ograniczenia to pamięć i przepustowość. Największy Mac mini ma 64 GB przy 307 GB/s; do modeli klasy 70B w wyższej precyzji lub największych otwartych modeli krokiem wyżej jest Mac Studio z pamięcią do 512 GB (Apple). Zobacz najlepszy Mac do lokalnych LLM.

2Który Mac mini do jakich modeli

Przepustowość wyznacza szybkość: M5 Pro czyta pamięć o około 80% szybciej niż M6 z 24 lub 32 GB, więc ten sam model może na nim pisać nawet o około 80% szybciej. Każdy wiersz prowadzi do wszystkich modeli, które dobrze działają na danym Macu, z szybkościami. Wcześniejsze Maki mini z M4 i M4 Pro działają tak samo: Mac mini M4 Pro.

Agenty i długie dokumenty potrzebują pamięci na kontekst ponad sam model. Jeśli głównym zadaniem jest agent AI, wybierz więcej pamięci zamiast szybszego układu.

3Niech nie zasypia i będzie osiągalny

Otwórz na Mac mini Ustawienia systemowe › Oszczędzanie energii (Apple):

• Zapobiegaj automatycznemu usypianiu, gdy ekran jest wyłączony: włączone, żeby serwer odpowiadał bez podłączonego ekranu.
• Uruchamiaj automatycznie po awarii zasilania: włączone, żeby sam wracał do pracy.
• Budź w celu uzyskania dostępu do sieci: włączone, jeśli pozwalasz mu zasypiać.
• Tryb niskiego zużycia energii: Apple zaleca go dla komputerów, które są stale włączone, takich jak serwery, aby ograniczyć zużycie energii i hałas wentylatora.

Aby zarządzać nim bez ekranu, włącz Logowanie zdalne (SSH) lub Udostępnianie ekranu w Ustawieniach systemowych › Ogólne › Udostępnianie (Apple). Ustaw aplikację serwera tak, by otwierała się przy logowaniu, a restart przywróci wszystko.

4Udostępnij model innym urządzeniom

Każde z tych narzędzi uruchamia model na Mac mini i daje innym aplikacjom API w formacie API OpenAI, który przyjmuje większość aplikacji do czatu, narzędzi do kodowania i agentów:

Na przykład z mlx-lm:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama domyślnie zwalnia model z pamięci po 5 minutach bez zapytań; na serwerze ustaw OLLAMA_KEEP_ALIVE, by go w niej trzymać (Ollama). Najlepsze aplikacje do uruchamiania LLM na Macu porównuje te narzędzia szczegółowo.

AI App Store zbiera te narzędzia i inne aplikacje uruchamiające modele lokalnie, każde z oficjalnym pobraniem od twórcy, licencją i informacją, dokąd trafiają Twoje dane.

5Agenty AI na Mac mini

Wiele komputerów Mac mini uruchamia dziś agenty AI, które przez całą dobę pracują w aplikacjach do czatu, na plikach i w sieci. OpenClaw to na przykład otwartoźródłowy asystent działający na Twoim własnym komputerze, w którym modele, również lokalne, są wymiennymi wtyczkami (OpenClaw). Wskaż takiemu agentowi adres lokalnego serwera, a użyje modelu na Twoim Mac mini zamiast API w chmurze.

Przy agentach dwie rzeczy liczą się bardziej niż przy czacie. Kontekst: agenty wysyłają długie prompty z opisami narzędzi i historią, co zajmuje pamięć ponad sam model (zobacz dlaczego). I jakość modelu: największy model, który dobrze działa na Twoim Mac mini, będzie trzymał się instrukcji i wywoływał narzędzia pewniej niż mały.

6Zachowaj prywatność

• Te serwery nasłuchują tylko na samym Macu, dopóki tego nie zmienisz. Otwieraj je wyłącznie dla sieci domowej lub biurowej i tylko wtedy, gdy ufasz podłączonym do niej urządzeniom.
• Dokumentacja mlx-lm sama mówi, że jego serwer nie jest zalecany do zastosowań produkcyjnych, bo ma tylko podstawowe zabezpieczenia (mlx-lm).
• Nie przekierowuj portu do internetu. Aby dostać się do Mac mini z zewnątrz, użyj sieci prywatnej, na przykład VPN.
• Agent, który może wykonywać polecenia lub wysyłać wiadomości, działa na Twoich kontach: daj mu tylko taki dostęp, jakiego potrzebuje.

7Ile kosztuje i co z jego wolnymi godzinami

Domowy serwer przez większość dnia czeka. MLX Node może wykorzystać te godziny: wykonuje zadania AI dla MLX Network w ustawionych przez Ciebie limitach, łącznie z tym, ile pamięci może zająć zadanie, i zarabia tokeny MLX na darmowym miejscu, do 1 MLX dziennie. Wstrzymaj go, gdy potrzebujesz Mac mini z pełną mocą, albo pozwól mu startować dopiero wtedy, gdy Mac jest bezczynny. Zarobki zależą od sieci i nie są gwarantowane: przeczytaj o ryzykach.

8Pytania

Czy Mac mini nadaje się do AI?

Do lokalnego uruchamiania modeli tak: jego GPU czyta pamięć zunifikowaną bezpośrednio, więc M5 Pro z 64 GB mieści modele do około 85B parametrów w 4 bitach, przy kilku watach w spoczynku. Do trenowania lub największych modeli lepszym narzędziem jest Mac Studio albo serwer z GPU.

Którego Mac mini kupić na serwer lokalnego LLM?

Z jak największą pamięcią: pamięć decyduje, które modele się zmieszczą, i nie da się jej później rozbudować. M5 Pro czyta też pamięć o około 80% szybciej niż M6 z 24 lub 32 GB, więc pisze szybciej. Porównaj każdą konfigurację na stronach Mac mini M5 Pro i Mac mini M6.

Czy Mac mini uruchomi model 70B?

Tylko M5 Pro z 64 GB, w 4 bitach i z krótkim kontekstem: wagi zajmują około 39 GB z 48 GB, których GPU może domyślnie użyć. Pisze powoli, kilka tokenów na sekundę. Zobacz Llama 3.3 70B na Macu.

Jak używać modelu z Mac mini na laptopie lub telefonie?

Uruchom serwer tak, by nasłuchiwał w Twojej sieci (na przykład mlx_lm.server --host 0.0.0.0), a potem wskaż aplikacji na drugim urządzeniu adres http://<mac-mini-name>.local:8080/v1 jako endpoint zgodny z OpenAI.

Ile prądu zużywa serwer AI na Mac mini?

Mac mini z M6 pobiera około 4 W w spoczynku i do 70 W; z M5 Pro od 6 W do 145 W. Na pełnych obrotach przez całą dobę to najwyżej 1,68 lub 3,48 kWh (Apple).