Yapay zekâ sunucunuz olarak bir Mac mini.

1Neden Mac mini?

Bir dil modeliyle metin yazmak, ağırlıkların bellekten ne kadar hızlı okunabildiğiyle sınırlıdır. Mac'te GPU birleşik belleği doğrudan okur; böylece 64 GB'lık bir Mac mini, tüketici ekran kartlarına sığmayan modelleri boştayken birkaç watt harcayarak barındırabilir. Az yer kaplar ve macOS çalıştırır; yani MacBook'taki araçların aynısı çalışır.

Sınırları bellek ve bant genişliğidir. En büyük Mac mini'de 307 GB/s hızında 64 GB bellek vardır; daha yüksek hassasiyetteki 70B sınıfı modeller veya en büyük açık modeller için bir üst basamak 512 GB'a kadar bellekli Mac Studio'dur (Apple). Yerel LLM için en iyi Mac rehberine bakın.

2Hangi modeller için hangi Mac mini

Hızı bant genişliği belirler: M5 Pro, belleği 24 veya 32 GB'lık M6'dan yaklaşık %80 daha hızlı okur; yani aynı model onda yaklaşık %80'e kadar daha hızlı yazabilir. Her satır, o Mac'te iyi çalışan tüm modellere hızlarıyla birlikte bağlanır. M4 ve M4 Pro'lu eski Mac mini'ler de aynı şekilde çalışır: Mac mini M4 Pro.

Ajanlar ve uzun belgeler, modelin üzerine bağlam belleği de ister. Asıl iş bir yapay zekâ ajanıysa daha hızlı bir çip yerine daha fazla bellek seçin.

3Uyanık ve erişilebilir tutun

Mac mini'de Sistem Ayarları › Enerji'yi açın (Apple):

• Ekran kapalıyken otomatik uykuyu engelle: açık; böylece sunucu ekran bağlı olmadan da yanıt vermeye devam eder.
• Elektrik kesintisinden sonra otomatik olarak başlat: açık; böylece kendiliğinden geri gelir.
• Ağ erişimi için uyandır: uyumasına izin veriyorsanız açık.
• Düşük Güç Modu: Apple, enerji kullanımını ve fan sesini azaltmak için bunu sunucular gibi sürekli açık bilgisayarlara önerir.

Ekransız yönetmek için Sistem Ayarları › Genel › Paylaşma'da Uzaktan Giriş'i (SSH) veya Ekran Paylaşma'yı açın (Apple). Sunucu uygulamasını oturum açılışında başlayacak şekilde ayarlayın; böylece yeniden başlatma her şeyi geri getirir.

4Modeli diğer cihazlarınıza sunun

Bunların her biri modeli Mac mini'de çalıştırır ve diğer uygulamalarınıza OpenAI API'sinin kullandığı biçimde bir API verir; çoğu sohbet uygulaması, kodlama aracı ve ajan bunu kabul eder:

Örneğin mlx-lm ile:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama, varsayılan olarak 5 dakika istek gelmeyen bir modeli bellekten boşaltır; bir sunucuda modeli bellekte tutmak için OLLAMA_KEEP_ALIVE değişkenini ayarlayın (Ollama). Mac'te LLM çalıştırmak için en iyi uygulamalar bu araçları ayrıntılı karşılaştırır.

AI App Store, bu araçları ve modelleri yerelde çalıştıran başka uygulamaları listeler; her biri geliştiricinin resmî indirmesi, lisansı ve verilerinizin nereye gittiğiyle birlikte.

5Üzerinde yapay zekâ ajanları çalıştırmak

Artık pek çok Mac mini, sohbet uygulamaları, dosyalar ve web üzerinden gece gündüz çalışan yapay zekâ ajanlarını çalıştırıyor. Örneğin OpenClaw, kendi bilgisayarınızda çalışan açık kaynaklı bir asistandır; yereller dahil modeller, değiştirebileceğiniz eklentilerdir (OpenClaw). Böyle bir ajanı yerel sunucunun adresine yönlendirin; bulut API'si yerine Mac mini'nizdeki modeli kullanır.

Ajanlar için iki şey sohbetten daha önemlidir. Bağlam: ajanlar araç açıklamaları ve geçmişle uzun istemler gönderir; bu da modelin üzerine bellek ister (nedenine bakın). Ve model kalitesi: Mac mini'nizde iyi çalışan en büyük model, talimatları küçük bir modelden daha güvenilir biçimde izler ve araçları daha güvenilir çağırır.

6Gizli tutun

• Bu sunucular siz değiştirene kadar yalnızca Mac'in kendisini dinler. Onları yalnızca ev veya ofis ağınıza açın, o da ancak ağdaki cihazlara güveniyorsanız.
• mlx-lm'in kendi belgeleri, yalnızca temel güvenlik denetimleri uyguladığı için sunucusunun üretim ortamı için önerilmediğini söyler (mlx-lm).
• İnternete port yönlendirmeyin. Mac mini'ye dışarıdan ulaşmak için VPN gibi özel bir ağ kullanın.
• Komut çalıştırabilen veya mesaj gönderebilen bir ajan sizin hesaplarınızla hareket eder: ona yalnızca ihtiyaç duyduğu erişimi verin.

7Maliyeti ve boş saatleri

Bir ev sunucusu gününün çoğunu bekleyerek geçirir. MLX Node bu saatleri değerlendirebilir: belirlediğiniz sınırlar içinde, bir işin ne kadar bellek alabileceği dahil, MLX Network için yapay zekâ işleri çalıştırır ve ücretsiz koltukta günde 1 MLX'e kadar MLX Tokens kazanır. Mac mini'ye tam hızda ihtiyacınız olduğunda duraklatın ya da yalnızca Mac bir süre boşta kaldıktan sonra başlamasına izin verin. Kazançlar ağa bağlıdır ve garanti değildir: riskleri okuyun.

8Sorular

Mac mini yapay zekâ için iyi mi?

Modelleri yerelde çalıştırmak için evet: GPU'su birleşik belleği doğrudan okur; böylece 64 GB'lık M5 Pro, 4 bitte yaklaşık 85B parametreye kadar modelleri boştayken birkaç watt harcayarak barındırır. Eğitim veya en büyük modeller için Mac Studio ya da bir GPU sunucusu daha iyi araçtır.

Yerel LLM sunucusu için hangi Mac mini'yi almalıyım?

Alabildiğiniz kadar çok bellek: hangi modellerin sığacağına bellek karar verir ve sonradan yükseltilemez. M5 Pro ayrıca belleği 24 veya 32 GB'lık M6'dan yaklaşık %80 daha hızlı okur, dolayısıyla daha hızlı yazar. Tüm yapılandırmaları Mac mini M5 Pro ve Mac mini M6 sayfalarında karşılaştırın.

Mac mini 70B bir model çalıştırabilir mi?

Yalnızca 64 GB'lık M5 Pro, 4 bitte ve kısa bir bağlamla: ağırlıklar, GPU'nun varsayılan olarak kullanabildiği 48 GB'ın yaklaşık 39 GB'ını kaplar. Yavaş yazar, saniyede birkaç token. Mac'te Llama 3.3 70B sayfasına bakın.

Mac mini'deki modeli dizüstü bilgisayarımdan veya telefonumdan nasıl kullanırım?

Sunucuyu ağınızı dinleyecek şekilde başlatın (örneğin mlx_lm.server --host 0.0.0.0), ardından diğer cihazdaki uygulamayı OpenAI uyumlu uç nokta olarak http://<mac-mini-name>.local:8080/v1 adresine yönlendirin.

Mac mini yapay zekâ sunucusu ne kadar elektrik harcar?

M6'lı bir Mac mini boştayken yaklaşık 4 W, en fazla 70 W çeker; M5 Pro'lu model 6 W ile 145 W arası. Bir gün boyunca tam yükte bu, en fazla 1,68 veya 3,48 kWh eder (Apple).