Kısaca
- 16 GB: yalnızca küçük genel modeller rahat çalışır; Qwen3 Coder 30B A3B ancak daha düşük bir hassasiyette sığar. 24 GB: Devstral Small 2 (24B). 32–64 GB: 4 bitte Qwen3 Coder 30B A3B ve Devstral Small 2.
- 96 GB ve üstü: Qwen3 Coder Next (80B, 3B etkin). 128 GB: ayrıca Devstral 2 (123B), yavaşça. 512 GB: düşük bir hassasiyette Kimi K2.7 Code.
- Uzmanlar karışımı (MoE) kodlayıcılar her token için yalnızca birkaç milyar ağırlık okur; bu yüzden Qwen3 Coder 30B A3B, aynı Mac'te yoğun (dense) Devstral Small 2'den birkaç kat hızlı yazabilir.
- Kodlama ajanları uzun istemler gönderir: bağlam için birkaç gigabayt bırakın ve bir LLM'in ne kadar RAM istediğine bakın.
1Belleğe göre iyi çalışan kodlama modelleri
"İyi çalışır", her Mac sayfasındaki kuralla aynı anlama gelir: 4 bitte veya daha iyisinde bağlama yer bırakarak sığar ve saniyede 10 veya daha fazla token yazar. Açık model kataloğumuzdan kod için yapılmış modeller ve ayrıca o boyutta iyi çalışan, Artificial Analysis Intelligence Index'i en yüksek genel model (o da kod yazar):
| Mac belleği | Kod için yapılmış | En güçlü genel model |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B yalnızca daha düşük hassasiyette | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next, Devstral 2 (123B) (daha yavaş) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next, Devstral 2 (daha yavaş) | Qwen3.8 Flash Next |
| 512 GB | Daha düşük hassasiyette Kimi K2.7 Code, Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2Uzmanlar karışımı kodlayıcılar neden hızlı hissettirir
Yazma hızını, her token için okunan ağırlık baytlarının miktarı sınırlar. Yoğun bir model hepsini okur; uzmanlar karışımı bir model yalnızca etkin kısmını. M5 Pro'lu bir Mac mini'de (307 GB/s, Apple), 4 bitte:
| Model | Parametreler | Token başına okunan | Tek sohbet için tavan |
|---|---|---|---|
| Qwen3 Coder 30B A3B | toplam 30,5B, 3,3B etkin | yaklaşık 1,9 GB | yaklaşık 165 token/sn |
| Devstral Small 2 | 24B, yoğun | yaklaşık 13,5 GB | yaklaşık 23 token/sn |
Hız kalite demek değildir: aynı bellekte yoğun bir model daha iyi kod yazabilir. İkisini de kendi kodunuzla deneyin.
3Bağlama yer bırakın
Kodlama araçları çok metin gönderir: üzerinde çalışılan dosyalar, araç açıklamaları ve o ana kadarki konuşma. Bu bağlam bellekte, modelin yanında KV cache içinde tutulur ve her token'la büyür. Qwen3 8B için 32.000 token yaklaşık 4,8 GB tutar (burada hesaplandı). Daha büyük modeller token başına daha fazlasını ister.
Yani bir model ancak sığıyorsa bağlamı sıkıştırmak yerine bir küçük modeli ya da daha düşük bir hassasiyeti seçin. Uzun istemlerin okunması da ilk kelime görünmeden önce zaman alır; M5 nesli istemleri M4'ten daha hızlı okur (Apple).
4Editörünüzde veya ajanınızda kullanın
Kodlama araçları bir modelle API üzerinden konuşur. Modeli yerelde çalıştırın ve aracı ona yönlendirin:
- LM Studio'nun yerel sunucusu OpenAI ve Anthropic biçimlerini konuşur; LM Studio'nun Claude Code, Codex, OpenClaw ve Hermes Agent için kurulum rehberleri vardır (LM Studio).
- mlx-lm:
mlx_lm.server --model <model>, 8080 portunda OpenAI tarzı bir API sunar (mlx-lm). - Ollama da OpenAI uyumlu bir API sunar: Mac'te LLM çalıştırmak için en iyi uygulamalar rehberi onları karşılaştırır.
Ajanlar araç çağırır; bu yüzden modelin, sunucunun anladığı biçimde araç çağrıları üretmesi gerekir. Qwen3 Coder ve Devstral gibi kod ve ajanlar için yapılmış modeller bunun için eğitilmiştir; küçük genel modeller ise bunda çoğu zaman güvenilir değildir.
AI App Store'un kodlama kategorisi, Claude Code ve Codex gibi kodlama ajanlarını ve editörleri listeler; her biri geliştiricinin resmî indirmesi, fiyatı ve verilerinizin nereye gittiğiyle birlikte.
5Sorular
- 32 GB'lık bir Mac için en iyi yerel kodlama LLM'i hangisi?
- Qwen3 Coder 30B A3B ve Devstral Small 2 4 bitte iyi çalışır. Qwen3 Coder çok daha hızlı yazar, çünkü 30,5B parametresinin yalnızca 3,3B'si her token için okunur; ikisini de kendi kodunuzla deneyin.
- 16 GB'lık bir Mac kodlama modeli çalıştırabilir mi?
- Küçük modeller, evet. Qwen3 Coder 30B A3B 16 GB'a ancak daha düşük bir hassasiyette ve bağlama az yer bırakarak sığar. Kodlama ajanları için 32 GB veya üstü daha iyi bir başlangıçtır.
- Claude Code veya Codex'i yerel bir modelle kullanabilir miyim?
- Evet. LM Studio'nun ikisi için de kurulum rehberleri var: yerel sunucusu Claude Code'un kullandığı Anthropic biçimini ve Codex'in kullandığı OpenAI biçimini konuşur (LM Studio). Ne kadar iyi çalıştıkları yüklediğiniz modele bağlıdır.
- Yerel bir kodlama modeli buluttaki kadar iyi mi?
- En büyük açık modeller pek çok görevde yaklaşır, ancak 256 veya 512 GB'lık bir Mac Studio ister. 32–64 GB'a sığan modeller kod tamamlama, açıklamalar ve daha küçük ajan görevleri için kullanışlıdır ve kodunuzu Mac'inizde tutar.