M1 Ultra çipli Mac Studio yerel LLM'ler için iyi mi?

128 GB ile 73 açık modelden 47 tanesini iyi çalıştırır, en büyüğü Qwen3.5 122B A10B; gpt-oss-20b ile saniyede yaklaşık 189–337 token yazar. M1 Ultra belleği 800 GB/s hızla okur; yazma hızını bu belirler.

Yapay zekâ için M1 Ultra çipli Mac Studio ne kadar belleğe sahip olmalı?

64 GB ile 39 açık model iyi çalışır; 128 GB ile 47, en büyüğü Qwen3.5 122B A10B. Hangi modellerin sığacağını bellek belirler ve sonradan yükseltilemez.

Mac Studio M1 Ultra ile yerel yapay zekâ: belleğe göre LLM'ler

Bellek boyutuna göre

Bellek	İyi çalışan	İyi çalışanların en büyüğü	gpt-oss-20b
64 GB800 GB/s	39	Nemotron 3.5 Bolt 74B A9B	189–337 tok/s
128 GB800 GB/s	47	Qwen3.5 122B A10B	189–337 tok/s

Modeller: Mac Studio (2022). Her bellek boyutu her modelde sunulmaz; her birinin neyle geldiğini Apple'ın Teknik Özellikler sayfaları listeler.

Sorular

M1 Ultra çipli Mac Studio yerel LLM'ler için iyi mi?: 128 GB ile 73 açık modelden 47 tanesini iyi çalıştırır, en büyüğü Qwen3.5 122B A10B; gpt-oss-20b ile saniyede yaklaşık 189–337 token yazar. M1 Ultra belleği 800 GB/s hızla okur; yazma hızını bu belirler.
Yapay zekâ için M1 Ultra çipli Mac Studio ne kadar belleğe sahip olmalı?: 64 GB ile 39 açık model iyi çalışır; 128 GB ile 47, en büyüğü Qwen3.5 122B A10B. Hangi modellerin sığacağını bellek belirler ve sonradan yükseltilemez.

Diğer Mac'ler

Diğer çiplerle Mac Studio:

Karşı karşıya:

Yerel yapay zekâ için M1 Ultra · Yerel LLM'ler için en iyi Mac · Tüm Mac'ler

Nasıl hesaplanır

Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.