LLM'ler için M5 Ultra, M3 Ultra çipinden daha mı hızlı?

M5 Ultra, belleği M3 Ultra çipinden yaklaşık %47 daha hızlı okur (1.200 / 819 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %47 daha hızlı yazar. Uzun bir istemi okumak ise GPU işlem gücüne bağlıdır; bu karşılaştırma onu kapsamaz.

Hangisi daha büyük modeller çalıştırır: M3 Ultra mı, M5 Ultra mi?

İkisi de değil: ikisi de en fazla 512 GB. Bu boyutta 73 açık modelden M3 Ultra 60, M5 Ultra ise 61 tanesini iyi çalıştırır; daha hızlı olan, bunların daha fazlasını saniyede 10 token sınırının üstüne taşır.

LLM için M3 Ultra ile M5 Ultra: bellek, hız, hangisi alınmalı

Yan yana

	M3 Ultra	M5 Ultra
Bellek boyutları	96, 256, 512 GB	96, 256, 512 GB
Bellek bant genişliği	819 GB/s	1.200 GB/s
Modeller için en fazla	yaklaşık 384 GB	yaklaşık 384 GB
İyi çalışan modeller	73 içinden 60	73 içinden 61
MLX koltuk sınıfı	Ultra	Ultra Latest
Bulunduğu modeller	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Popüler modellerle hız

Tek bir sohbet için saniyedeki token sayısı; her çip en büyük bellek boyutunda (512 GB ve 512 GB), modelin sığan en iyi sürümüyle.

Model	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8 bit	64–113 8 bit
gpt-oss-20b21B · 3,6B etkin	194–345 yerel 4,25 bit	284–505 yerel 4,25 bit
Qwen3.6 35B A3B35B · 3B etkin	115–205 8 bit	169–300 8 bit
Qwen3.8 27B27B	13–23 8 bit	19–33 8 bit
Llama 3.3 70B Instruct70B	5–9 8 bit	14–24 4 bit
gpt-oss-120b117B · 5,1B etkin	137–243 yerel 4,25 bit	200–356 yerel 4,25 bit
Qwen3.5 122B A10B122B · 10B etkin	35–62 8 bit	51–91 8 bit
DeepSeek V4 Flash 0731284B · 13B etkin	27–47 8 bit	39–70 8 bit

Sorular

LLM'ler için M5 Ultra, M3 Ultra çipinden daha mı hızlı?: M5 Ultra, belleği M3 Ultra çipinden yaklaşık %47 daha hızlı okur (1.200 / 819 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %47 daha hızlı yazar. Uzun bir istemi okumak ise GPU işlem gücüne bağlıdır; bu karşılaştırma onu kapsamaz.
Hangisi daha büyük modeller çalıştırır: M3 Ultra mı, M5 Ultra mi?: İkisi de değil: ikisi de en fazla 512 GB. Bu boyutta 73 açık modelden M3 Ultra 60, M5 Ultra ise 61 tanesini iyi çalıştırır; daha hızlı olan, bunların daha fazlasını saniyede 10 token sınırının üstüne taşır.

Diğer karşılaştırmalar

Yerel yapay zekâ için M3 Ultra · Yerel yapay zekâ için M5 Ultra · Tüm modelleri karşılaştırın · Yerel LLM'ler için en iyi Mac

Nasıl hesaplanır

Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.