LLM'ler için DGX Spark, M5 Ultra çipinden daha mı hızlı?

M5 Ultra, belleği DGX Spark çipinden yaklaşık %340 daha hızlı okur (1.200 / 273 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %340 daha hızlı yazar. llama.cpp’nin ölçülen testinde M5 Ultra bir istemi yaklaşık 1,6× daha hızlı okuyor (saniyede 4.945 ve 3.062 token). İstem okumak bellek bant genişliğine değil GPU’nun işlem gücüne bağlıdır; uzun bir belge ya da kod tabanında ilk kelimeye kadar bekleme süresini bu belirler.

Hangisi daha büyük modeller çalıştırır: M5 Ultra mı, DGX Spark mi?

M5 Ultra modeller için yaklaşık 384 GB’a, DGX Spark yaklaşık 96 GB’a sahip. 73 popüler açık modelin 61 tanesi M5 Ultra üzerinde iyi çalışıyor, DGX Spark üzerinde 39 tanesi.

MLX Node DGX Spark üzerinde çalışır mı?

Hayır. MLX Node ve MLX Harness yalnızca Apple Silicon’lı Mac’lerde, Apple’ın MLX çatısıyla çalışır.

LLM için M5 Ultra ile DGX Spark: bellek, hız, hangisi alınmalı

Yan yana

	M5 Ultra	DGX Spark
Ne olduğu	Mac Studio (M5 Max or M5 Ultra)	Eksiksiz küçük bir bilgisayar
Bellek boyutları	96, 256, 512 GB	128 GB
Bellek bant genişliği	1.200 GB/s	273 GB/s
Modeller için en fazla	yaklaşık 384 GB	yaklaşık 96 GB
İyi çalışan modeller	73 içinden 61	73 içinden 39
Ölçülen: yazma	179 tok/s	57 tok/s
Ölçülen: istem okuma	4.945 tok/s	3.062 tok/s

Ölçülen satırlar: her makinenin llama.cpp’nin herkese açık benchmark’larında Llama 2 7B Q4_0 ile en hızlı sonucu; 128 token yazma (tg128) ve 512 token’lık bir istemi okuma (pp512), saniyede token olarak. Mac Metal ile, DGX Spark CUDA ile çalıştı. Apple Silicon sonuçları · DGX Spark sonuçları Modeller için ikisinde de belleğin yaklaşık %75’ini sayıyoruz; bu macOS’un varsayılanı. Çünkü DGX Spark de CPU ile GPU arasında tek bir bellek paylaşır. GPU’sunun gerçekte ne kadarını kullanabileceği işletim sistemine ve ayarlara bağlıdır.

Hangisi nerede öne çıkıyor

Yazma hızı. M5 Ultra, belleği DGX Spark çipinden yaklaşık %340 daha hızlı okur (1.200 / 273 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %340 daha hızlı yazar.
Model boyutu. M5 Ultra modeller için yaklaşık 384 GB’a, DGX Spark yaklaşık 96 GB’a sahip. 73 popüler açık modelin 61 tanesi M5 Ultra üzerinde iyi çalışıyor, DGX Spark üzerinde 39 tanesi.
Uzun istemleri okuma. llama.cpp’nin ölçülen testinde M5 Ultra bir istemi yaklaşık 1,6× daha hızlı okuyor (saniyede 4.945 ve 3.062 token). İstem okumak bellek bant genişliğine değil GPU’nun işlem gücüne bağlıdır; uzun bir belge ya da kod tabanında ilk kelimeye kadar bekleme süresini bu belirler.
Yazılım. DGX Spark, NVIDIA’nın CUDA’sını kullanır; yapay zekâ yazılımlarının çoğu, eğitim kodu ve pek çok görüntü ve video aracı dahil, önce onu destekler. Mac’te modeller bunun yerine MLX, llama.cpp’nin Metal arka ucu ya da PyTorch’un MPS arka ucu ile çalışır.
Çevresi. İkisi de modeli CPU ile GPU’nun paylaştığı tek bir bellekte tutan eksiksiz bilgisayarlar.
Mac. Aynı zamanda günlük bir bilgisayardır ve Apple Silicon için yapılmış MLX Harness ile MLX Node uygulamalarını çalıştırır.

Popüler modellerle hız

Tek bir sohbet için saniyedeki token sayısı; her çip en büyük bellek boyutunda (512 GB ve 128 GB), modelin sığan en iyi sürümüyle.

Model	M5 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	64–113 8 bit	14–26 8 bit
gpt-oss-20b21B · 3,6B etkin	284–505 yerel 4,25 bit	65–115 yerel 4,25 bit
Qwen3.6 35B A3B35B · 3B etkin	169–300 8 bit	38–68 8 bit
Qwen3.8 27B27B	19–33 8 bit	4–8 8 bit
Llama 3.3 70B Instruct70B	14–24 4 bit	2–3 8 bit
gpt-oss-120b117B · 5,1B etkin	200–356 yerel 4,25 bit	45–81 yerel 4,25 bit
Qwen3.5 122B A10B122B · 10B etkin	51–91 8 bit	22–39 4 bit
DeepSeek V4 Flash 0731284B · 13B etkin	39–70 8 bit	30–53 2 bit daha düşük kalite

Sorular

LLM'ler için DGX Spark, M5 Ultra çipinden daha mı hızlı?: M5 Ultra, belleği DGX Spark çipinden yaklaşık %340 daha hızlı okur (1.200 / 273 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %340 daha hızlı yazar. llama.cpp’nin ölçülen testinde M5 Ultra bir istemi yaklaşık 1,6× daha hızlı okuyor (saniyede 4.945 ve 3.062 token). İstem okumak bellek bant genişliğine değil GPU’nun işlem gücüne bağlıdır; uzun bir belge ya da kod tabanında ilk kelimeye kadar bekleme süresini bu belirler.
Hangisi daha büyük modeller çalıştırır: M5 Ultra mı, DGX Spark mi?: M5 Ultra modeller için yaklaşık 384 GB’a, DGX Spark yaklaşık 96 GB’a sahip. 73 popüler açık modelin 61 tanesi M5 Ultra üzerinde iyi çalışıyor, DGX Spark üzerinde 39 tanesi.
MLX Node DGX Spark üzerinde çalışır mı?: Hayır. MLX Node ve MLX Harness yalnızca Apple Silicon’lı Mac’lerde, Apple’ın MLX çatısıyla çalışır.

Diğer karşılaştırmalar

Yerel yapay zekâ için M5 Ultra · Tüm modelleri karşılaştırın · Yerel LLM'ler için en iyi Mac

Nasıl hesaplanır

Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.

DGX Spark verileri: NVIDIA: DGX Spark (specs).