LLM'ler için DGX Spark, M5 Max çipinden daha mı hızlı?

M5 Max, belleği DGX Spark çipinden yaklaşık %125 daha hızlı okur (614 / 273 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %125 daha hızlı yazar. llama.cpp’nin ölçülen testinde ikisi de bir istemi aşağı yukarı aynı hızda okuyor (saniyede 3.220 ve 3.062 token).

Hangisi daha büyük modeller çalıştırır: M5 Max mı, DGX Spark mi?

İkisi de modeller için yaklaşık 96 GB’a sahip. 73 popüler açık modelin 47 tanesi M5 Max üzerinde iyi çalışıyor, DGX Spark üzerinde 39 tanesi.

MLX Node DGX Spark üzerinde çalışır mı?

Hayır. MLX Node ve MLX Harness yalnızca Apple Silicon’lı Mac’lerde, Apple’ın MLX çatısıyla çalışır.

LLM için M5 Max ile DGX Spark: bellek, hız, hangisi alınmalı

Yan yana

	M5 Max	DGX Spark
Ne olduğu	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Eksiksiz küçük bir bilgisayar
Bellek boyutları	36, 48, 64, 128 GB	128 GB
Bellek bant genişliği	460–614 GB/s	273 GB/s
Modeller için en fazla	yaklaşık 96 GB	yaklaşık 96 GB
İyi çalışan modeller	73 içinden 47	73 içinden 39
Ölçülen: yazma	120 tok/s	57 tok/s
Ölçülen: istem okuma	3.220 tok/s	3.062 tok/s

Ölçülen satırlar: her makinenin llama.cpp’nin herkese açık benchmark’larında Llama 2 7B Q4_0 ile en hızlı sonucu; 128 token yazma (tg128) ve 512 token’lık bir istemi okuma (pp512), saniyede token olarak. Mac Metal ile, DGX Spark CUDA ile çalıştı. Apple Silicon sonuçları · DGX Spark sonuçları Modeller için ikisinde de belleğin yaklaşık %75’ini sayıyoruz; bu macOS’un varsayılanı. Çünkü DGX Spark de CPU ile GPU arasında tek bir bellek paylaşır. GPU’sunun gerçekte ne kadarını kullanabileceği işletim sistemine ve ayarlara bağlıdır.

Hangisi nerede öne çıkıyor

Yazma hızı. M5 Max, belleği DGX Spark çipinden yaklaşık %125 daha hızlı okur (614 / 273 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %125 daha hızlı yazar.
Model boyutu. İkisi de modeller için yaklaşık 96 GB’a sahip. 73 popüler açık modelin 47 tanesi M5 Max üzerinde iyi çalışıyor, DGX Spark üzerinde 39 tanesi.
Uzun istemleri okuma. llama.cpp’nin ölçülen testinde ikisi de bir istemi aşağı yukarı aynı hızda okuyor (saniyede 3.220 ve 3.062 token).
Yazılım. DGX Spark, NVIDIA’nın CUDA’sını kullanır; yapay zekâ yazılımlarının çoğu, eğitim kodu ve pek çok görüntü ve video aracı dahil, önce onu destekler. Mac’te modeller bunun yerine MLX, llama.cpp’nin Metal arka ucu ya da PyTorch’un MPS arka ucu ile çalışır.
Çevresi. İkisi de modeli CPU ile GPU’nun paylaştığı tek bir bellekte tutan eksiksiz bilgisayarlar.
Mac. Aynı zamanda günlük bir bilgisayardır ve Apple Silicon için yapılmış MLX Harness ile MLX Node uygulamalarını çalıştırır.

Popüler modellerle hız

Tek bir sohbet için saniyedeki token sayısı; her çip en büyük bellek boyutunda (128 GB ve 128 GB), modelin sığan en iyi sürümüyle.

Model	M5 Max	DGX Spark
Llama 3.1 8B Instruct8B	33–58 8 bit	14–26 8 bit
gpt-oss-20b21B · 3,6B etkin	145–259 yerel 4,25 bit	65–115 yerel 4,25 bit
Qwen3.6 35B A3B35B · 3B etkin	86–154 8 bit	38–68 8 bit
Qwen3.8 27B27B	10–17 8 bit	4–8 8 bit
Llama 3.3 70B Instruct70B	4–7 8 bit	2–3 8 bit
gpt-oss-120b117B · 5,1B etkin	102–182 yerel 4,25 bit	45–81 yerel 4,25 bit
Qwen3.5 122B A10B122B · 10B etkin	49–88 4 bit	22–39 4 bit
DeepSeek V4 Flash 0731284B · 13B etkin	67–120 2 bit daha düşük kalite	30–53 2 bit daha düşük kalite

Sorular

LLM'ler için DGX Spark, M5 Max çipinden daha mı hızlı?: M5 Max, belleği DGX Spark çipinden yaklaşık %125 daha hızlı okur (614 / 273 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %125 daha hızlı yazar. llama.cpp’nin ölçülen testinde ikisi de bir istemi aşağı yukarı aynı hızda okuyor (saniyede 3.220 ve 3.062 token).
Hangisi daha büyük modeller çalıştırır: M5 Max mı, DGX Spark mi?: İkisi de modeller için yaklaşık 96 GB’a sahip. 73 popüler açık modelin 47 tanesi M5 Max üzerinde iyi çalışıyor, DGX Spark üzerinde 39 tanesi.
MLX Node DGX Spark üzerinde çalışır mı?: Hayır. MLX Node ve MLX Harness yalnızca Apple Silicon’lı Mac’lerde, Apple’ın MLX çatısıyla çalışır.

Diğer karşılaştırmalar

Yerel yapay zekâ için M5 Max · Tüm modelleri karşılaştırın · Yerel LLM'ler için en iyi Mac

Nasıl hesaplanır

Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.

DGX Spark verileri: NVIDIA: DGX Spark (specs).