LLM'ler için RTX 5090, M5 Max çipinden daha mı hızlı?

RTX 5090, belleği M5 Max çipinden yaklaşık %192 daha hızlı okur (1.792 / 614 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %192 daha hızlı yazar. llama.cpp’nin ölçülen testinde RTX 5090 bir istemi yaklaşık 4,4× daha hızlı okuyor (saniyede 14.073 ve 3.220 token). İstem okumak bellek bant genişliğine değil GPU’nun işlem gücüne bağlıdır; uzun bir belge ya da kod tabanında ilk kelimeye kadar bekleme süresini bu belirler.

Hangisi daha büyük modeller çalıştırır: M5 Max mı, RTX 5090 mi?

M5 Max modeller için yaklaşık 96 GB’a, RTX 5090 yaklaşık 31 GB’a sahip. 73 popüler açık modelin 47 tanesi M5 Max üzerinde iyi çalışıyor, RTX 5090 üzerinde 38 tanesi.

MLX Node RTX 5090 üzerinde çalışır mı?

Hayır. MLX Node ve MLX Harness yalnızca Apple Silicon’lı Mac’lerde, Apple’ın MLX çatısıyla çalışır.

LLM için M5 Max ile RTX 5090: bellek, hız, hangisi alınmalı

Yan yana

	M5 Max	RTX 5090
Ne olduğu	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Masaüstü PC için ekran kartı
Bellek boyutları	36, 48, 64, 128 GB	32 GB
Bellek bant genişliği	460–614 GB/s	1.792 GB/s
Modeller için en fazla	yaklaşık 96 GB	yaklaşık 31 GB
İyi çalışan modeller	73 içinden 47	73 içinden 38
Ölçülen: yazma	120 tok/s	290 tok/s
Ölçülen: istem okuma	3.220 tok/s	14.073 tok/s

Ölçülen satırlar: her makinenin llama.cpp’nin herkese açık benchmark’larında Llama 2 7B Q4_0 ile en hızlı sonucu; 128 token yazma (tg128) ve 512 token’lık bir istemi okuma (pp512), saniyede token olarak. Mac Metal ile, RTX 5090 CUDA ile çalıştı. Apple Silicon sonuçları · RTX 5090 sonuçları Modeller için RTX 5090 kartının kendi 32 GB’ından yaklaşık 1 GB eksiğini, Mac’te ise birleşik belleğin yaklaşık %75’ini (macOS varsayılanı) sayıyoruz.

Hangisi nerede öne çıkıyor

Yazma hızı. RTX 5090, belleği M5 Max çipinden yaklaşık %192 daha hızlı okur (1.792 / 614 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %192 daha hızlı yazar.
Model boyutu. M5 Max modeller için yaklaşık 96 GB’a, RTX 5090 yaklaşık 31 GB’a sahip. 73 popüler açık modelin 47 tanesi M5 Max üzerinde iyi çalışıyor, RTX 5090 üzerinde 38 tanesi.
Uzun istemleri okuma. llama.cpp’nin ölçülen testinde RTX 5090 bir istemi yaklaşık 4,4× daha hızlı okuyor (saniyede 14.073 ve 3.220 token). İstem okumak bellek bant genişliğine değil GPU’nun işlem gücüne bağlıdır; uzun bir belge ya da kod tabanında ilk kelimeye kadar bekleme süresini bu belirler.
Yazılım. RTX 5090, NVIDIA’nın CUDA’sını kullanır; yapay zekâ yazılımlarının çoğu, eğitim kodu ve pek çok görüntü ve video aracı dahil, önce onu destekler. Mac’te modeller bunun yerine MLX, llama.cpp’nin Metal arka ucu ya da PyTorch’un MPS arka ucu ile çalışır.
Çevresi. Bir ekran kartının çevresinde bir PC gerekir ve kendi 32 GB’ı sınırdır: sığmayan bir model kısmen PC’nin çok daha yavaş sistem belleğinden ya da ikinci bir karttan çalışmak zorundadır.
Mac. Aynı zamanda günlük bir bilgisayardır ve Apple Silicon için yapılmış MLX Harness ile MLX Node uygulamalarını çalıştırır.

Popüler modellerle hız

Tek bir sohbet için saniyedeki token sayısı; her çip en büyük bellek boyutunda (128 GB ve 32 GB), modelin sığan en iyi sürümüyle.

Model	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8 bit	95–169 8 bit
gpt-oss-20b21B · 3,6B etkin	145–259 yerel 4,25 bit	424–755 yerel 4,25 bit
Qwen3.6 35B A3B35B · 3B etkin	86–154 8 bit	336–597 6 bit
Qwen3.8 27B27B	10–17 8 bit	28–50 8 bit
Llama 3.3 70B Instruct70B	4–7 8 bit	37–65 2 bit daha düşük kalite
gpt-oss-120b117B · 5,1B etkin	102–182 yerel 4,25 bit	çok büyük
Qwen3.5 122B A10B122B · 10B etkin	49–88 4 bit	çok büyük
DeepSeek V4 Flash 0731284B · 13B etkin	67–120 2 bit daha düşük kalite	çok büyük

Sorular

LLM'ler için RTX 5090, M5 Max çipinden daha mı hızlı?: RTX 5090, belleği M5 Max çipinden yaklaşık %192 daha hızlı okur (1.792 / 614 GB/s); bu yüzden ikisine de sığan her modelle yaklaşık %192 daha hızlı yazar. llama.cpp’nin ölçülen testinde RTX 5090 bir istemi yaklaşık 4,4× daha hızlı okuyor (saniyede 14.073 ve 3.220 token). İstem okumak bellek bant genişliğine değil GPU’nun işlem gücüne bağlıdır; uzun bir belge ya da kod tabanında ilk kelimeye kadar bekleme süresini bu belirler.
Hangisi daha büyük modeller çalıştırır: M5 Max mı, RTX 5090 mi?: M5 Max modeller için yaklaşık 96 GB’a, RTX 5090 yaklaşık 31 GB’a sahip. 73 popüler açık modelin 47 tanesi M5 Max üzerinde iyi çalışıyor, RTX 5090 üzerinde 38 tanesi.
MLX Node RTX 5090 üzerinde çalışır mı?: Hayır. MLX Node ve MLX Harness yalnızca Apple Silicon’lı Mac’lerde, Apple’ın MLX çatısıyla çalışır.

Diğer karşılaştırmalar

Yerel yapay zekâ için M5 Max · Tüm modelleri karşılaştırın · Yerel LLM'ler için en iyi Mac

Nasıl hesaplanır

Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.

RTX 5090 verileri: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).