آیا RTX 5090 برای LLM سریعتر از M5 Max است؟

RTX 5090 حافظه را حدود 192% سریعتر از M5 Max میخواند (1,792 در برابر 614 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 192% سریعتر مینویسد. در آزمون اندازهگیریشدهٔ llama.cpp، RTX 5090 پرامپت را حدود 4.4× سریعتر میخواند (14,073 در برابر 3,220 توکن در ثانیه). خواندن پرامپت به توان محاسباتی GPU بستگی دارد نه پهنای باند حافظه، و همین زمان انتظار تا اولین کلمه را با یک سند بلند یا یک کدبیس تعیین میکند.

کدام مدلهای بزرگتری اجرا میکند، M5 Max یا RTX 5090؟

M5 Max حدود 96 GB برای مدلها دارد و RTX 5090 حدود 31 GB. 47 از 73 مدل باز محبوب روی M5 Max خوب اجرا میشوند و 38 روی RTX 5090.

آیا MLX Node روی RTX 5090 اجرا میشود؟

نه. MLX Node و MLX Harness فقط روی Macهای دارای Apple Silicon و با چارچوب MLX اپل اجرا میشوند.

M5 Max در برابر RTX 5090 برای LLM: حافظه، سرعت، کدام را بخریم

کنار هم

	M5 Max	RTX 5090
چیست	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	کارت گرافیک برای PC رومیزی
اندازه‌های حافظه	36, 48, 64, 128 GB	32 GB
پهنای باند حافظه	460–614 GB/s	1,792 GB/s
برای مدل‌ها، حداکثر	حدود 96 GB	حدود 31 GB
مدل‌هایی که خوب اجرا می‌شوند	47 از 73	38 از 73
اندازه‌گیری‌شده: نوشتن	120 tok/s	290 tok/s
اندازه‌گیری‌شده: خواندن پرامپت	3,220 tok/s	14,073 tok/s

ردیف‌های اندازه‌گیری‌شده: سریع‌ترین نتیجهٔ هر دستگاه در بنچمارک‌های عمومی llama.cpp با Llama 2 7B Q4_0، هنگام نوشتن ۱۲۸ توکن (tg128) و خواندن یک پرامپت ۵۱۲ توکنی (pp512)، بر حسب توکن در ثانیه. Mac با Metal و RTX 5090 با CUDA اجرا شد. نتایج Apple Silicon · نتایج RTX 5090 برای مدل‌ها 32 GB حافظهٔ خود RTX 5090 را منهای حدود ۱ GB، و حدود ۷۵٪ حافظهٔ یکپارچهٔ Mac را، که پیش‌فرض macOS است، حساب می‌کنیم.

هر کدام کجا برنده است

سرعت نوشتن. RTX 5090 حافظه را حدود 192% سریع‌تر از M5 Max می‌خواند (1,792 در برابر 614 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 192% سریع‌تر می‌نویسد.
اندازهٔ مدل. M5 Max حدود 96 GB برای مدل‌ها دارد و RTX 5090 حدود 31 GB. 47 از 73 مدل باز محبوب روی M5 Max خوب اجرا می‌شوند و 38 روی RTX 5090.
خواندن پرامپت‌های بلند. در آزمون اندازه‌گیری‌شدهٔ llama.cpp، RTX 5090 پرامپت را حدود 4.4× سریع‌تر می‌خواند (14,073 در برابر 3,220 توکن در ثانیه). خواندن پرامپت به توان محاسباتی GPU بستگی دارد نه پهنای باند حافظه، و همین زمان انتظار تا اولین کلمه را با یک سند بلند یا یک کدبیس تعیین می‌کند.
نرم‌افزار. RTX 5090 با CUDA انویدیا کار می‌کند که بیشتر نرم‌افزارهای هوش مصنوعی، از جمله کد آموزش و بسیاری از ابزارهای تصویر و ویدیو، اول از آن پشتیبانی می‌کنند. روی Mac مدل‌ها را به‌جای آن با MLX، بک‌اند Metal در llama.cpp یا بک‌اند MPS در PyTorch اجرا می‌کنید.
پیرامون. کارت گرافیک به یک PC در اطرافش نیاز دارد و 32 GB حافظهٔ خودش سقف است: مدلی که جا نشود باید بخشی از آن از حافظهٔ سیستم PC، که بسیار کندتر است، اجرا شود یا روی کارت دوم تقسیم شود.
Mac. رایانه‌ای برای کار روزمره هم هست و MLX Harness و MLX Node را که برای Apple Silicon ساخته شده‌اند اجرا می‌کند.

سرعت با مدل‌های محبوب

توکن در ثانیه برای یک گفت‌وگو، هر تراشه با بیشترین حافظه‌اش (128 GB و 32 GB)، با بهترین نسخهٔ مدل که جا می‌شود.

مدل	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8 بیت	95–169 8 بیت
gpt-oss-20b21B · 3.6B فعال	145–259 4.25 بیت اصلی	424–755 4.25 بیت اصلی
Qwen3.6 35B A3B35B · 3B فعال	86–154 8 بیت	336–597 6 بیت
Qwen3.8 27B27B	10–17 8 بیت	28–50 8 بیت
Llama 3.3 70B Instruct70B	4–7 8 بیت	37–65 2 بیت کیفیت پایین‌تر
gpt-oss-120b117B · 5.1B فعال	102–182 4.25 بیت اصلی	خیلی بزرگ
Qwen3.5 122B A10B122B · 10B فعال	49–88 4 بیت	خیلی بزرگ
DeepSeek V4 Flash 0731284B · 13B فعال	67–120 2 بیت کیفیت پایین‌تر	خیلی بزرگ

پرسش‌ها

آیا RTX 5090 برای LLM سریع‌تر از M5 Max است؟: RTX 5090 حافظه را حدود 192% سریع‌تر از M5 Max می‌خواند (1,792 در برابر 614 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 192% سریع‌تر می‌نویسد. در آزمون اندازه‌گیری‌شدهٔ llama.cpp، RTX 5090 پرامپت را حدود 4.4× سریع‌تر می‌خواند (14,073 در برابر 3,220 توکن در ثانیه). خواندن پرامپت به توان محاسباتی GPU بستگی دارد نه پهنای باند حافظه، و همین زمان انتظار تا اولین کلمه را با یک سند بلند یا یک کدبیس تعیین می‌کند.
کدام مدل‌های بزرگ‌تری اجرا می‌کند، M5 Max یا RTX 5090؟: M5 Max حدود 96 GB برای مدل‌ها دارد و RTX 5090 حدود 31 GB. 47 از 73 مدل باز محبوب روی M5 Max خوب اجرا می‌شوند و 38 روی RTX 5090.
آیا MLX Node روی RTX 5090 اجرا می‌شود؟: نه. MLX Node و MLX Harness فقط روی Macهای دارای Apple Silicon و با چارچوب MLX اپل اجرا می‌شوند.

مقایسه‌های بیشتر

تراشهٔ M5 Max برای هوش مصنوعی محلی · همهٔ مدل‌ها را مقایسه کنید · بهترین Mac برای LLM محلی

چطور محاسبه شده

حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.

داده‌های RTX 5090: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).