کنار هم
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| چیست | Mac Studio (M5 Max or M5 Ultra) | کارت گرافیک برای PC رومیزی |
| اندازه‌های حافظه | 96, 256, 512 GB | 96 GB |
| پهنای باند حافظه | 1,200 GB/s | 1,792 GB/s |
| برای مدلها، حداکثر | حدود 384 GB | حدود 95 GB |
| مدل‌هایی که خوب اجرا میشوند | 61 از 73 | 50 از 73 |
| اندازه‌گیری‌شده: نوشتن | 179 tok/s | 274 tok/s |
| اندازه‌گیری‌شده: خواندن پرامپت | 4,945 tok/s | 14,855 tok/s |
ردیف‌های اندازه‌گیری‌شده: سریع‌ترین نتیجهٔ هر دستگاه در بنچمارک‌های عمومی llama.cpp با Llama 2 7B Q4_0، هنگام نوشتن ۱۲۸ توکن (tg128) و خواندن یک پرامپت ۵۱۲ توکنی (pp512)، بر حسب توکن در ثانیه. Mac با Metal و RTX PRO 6000 با CUDA اجرا شد. نتایج Apple Silicon · نتایج RTX PRO 6000 برای مدلها 96 GB حافظهٔ خود RTX PRO 6000 را منهای حدود ۱ GB، و حدود ۷۵٪ حافظهٔ یکپارچهٔ Mac را، که پیش‌فرض macOS است، حساب می‌کنیم.
هر کدام کجا برنده است
- سرعت نوشتن. RTX PRO 6000 حافظه را حدود 49% سریعتر از M5 Ultra میخواند (1,792 در برابر 1,200 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 49% سریعتر مینویسد.
- اندازهٔ مدل. M5 Ultra حدود 384 GB برای مدلها دارد و RTX PRO 6000 حدود 95 GB. 61 از 73 مدل باز محبوب روی M5 Ultra خوب اجرا میشوند و 50 روی RTX PRO 6000.
- خواندن پرامپت‌های بلند. در آزمون اندازهگیریشدهٔ llama.cpp، RTX PRO 6000 پرامپت را حدود 3× سریعتر میخواند (14,855 در برابر 4,945 توکن در ثانیه). خواندن پرامپت به توان محاسباتی GPU بستگی دارد نه پهنای باند حافظه، و همین زمان انتظار تا اولین کلمه را با یک سند بلند یا یک کدبیس تعیین میکند.
- نرم‌افزار. RTX PRO 6000 با CUDA انویدیا کار میکند که بیشتر نرم‌افزارهای هوش مصنوعی، از جمله کد آموزش و بسیاری از ابزارهای تصویر و ویدیو، اول از آن پشتیبانی می‌کنند. روی Mac مدلها را به‌جای آن با MLX، بک‌اند Metal در llama.cpp یا بک‌اند MPS در PyTorch اجرا می‌کنید.
- پیرامون. کارت گرافیک به یک PC در اطرافش نیاز دارد و 96 GB حافظهٔ خودش سقف است: مدلی که جا نشود باید بخشی از آن از حافظهٔ سیستم PC، که بسیار کندتر است، اجرا شود یا روی کارت دوم تقسیم شود.
- Mac. رایانه‌ای برای کار روزمره هم هست و MLX Harness و MLX Node را که برای Apple Silicon ساخته شده‌اند اجرا میکند.
سرعت با مدلهای محبوب
توکن در ثانیه برای یک گفت‌وگو، هر تراشه با بیشترین حافظه‌اش (512 GB و 96 GB)، با بهترین نسخهٔ مدل که جا میشود.
| مدل | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8 بیت | 95–169 8 بیت |
| gpt-oss-20b21B · 3.6B فعال | 284–505 4.25 بیت اصلی | 424–755 4.25 بیت اصلی |
| Qwen3.6 35B A3B35B · 3B فعال | 169–300 8 بیت | 252–448 8 بیت |
| Qwen3.8 27B27B | 19–33 8 بیت | 28–50 8 بیت |
| Llama 3.3 70B Instruct70B | 14–24 4 بیت | 11–19 8 بیت |
| gpt-oss-120b117B · 5.1B فعال | 200–356 4.25 بیت اصلی | 299–531 4.25 بیت اصلی |
| Qwen3.5 122B A10B122B · 10B فعال | 51–91 8 بیت | 144–256 4 بیت |
| DeepSeek V4 Flash 0731284B · 13B فعال | 39–70 8 بیت | خیلی بزرگ |
پرسش‌ها
- آیا RTX PRO 6000 برای LLM سریعتر از M5 Ultra است؟
- RTX PRO 6000 حافظه را حدود 49% سریعتر از M5 Ultra میخواند (1,792 در برابر 1,200 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 49% سریعتر مینویسد. در آزمون اندازهگیریشدهٔ llama.cpp، RTX PRO 6000 پرامپت را حدود 3× سریعتر میخواند (14,855 در برابر 4,945 توکن در ثانیه). خواندن پرامپت به توان محاسباتی GPU بستگی دارد نه پهنای باند حافظه، و همین زمان انتظار تا اولین کلمه را با یک سند بلند یا یک کدبیس تعیین میکند.
- کدام مدلهای بزرگتری اجرا میکند، M5 Ultra یا RTX PRO 6000؟
- M5 Ultra حدود 384 GB برای مدلها دارد و RTX PRO 6000 حدود 95 GB. 61 از 73 مدل باز محبوب روی M5 Ultra خوب اجرا میشوند و 50 روی RTX PRO 6000.
- آیا MLX Node روی RTX PRO 6000 اجرا میشود؟
- نه. MLX Node و MLX Harness فقط روی Macهای دارای Apple Silicon و با چارچوب MLX اپل اجرا میشوند.
مقایسه‌های بیشتر
تراشهٔ M5 Ultra برای هوش مصنوعی محلی · همهٔ مدلها را مقایسه کنید · بهترین Mac برای LLM محلی
چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده میشود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده میشود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدلها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.
داده‌های RTX PRO 6000: NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table).