آیا DGX Spark برای LLM سریعتر از M5 Ultra است؟

M5 Ultra حافظه را حدود 340% سریعتر از DGX Spark میخواند (1,200 در برابر 273 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 340% سریعتر مینویسد. در آزمون اندازهگیریشدهٔ llama.cpp، M5 Ultra پرامپت را حدود 1.6× سریعتر میخواند (4,945 در برابر 3,062 توکن در ثانیه). خواندن پرامپت به توان محاسباتی GPU بستگی دارد نه پهنای باند حافظه، و همین زمان انتظار تا اولین کلمه را با یک سند بلند یا یک کدبیس تعیین میکند.

کدام مدلهای بزرگتری اجرا میکند، M5 Ultra یا DGX Spark؟

M5 Ultra حدود 384 GB برای مدلها دارد و DGX Spark حدود 96 GB. 61 از 73 مدل باز محبوب روی M5 Ultra خوب اجرا میشوند و 39 روی DGX Spark.

آیا MLX Node روی DGX Spark اجرا میشود؟

نه. MLX Node و MLX Harness فقط روی Macهای دارای Apple Silicon و با چارچوب MLX اپل اجرا میشوند.

M5 Ultra در برابر DGX Spark برای LLM: حافظه، سرعت، کدام را بخریم

کنار هم

	M5 Ultra	DGX Spark
چیست	Mac Studio (M5 Max or M5 Ultra)	یک رایانهٔ کوچک کامل
اندازه‌های حافظه	96, 256, 512 GB	128 GB
پهنای باند حافظه	1,200 GB/s	273 GB/s
برای مدل‌ها، حداکثر	حدود 384 GB	حدود 96 GB
مدل‌هایی که خوب اجرا می‌شوند	61 از 73	39 از 73
اندازه‌گیری‌شده: نوشتن	179 tok/s	57 tok/s
اندازه‌گیری‌شده: خواندن پرامپت	4,945 tok/s	3,062 tok/s

ردیف‌های اندازه‌گیری‌شده: سریع‌ترین نتیجهٔ هر دستگاه در بنچمارک‌های عمومی llama.cpp با Llama 2 7B Q4_0، هنگام نوشتن ۱۲۸ توکن (tg128) و خواندن یک پرامپت ۵۱۲ توکنی (pp512)، بر حسب توکن در ثانیه. Mac با Metal و DGX Spark با CUDA اجرا شد. نتایج Apple Silicon · نتایج DGX Spark برای مدل‌ها در هر دو حدود ۷۵٪ حافظه را حساب می‌کنیم، که پیش‌فرض macOS است، چون DGX Spark هم یک حافظهٔ مشترک بین CPU و GPU دارد. اینکه GPU آن واقعاً چقدر می‌تواند استفاده کند به سیستم‌عامل و تنظیمات بستگی دارد.

هر کدام کجا برنده است

سرعت نوشتن. M5 Ultra حافظه را حدود 340% سریع‌تر از DGX Spark می‌خواند (1,200 در برابر 273 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 340% سریع‌تر می‌نویسد.
اندازهٔ مدل. M5 Ultra حدود 384 GB برای مدل‌ها دارد و DGX Spark حدود 96 GB. 61 از 73 مدل باز محبوب روی M5 Ultra خوب اجرا می‌شوند و 39 روی DGX Spark.
خواندن پرامپت‌های بلند. در آزمون اندازه‌گیری‌شدهٔ llama.cpp، M5 Ultra پرامپت را حدود 1.6× سریع‌تر می‌خواند (4,945 در برابر 3,062 توکن در ثانیه). خواندن پرامپت به توان محاسباتی GPU بستگی دارد نه پهنای باند حافظه، و همین زمان انتظار تا اولین کلمه را با یک سند بلند یا یک کدبیس تعیین می‌کند.
نرم‌افزار. DGX Spark با CUDA انویدیا کار می‌کند که بیشتر نرم‌افزارهای هوش مصنوعی، از جمله کد آموزش و بسیاری از ابزارهای تصویر و ویدیو، اول از آن پشتیبانی می‌کنند. روی Mac مدل‌ها را به‌جای آن با MLX، بک‌اند Metal در llama.cpp یا بک‌اند MPS در PyTorch اجرا می‌کنید.
پیرامون. هر دو رایانه‌هایی کامل‌اند که مدل را در یک حافظهٔ مشترک بین CPU و GPU نگه می‌دارند.
Mac. رایانه‌ای برای کار روزمره هم هست و MLX Harness و MLX Node را که برای Apple Silicon ساخته شده‌اند اجرا می‌کند.

سرعت با مدل‌های محبوب

توکن در ثانیه برای یک گفت‌وگو، هر تراشه با بیشترین حافظه‌اش (512 GB و 128 GB)، با بهترین نسخهٔ مدل که جا می‌شود.

مدل	M5 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	64–113 8 بیت	14–26 8 بیت
gpt-oss-20b21B · 3.6B فعال	284–505 4.25 بیت اصلی	65–115 4.25 بیت اصلی
Qwen3.6 35B A3B35B · 3B فعال	169–300 8 بیت	38–68 8 بیت
Qwen3.8 27B27B	19–33 8 بیت	4–8 8 بیت
Llama 3.3 70B Instruct70B	14–24 4 بیت	2–3 8 بیت
gpt-oss-120b117B · 5.1B فعال	200–356 4.25 بیت اصلی	45–81 4.25 بیت اصلی
Qwen3.5 122B A10B122B · 10B فعال	51–91 8 بیت	22–39 4 بیت
DeepSeek V4 Flash 0731284B · 13B فعال	39–70 8 بیت	30–53 2 بیت کیفیت پایین‌تر

پرسش‌ها

آیا DGX Spark برای LLM سریع‌تر از M5 Ultra است؟: M5 Ultra حافظه را حدود 340% سریع‌تر از DGX Spark می‌خواند (1,200 در برابر 273 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 340% سریع‌تر می‌نویسد. در آزمون اندازه‌گیری‌شدهٔ llama.cpp، M5 Ultra پرامپت را حدود 1.6× سریع‌تر می‌خواند (4,945 در برابر 3,062 توکن در ثانیه). خواندن پرامپت به توان محاسباتی GPU بستگی دارد نه پهنای باند حافظه، و همین زمان انتظار تا اولین کلمه را با یک سند بلند یا یک کدبیس تعیین می‌کند.
کدام مدل‌های بزرگ‌تری اجرا می‌کند، M5 Ultra یا DGX Spark؟: M5 Ultra حدود 384 GB برای مدل‌ها دارد و DGX Spark حدود 96 GB. 61 از 73 مدل باز محبوب روی M5 Ultra خوب اجرا می‌شوند و 39 روی DGX Spark.
آیا MLX Node روی DGX Spark اجرا می‌شود؟: نه. MLX Node و MLX Harness فقط روی Macهای دارای Apple Silicon و با چارچوب MLX اپل اجرا می‌شوند.

مقایسه‌های بیشتر

تراشهٔ M5 Ultra برای هوش مصنوعی محلی · همهٔ مدل‌ها را مقایسه کنید · بهترین Mac برای LLM محلی

چطور محاسبه شده

حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.

داده‌های DGX Spark: NVIDIA: DGX Spark (specs).