آیا DGX Spark برای LLM سریعتر از M5 Max است؟

M5 Max حافظه را حدود 125% سریعتر از DGX Spark میخواند (614 در برابر 273 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 125% سریعتر مینویسد. در آزمون اندازهگیریشدهٔ llama.cpp هر دو پرامپت را با سرعتی نزدیک به هم میخوانند (3,220 و 3,062 توکن در ثانیه).

کدام مدلهای بزرگتری اجرا میکند، M5 Max یا DGX Spark؟

هر دو حدود 96 GB برای مدلها دارند. 47 از 73 مدل باز محبوب روی M5 Max خوب اجرا میشوند و 39 روی DGX Spark.

آیا MLX Node روی DGX Spark اجرا میشود؟

نه. MLX Node و MLX Harness فقط روی Macهای دارای Apple Silicon و با چارچوب MLX اپل اجرا میشوند.

M5 Max در برابر DGX Spark برای LLM: حافظه، سرعت، کدام را بخریم

کنار هم

	M5 Max	DGX Spark
چیست	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	یک رایانهٔ کوچک کامل
اندازه‌های حافظه	36, 48, 64, 128 GB	128 GB
پهنای باند حافظه	460–614 GB/s	273 GB/s
برای مدل‌ها، حداکثر	حدود 96 GB	حدود 96 GB
مدل‌هایی که خوب اجرا می‌شوند	47 از 73	39 از 73
اندازه‌گیری‌شده: نوشتن	120 tok/s	57 tok/s
اندازه‌گیری‌شده: خواندن پرامپت	3,220 tok/s	3,062 tok/s

ردیف‌های اندازه‌گیری‌شده: سریع‌ترین نتیجهٔ هر دستگاه در بنچمارک‌های عمومی llama.cpp با Llama 2 7B Q4_0، هنگام نوشتن ۱۲۸ توکن (tg128) و خواندن یک پرامپت ۵۱۲ توکنی (pp512)، بر حسب توکن در ثانیه. Mac با Metal و DGX Spark با CUDA اجرا شد. نتایج Apple Silicon · نتایج DGX Spark برای مدل‌ها در هر دو حدود ۷۵٪ حافظه را حساب می‌کنیم، که پیش‌فرض macOS است، چون DGX Spark هم یک حافظهٔ مشترک بین CPU و GPU دارد. اینکه GPU آن واقعاً چقدر می‌تواند استفاده کند به سیستم‌عامل و تنظیمات بستگی دارد.

هر کدام کجا برنده است

سرعت نوشتن. M5 Max حافظه را حدود 125% سریع‌تر از DGX Spark می‌خواند (614 در برابر 273 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 125% سریع‌تر می‌نویسد.
اندازهٔ مدل. هر دو حدود 96 GB برای مدل‌ها دارند. 47 از 73 مدل باز محبوب روی M5 Max خوب اجرا می‌شوند و 39 روی DGX Spark.
خواندن پرامپت‌های بلند. در آزمون اندازه‌گیری‌شدهٔ llama.cpp هر دو پرامپت را با سرعتی نزدیک به هم می‌خوانند (3,220 و 3,062 توکن در ثانیه).
نرم‌افزار. DGX Spark با CUDA انویدیا کار می‌کند که بیشتر نرم‌افزارهای هوش مصنوعی، از جمله کد آموزش و بسیاری از ابزارهای تصویر و ویدیو، اول از آن پشتیبانی می‌کنند. روی Mac مدل‌ها را به‌جای آن با MLX، بک‌اند Metal در llama.cpp یا بک‌اند MPS در PyTorch اجرا می‌کنید.
پیرامون. هر دو رایانه‌هایی کامل‌اند که مدل را در یک حافظهٔ مشترک بین CPU و GPU نگه می‌دارند.
Mac. رایانه‌ای برای کار روزمره هم هست و MLX Harness و MLX Node را که برای Apple Silicon ساخته شده‌اند اجرا می‌کند.

سرعت با مدل‌های محبوب

توکن در ثانیه برای یک گفت‌وگو، هر تراشه با بیشترین حافظه‌اش (128 GB و 128 GB)، با بهترین نسخهٔ مدل که جا می‌شود.

مدل	M5 Max	DGX Spark
Llama 3.1 8B Instruct8B	33–58 8 بیت	14–26 8 بیت
gpt-oss-20b21B · 3.6B فعال	145–259 4.25 بیت اصلی	65–115 4.25 بیت اصلی
Qwen3.6 35B A3B35B · 3B فعال	86–154 8 بیت	38–68 8 بیت
Qwen3.8 27B27B	10–17 8 بیت	4–8 8 بیت
Llama 3.3 70B Instruct70B	4–7 8 بیت	2–3 8 بیت
gpt-oss-120b117B · 5.1B فعال	102–182 4.25 بیت اصلی	45–81 4.25 بیت اصلی
Qwen3.5 122B A10B122B · 10B فعال	49–88 4 بیت	22–39 4 بیت
DeepSeek V4 Flash 0731284B · 13B فعال	67–120 2 بیت کیفیت پایین‌تر	30–53 2 بیت کیفیت پایین‌تر

پرسش‌ها

آیا DGX Spark برای LLM سریع‌تر از M5 Max است؟: M5 Max حافظه را حدود 125% سریع‌تر از DGX Spark می‌خواند (614 در برابر 273 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 125% سریع‌تر می‌نویسد. در آزمون اندازه‌گیری‌شدهٔ llama.cpp هر دو پرامپت را با سرعتی نزدیک به هم می‌خوانند (3,220 و 3,062 توکن در ثانیه).
کدام مدل‌های بزرگ‌تری اجرا می‌کند، M5 Max یا DGX Spark؟: هر دو حدود 96 GB برای مدل‌ها دارند. 47 از 73 مدل باز محبوب روی M5 Max خوب اجرا می‌شوند و 39 روی DGX Spark.
آیا MLX Node روی DGX Spark اجرا می‌شود؟: نه. MLX Node و MLX Harness فقط روی Macهای دارای Apple Silicon و با چارچوب MLX اپل اجرا می‌شوند.

مقایسه‌های بیشتر

تراشهٔ M5 Max برای هوش مصنوعی محلی · همهٔ مدل‌ها را مقایسه کنید · بهترین Mac برای LLM محلی

چطور محاسبه شده

حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.

داده‌های DGX Spark: NVIDIA: DGX Spark (specs).