کنار هم
سرعت با مدلهای محبوب
توکن در ثانیه برای یک گفت‌وگو، هر تراشه با بیشترین حافظهاش (128 GB و 192 GB)، با بهترین نسخهٔ مدل که جا می‌شود.
| مدل | M1 Ultra | M2 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8 بیت | 42–75 8 بیت |
| gpt-oss-20b21B · 3.6B فعال | 189–337 4.25 بیت اصلی | 189–337 4.25 بیت اصلی |
| Qwen3.6 35B A3B35B · 3B فعال | 113–200 8 بیت | 113–200 8 بیت |
| Qwen3.8 27B27B | 13–22 8 بیت | 13–22 8 بیت |
| Llama 3.3 70B Instruct70B | 5–9 8 بیت | 5–9 8 بیت |
| gpt-oss-120b117B · 5.1B فعال | 133–237 4.25 بیت اصلی | 133–237 4.25 بیت اصلی |
| Qwen3.5 122B A10B122B · 10B فعال | 64–114 4 بیت | 34–60 8 بیت |
| DeepSeek V4 Flash 0731284B · 13B فعال | 88–156 2 بیت کیفیت پایین‌تر | 63–112 3 بیت کیفیت پایین‌تر |
پرسش‌ها
- آیا M2 Ultra برای LLM سریعتر از M1 Ultra است؟
- تقریباً یکسان: پهنای باند حافظهشان فقط چند درصد فرق دارد. M2 Ultra تا 192 GB حافظه دارد و M1 Ultra تا 128 GB.
- کدام مدلهای بزرگتری اجرا میکند، M1 Ultra یا M2 Ultra؟
- M2 Ultra: M2 Ultra تا 192 GB حافظه دارد و M1 Ultra تا 128 GB. در بیشترین حافظهاش 49 از 73 مدل باز را خوب اجرا میکند، در برابر 47.
مقایسه‌های بیشتر
تراشهٔ M1 Ultra برای هوش مصنوعی محلی · تراشهٔ M2 Ultra برای هوش مصنوعی محلی · همهٔ مدل‌ها را مقایسه کنید · بهترین Mac برای LLM محلی
چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.