کنار هم
سرعت با مدلهای محبوب
توکن در ثانیه برای یک گفتوگو، هر تراشه با بیشترین حافظهاش (192 GB و 512 GB)، با بهترین نسخهٔ مدل که جا میشود.
| مدل | M2 Ultra | M3 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8 بیت | 43–77 8 بیت |
| gpt-oss-20b21B · 3.6B فعال | 189–337 4.25 بیت اصلی | 194–345 4.25 بیت اصلی |
| Qwen3.6 35B A3B35B · 3B فعال | 113–200 8 بیت | 115–205 8 بیت |
| Qwen3.8 27B27B | 13–22 8 بیت | 13–23 8 بیت |
| Llama 3.3 70B Instruct70B | 5–9 8 بیت | 5–9 8 بیت |
| gpt-oss-120b117B · 5.1B فعال | 133–237 4.25 بیت اصلی | 137–243 4.25 بیت اصلی |
| Qwen3.5 122B A10B122B · 10B فعال | 34–60 8 بیت | 35–62 8 بیت |
| DeepSeek V4 Flash 0731284B · 13B فعال | 63–112 3 بیت کیفیت پایینتر | 27–47 8 بیت |
پرسشها
- آیا M3 Ultra برای LLM سریعتر از M2 Ultra است؟
- تقریباً یکسان: پهنای باند حافظهشان فقط چند درصد فرق دارد. M3 Ultra تا 512 GB حافظه دارد و M2 Ultra تا 192 GB.
- کدام مدلهای بزرگتری اجرا میکند، M2 Ultra یا M3 Ultra؟
- M3 Ultra: M3 Ultra تا 512 GB حافظه دارد و M2 Ultra تا 192 GB. در بیشترین حافظهاش 60 از 73 مدل باز را خوب اجرا میکند، در برابر 49.
مقایسههای بیشتر
- M1 Ultra vs M2 Ultra
- M2 Max vs M2 Ultra
- M2 Ultra vs M4 Max
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M3 Ultra vs M5 Ultra
تراشهٔ M2 Ultra برای هوش مصنوعی محلی · تراشهٔ M3 Ultra برای هوش مصنوعی محلی · همهٔ مدلها را مقایسه کنید · بهترین Mac برای LLM محلی
چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن بهعلاوهٔ مقیاسهای گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، بهاضافهٔ جا برای کانتکست. macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایتهایی که برای هر توکن خوانده میشود، سقف سرعت یک گفتوگوست؛ در بنچمارکهای عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن میرسند و همین بازه نمایش داده میشود. اینها برآوردند، نه اندازهگیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدلها از کارت رسمی هر مدل و ارقام تراشهها از مشخصات فنی Apple است. بررسیشده در 2026-10-19. همان دادههای mlx.app/compare.