کنار هم
سرعت با مدلهای محبوب
توکن در ثانیه برای یک گفت‌وگو، هر تراشه با بیشترین حافظهاش (64 GB و 128 GB)، با بهترین نسخهٔ مدل که جا می‌شود.
| مدل | M1 Max | M1 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 21–38 8 بیت | 42–75 8 بیت |
| gpt-oss-20b21B · 3.6B فعال | 95–168 4.25 بیت اصلی | 189–337 4.25 بیت اصلی |
| Qwen3.6 35B A3B35B · 3B فعال | 56–100 8 بیت | 113–200 8 بیت |
| Qwen3.8 27B27B | 12–21 4 بیت | 13–22 8 بیت |
| Llama 3.3 70B Instruct70B | 5–8 4 بیت | 5–9 8 بیت |
| gpt-oss-120b117B · 5.1B فعال | 113–200 2 بیت کیفیت پایین‌تر | 133–237 4.25 بیت اصلی |
| Qwen3.5 122B A10B122B · 10B فعال | 58–103 2 بیت کیفیت پایین‌تر | 64–114 4 بیت |
| DeepSeek V4 Flash 0731284B · 13B فعال | خیلی بزرگ | 88–156 2 بیت کیفیت پایین‌تر |
پرسش‌ها
- آیا M1 Ultra برای LLM سریعتر از M1 Max است؟
- M1 Ultra حافظه را حدود 100% سریعتر از M1 Max میخواند (800 در برابر 400 GB/s)، پس با هر مدلی که در هر دو جا شود حدود 100% سریعتر مینویسد. اما خواندن یک پرامپت طولانی به توان محاسباتی GPU بستگی دارد که این مقایسه آن را پوشش نمیدهد.
- کدام مدلهای بزرگتری اجرا میکند، M1 Max یا M1 Ultra؟
- M1 Ultra: M1 Ultra تا 128 GB حافظه دارد و M1 Max تا 64 GB. در بیشترین حافظهاش 47 از 73 مدل باز را خوب اجرا میکند، در برابر 39.
مقایسه‌های بیشتر
تراشهٔ M1 Max برای هوش مصنوعی محلی · تراشهٔ M1 Ultra برای هوش مصنوعی محلی · همهٔ مدل‌ها را مقایسه کنید · بهترین Mac برای LLM محلی
چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.