بر اساس اندازهٔ حافظه
| حافظه | خوب اجرا میشوند | بزرگ‌ترین که خوب اجرا می‌شود | gpt-oss-20b |
|---|---|---|---|
| 18 GB150 GB/s | 20 | Gemma 4 12B Unified | 36–63 tok/s |
| 36 GB150 GB/s | 28 | Qwen3.6 35B A3B | 36–63 tok/s |
مدلها: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023). هر اندازهٔ حافظه برای هر مدلی عرضه نمی‌شود؛ مشخصات فنی Apple فهرست میکند که هر کدام با چه حافظه‌ای عرضه می‌شود.
پرسش‌ها
- آیا MacBook Pro با M3 Pro برای LLMهای محلی خوب است؟
- با 36 GB، 28 از 73 مدل باز را خوب اجرا میکند، تا Qwen3.6 35B A3B، و با gpt-oss-20b حدود 36–63 توکن در ثانیه مینویسد. M3 Pro حافظه را با 150 GB/s میخواند، که سرعت نوشتن را تعیین میکند.
- یک MacBook Pro با M3 Pro برای هوش مصنوعی چقدر حافظه باید داشته باشد؟
- با 18 GB، 20 مدل باز خوب اجرا میشوند؛ با 36 GB، 28 مدل، تا Qwen3.6 35B A3B. حافظه تعیین میکند کدام مدلها جا میشوند و بعداً قابل ارتقا نیست.
Macهای دیگر
MacBook Pro با تراشه‌های دیگر:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
رودررو:
تراشهٔ M3 Pro برای هوش مصنوعی محلی · بهترین Mac برای LLM محلی · همهٔ Macها
چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدلها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.