1مشخصاتی که برای هوش مصنوعی مهم‌اند
| حافظهٔ یکپارچه | 36 GB |
|---|---|
| پهنای باند حافظه | 150 GB/s |
| موجود در | 14- and 16-inch MacBook Pro (2023) |
| جایگاه اختصاصی متناسب | جایگاه Pro: استخراج تا 80 MLX در روز |
2کدام مدلها جا میشوند
با 4 بیت برای هر وزن، مدل به کمی بیش از نیم گیگابایت برای هر میلیارد پارامتر نیاز دارد، به‌علاوهٔ فضا برای کانتکست و macOS. با 36 GB، تراشهٔ M3 Pro بهراحتی مدلهایی تا حدود 48 میلیارد پارامتر را جا میدهد.
| مدل 4 بیتی | حافظهٔ لازم | روی M3 Pro جا می‌شود |
|---|---|---|
| مدل 8B | 4.5 GB | بله |
| مدل 14B | 7.9 GB | بله |
| مدل 32B | 18 GB | بله |
| مدل 70B | 39.4 GB | خیر |
| gpt-oss-120b، ترکیب خبرگان (MoE) | 65 GB | خیر |
| Qwen3.5-397B-A17B، ترکیب خبرگان (MoE) | 223.3 GB | خیر |
| DeepSeek-V4.1-Flash، ترکیب خبرگان (MoE) | 316 GB | خیر |
3سرعت اجرا
نوشتن متن به پهنای باند حافظه محدود است: برای هر توکن جدید، وزن‌های فعال مدل یک بار خوانده میشوند. تقسیم 150 GB/s تراشهٔ M3 Pro بر بایت‌های خوانده‌شده برای هر توکن، سقف زیر را میدهد. اجراهای واقعی معمولاً به حدود 45% تا 80% آن میرسند (بنچمارک‌های llama.cpp).
| مدل 4 بیتی | خواندن برای هر توکن | سقف برای یک گفت‌وگو |
|---|---|---|
| مدل 8B | 4.5 GB | 33 توکن/ثانیه |
| مدل 14B | 7.9 GB | 19 توکن/ثانیه |
| مدل 32B | 18 GB | 8 توکن/ثانیه |
5مقایسه با تراشه‌های دیگر
6پرسش‌ها
- آیا M3 Pro میتواند یک مدل 70B را اجرا کند؟
- نه بهراحتی. یک مدل 70B در 4 بیت حدود 40 GB حافظه لازم دارد و M3 Pro حداکثر 36 GB دارد. مدلهایی تا حدود 48B پارامتر بهخوبی جا میشوند.
- M3 Pro چند توکن در ثانیه میدهد؟
- برای یک مدل 8B در 4 بیت، سقف حدود 33 توکن در ثانیه است و اجراهای واقعی تقریباً به نصف تا چهارپنجم آن میرسند. مدلهای بزرگتر به همان نسبت کندترند.
- آیا M3 Pro برای هوش مصنوعی خوب است؟
- برای اجرای محلی مدلها، حافظه و پهنای باند از همه مهمترند. M3 Pro تا 36 GB حافظه با 150 GB/s دارد که برای مدلهایی تا حدود 48 میلیارد پارامتر کافی است. همچنین Mac با این تراشه میتواند با اجرای کارهای هوش مصنوعی برای MLX Network از طریق MLX Node درآمد کسب کند.
منابع
- Apple: M3, M3 Pro and M3 Maxapple.com
- Apple: MacBook Pro (M3 Pro or M3 Max) specssupport.apple.com