1مشخصاتی که برای هوش مصنوعی مهم‌اند
| حافظهٔ یکپارچه | 64 GB |
|---|---|
| پهنای باند حافظه | 307 GB/s |
| موجود در | 14- and 16-inch MacBook Pro (2026), Mac mini (2026) |
| جایگاه اختصاصی متناسب | جایگاه Pro Latest: استخراج تا 120 MLX در روز |
2کدام مدلها جا می‌شوند
با 4 بیت برای هر وزن، مدل به کمی بیش از نیم گیگابایت برای هر میلیارد پارامتر نیاز دارد، به‌علاوهٔ فضا برای کانتکست و macOS. با 64 GB، تراشهٔ M5 Pro به‌راحتی مدلهایی تا حدود 85 میلیارد پارامتر را جا میدهد.
| مدل 4 بیتی | حافظهٔ لازم | روی M5 Pro جا می‌شود |
|---|---|---|
| مدل 8B | 4.5 GB | بله |
| مدل 14B | 7.9 GB | بله |
| مدل 32B | 18 GB | بله |
| مدل 70B | 39.4 GB | بله |
| gpt-oss-120b، ترکیب خبرگان (MoE) | 65 GB | خیر |
| Qwen3.5-397B-A17B، ترکیب خبرگان (MoE) | 223.3 GB | خیر |
| DeepSeek-V4.1-Flash، ترکیب خبرگان (MoE) | 316 GB | خیر |
3سرعت اجرا
نوشتن متن به پهنای باند حافظه محدود است: برای هر توکن جدید، وزن‌های فعال مدل یک بار خوانده می‌شوند. تقسیم 307 GB/s تراشهٔ M5 Pro بر بایت‌های خوانده‌شده برای هر توکن، سقف زیر را میدهد. اجراهای واقعی معمولاً به حدود 45% تا 80% آن میرسند (بنچمارک‌های llama.cpp).
| مدل 4 بیتی | خواندن برای هر توکن | سقف برای یک گفتوگو |
|---|---|---|
| مدل 8B | 4.5 GB | 68 توکن/ثانیه |
| مدل 14B | 7.9 GB | 39 توکن/ثانیه |
| مدل 32B | 18 GB | 17 توکن/ثانیه |
| مدل 70B | 39.4 GB | 8 توکن/ثانیه |
تراشه‌های نسل M5 شتاب‌دهنده‌های عصبی را به GPU اضافه می‌کنند، پس پرامپت‌ها را چند برابر سریع‌تر از M4 می‌خوانند: طبق اندازه‌گیری Apple، با MLX اولین توکن 3.3 تا 4.1 برابر زودتر می‌رسد (Apple).
5مقایسه با تراشه‌های دیگر
6پرسش‌ها
- آیا M5 Pro میتواند یک مدل 70B را اجرا کند؟
- بله. یک مدل 70B در 4 بیت حدود 40 GB حافظه لازم دارد و M5 Pro تا 64 GB دارد. برای یک گفتوگو سقفی حدود 8 توکن در ثانیه انتظار داشته باشید.
- M5 Pro چند توکن در ثانیه میدهد؟
- برای یک مدل 8B در 4 بیت، سقف حدود 68 توکن در ثانیه است و اجراهای واقعی تقریباً به نصف تا چهارپنجم آن میرسند. مدلهای بزرگتر به همان نسبت کندترند.
- آیا M5 Pro برای هوش مصنوعی خوب است؟
- برای اجرای محلی مدلها، حافظه و پهنای باند از همه مهمترند. M5 Pro تا 64 GB حافظه با 307 GB/s دارد که برای مدلهایی تا حدود 85 میلیارد پارامتر کافی است. همچنین Mac با این تراشه میتواند با اجرای کارهای هوش مصنوعی برای MLX Network از طریق MLX Node درآمد کسب کند.
منابع
- Apple: M5 Pro and M5 Maxapple.com
- Apple: Mac mini (2026) specssupport.apple.com