1مشخصاتی که برای هوش مصنوعی مهم‌اند
| حافظهٔ یکپارچه | 128 GB |
|---|---|
| پهنای باند حافظه | 614 GB/s، یا 460 GB/s در پیکربندی پایین‌تر |
| موجود در | 14- and 16-inch MacBook Pro (2026), Mac Studio (2026) |
| جایگاه اختصاصی متناسب | جایگاه Pro Latest: استخراج تا 120 MLX در روز |
2کدام مدلها جا می‌شوند
با 4 بیت برای هر وزن، مدل به کمی بیش از نیم گیگابایت برای هر میلیارد پارامتر نیاز دارد، به‌علاوهٔ فضا برای کانتکست و macOS. با 128 GB، تراشهٔ M5 Max به‌راحتی مدلهایی تا حدود 170 میلیارد پارامتر را جا میدهد.
| مدل 4 بیتی | حافظهٔ لازم | روی M5 Max جا می‌شود |
|---|---|---|
| مدل 8B | 4.5 GB | بله |
| مدل 14B | 7.9 GB | بله |
| مدل 32B | 18 GB | بله |
| مدل 70B | 39.4 GB | بله |
| gpt-oss-120b، ترکیب خبرگان (MoE) | 65 GB | بله |
| Qwen3.5-397B-A17B، ترکیب خبرگان (MoE) | 223.3 GB | خیر |
| DeepSeek-V4.1-Flash، ترکیب خبرگان (MoE) | 316 GB | خیر |
3سرعت اجرا
نوشتن متن به پهنای باند حافظه محدود است: برای هر توکن جدید، وزن‌های فعال مدل یک بار خوانده می‌شوند. تقسیم 614 GB/s تراشهٔ M5 Max بر بایت‌های خوانده‌شده برای هر توکن، سقف زیر را میدهد. اجراهای واقعی معمولاً به حدود 45% تا 80% آن میرسند (بنچمارک‌های llama.cpp).
| مدل 4 بیتی | خواندن برای هر توکن | سقف برای یک گفتوگو |
|---|---|---|
| مدل 8B | 4.5 GB | 136 توکن/ثانیه |
| مدل 14B | 7.9 GB | 78 توکن/ثانیه |
| مدل 32B | 18 GB | 34 توکن/ثانیه |
| مدل 70B | 39.4 GB | 16 توکن/ثانیه |
| gpt-oss-120b، ترکیب خبرگان (MoE) | 2.7 GB | 227 توکن/ثانیه |
تراشه‌های نسل M5 شتاب‌دهنده‌های عصبی را به GPU اضافه می‌کنند، پس پرامپت‌ها را چند برابر سریع‌تر از M4 می‌خوانند: طبق اندازه‌گیری Apple، با MLX اولین توکن 3.3 تا 4.1 برابر زودتر می‌رسد (Apple).
5مقایسه با تراشه‌های دیگر
6پرسش‌ها
- آیا M5 Max میتواند یک مدل 70B را اجرا کند؟
- بله. یک مدل 70B در 4 بیت حدود 40 GB حافظه لازم دارد و M5 Max تا 128 GB دارد. برای یک گفتوگو سقفی حدود 16 توکن در ثانیه انتظار داشته باشید.
- M5 Max چند توکن در ثانیه میدهد؟
- برای یک مدل 8B در 4 بیت، سقف حدود 136 توکن در ثانیه است و اجراهای واقعی تقریباً به نصف تا چهارپنجم آن میرسند. مدلهای بزرگتر به همان نسبت کندترند.
- آیا M5 Max برای هوش مصنوعی خوب است؟
- برای اجرای محلی مدلها، حافظه و پهنای باند از همه مهمترند. M5 Max تا 128 GB حافظه با 614 GB/s دارد که برای مدلهایی تا حدود 170 میلیارد پارامتر کافی است. همچنین Mac با این تراشه میتواند با اجرای کارهای هوش مصنوعی برای MLX Network از طریق MLX Node درآمد کسب کند.
منابع
- Apple: M5 Pro and M5 Maxapple.com
- Apple: Mac Studio with M5 Max and M5 Ultraapple.com