1Spesifikasi yang penting untuk AI
| Memori bersatu | 64 GB |
|---|---|
| Lebar jalur memori | 307 GB/s |
| Terdapat dalam | 14- and 16-inch MacBook Pro (2026), Mac mini (2026) |
| Kerusi khas untuknya | Kerusi Pro Latest: melombong sehingga 120 MLX sehari |
2Model yang muat
Pada 4 bit setiap pemberat, model memerlukan sedikit lebih daripada setengah gigabait bagi setiap bilion parameter, serta ruang untuk konteks dan macOS. Dengan 64 GB, M5 Pro memuatkan model sehingga kira-kira 85 bilion parameter dengan selesa.
| Model 4-bit | Memori diperlukan | Muat pada M5 Pro |
|---|---|---|
| Model 8B | 4.5 GB | Ya |
| Model 14B | 7.9 GB | Ya |
| Model 32B | 18 GB | Ya |
| Model 70B | 39.4 GB | Ya |
| gpt-oss-120b, mixture-of-experts | 65 GB | Tidak |
| Qwen3.5-397B-A17B, mixture-of-experts | 223.3 GB | Tidak |
| DeepSeek-V4.1-Flash, mixture-of-experts | 316 GB | Tidak |
3Sepantas mana
Kelajuan menulis teks dihadkan oleh lebar jalur memori: setiap token baharu membaca pemberat aktif model sekali. Membahagikan 307 GB/s M5 Pro dengan bilangan bait yang dibaca setiap token memberikan had atas di bawah. Penggunaan sebenar biasanya mencapai kira-kira 45% hingga 80% daripadanya (penanda aras llama.cpp).
| Model 4-bit | Dibaca setiap token | Had atas satu sembang |
|---|---|---|
| Model 8B | 4.5 GB | 68 token/saat |
| Model 14B | 7.9 GB | 39 token/saat |
| Model 32B | 18 GB | 17 token/saat |
| Model 70B | 39.4 GB | 8 token/saat |
Cip generasi M5 menambah pemecut neural pada GPU, jadi ia membaca prompt beberapa kali lebih pantas daripada M4: Apple mengukur token pertama tiba 3.3 hingga 4.1 kali lebih cepat dengan MLX (Apple).
5Bandingkan dengan cip lain
6Soalan
- Bolehkah M5 Pro menjalankan model 70B?
- Boleh. Model 70B pada 4-bit memerlukan kira-kira 40 GB, dan M5 Pro mempunyai sehingga 64 GB. Had atasnya kira-kira 8 token sesaat untuk satu sembang.
- Berapa token sesaat yang dicapai M5 Pro?
- Untuk model 8B pada 4-bit, had atasnya kira-kira 68 token sesaat, dan penggunaan sebenar mencapai lebih kurang separuh hingga empat perlima daripadanya. Model yang lebih besar menjadi perlahan secara berkadar.
- Adakah M5 Pro bagus untuk AI?
- Untuk menjalankan model secara tempatan, memori dan lebar jalur paling penting. M5 Pro mempunyai sehingga 64 GB pada 307 GB/s, cukup untuk model sehingga kira-kira 85 bilion parameter. Ia juga boleh memperoleh dengan menjalankan kerja AI untuk MLX Network melalui MLX Node.
Sumber
- Apple: M5 Pro and M5 Maxapple.com
- Apple: Mac mini (2026) specssupport.apple.com