1Die Daten, die für KI zählen
| Gemeinsamer Arbeitsspeicher | 64 GB |
|---|---|
| Speicherbandbreite | 307 GB/s |
| Steckt in | 14- and 16-inch MacBook Pro (2026), Mac mini (2026) |
| Passender dedizierter Platz | Pro Latest-Platz: schürft bis zu 120 MLX am Tag |
2Welche Modelle passen
Bei 4 Bit pro Gewicht braucht ein Modell etwas mehr als ein halbes Gigabyte pro Milliarde Parameter, dazu Platz für seinen Kontext und macOS. Mit 64 GB fasst der M5 Pro bequem Modelle bis etwa 85 Milliarden Parameter.
| Modell in 4 Bit | Benötigter Speicher | Passt auf den M5 Pro |
|---|---|---|
| 8B-Modell | 4,5 GB | Ja |
| 14B-Modell | 7,9 GB | Ja |
| 32B-Modell | 18 GB | Ja |
| 70B-Modell | 39,4 GB | Ja |
| gpt-oss-120b, Mixture-of-Experts | 65 GB | Nein |
| Qwen3.5-397B-A17B, Mixture-of-Experts | 223,3 GB | Nein |
| DeepSeek-V4.1-Flash, Mixture-of-Experts | 316 GB | Nein |
3Wie schnell er läuft
Beim Schreiben von Text begrenzt die Speicherbandbreite: Jeder neue Token liest die aktiven Gewichte des Modells einmal. Teilt man die 307 GB/s beim M5 Pro durch die pro Token gelesenen Bytes, ergibt sich die Obergrenze unten. Echte Läufe erreichen meist etwa 45 % bis 80 % davon (Benchmarks von llama.cpp).
| Modell in 4 Bit | Gelesen pro Token | Obergrenze für einen Chat |
|---|---|---|
| 8B-Modell | 4,5 GB | 68 Tokens/s |
| 14B-Modell | 7,9 GB | 39 Tokens/s |
| 32B-Modell | 18 GB | 17 Tokens/s |
| 70B-Modell | 39,4 GB | 8 Tokens/s |
Chips der M5-Generation haben Neural Accelerators in der GPU und lesen Prompts daher um ein Mehrfaches schneller als der M4: Laut Apples Messung kommt der erste Token mit MLX 3,3- bis 4,1-mal früher (Apple).
5Mit anderen Chips vergleichen
6Fragen
- Kann der M5 Pro ein 70B-Modell ausführen?
- Ja. Ein 70B-Modell in 4 Bit braucht etwa 40 GB, und der M5 Pro hat bis zu 64 GB. Rechne mit einer Obergrenze von etwa 8 Tokens pro Sekunde für einen Chat.
- Wie viele Tokens pro Sekunde schafft der M5 Pro?
- Bei einem 8B-Modell in 4 Bit liegt die Obergrenze bei etwa 68 Tokens pro Sekunde; echte Läufe erreichen ungefähr die Hälfte bis vier Fünftel davon. Größere Modelle sind entsprechend langsamer.
- Ist der M5 Pro gut für KI?
- Für lokale Modelle zählen Speicher und Bandbreite am meisten. Der M5 Pro hat bis zu 64 GB mit 307 GB/s, genug für Modelle bis etwa 85 Milliarden Parameter. Mit MLX Node kann er außerdem verdienen, indem er KI-Arbeit für MLX Network erledigt.
Quellen
- Apple: M5 Pro and M5 Maxapple.com
- Apple: Mac mini (2026) specssupport.apple.com