1De specificaties die tellen voor AI
| Geïntegreerd geheugen | 128 GB |
|---|---|
| Geheugenbandbreedte | 546 GB/s, of 410 GB/s bij de lagere configuratie |
| Zit in | 14- and 16-inch MacBook Pro (2024), Mac Studio (2025) |
| Vaste plek ervoor | Pro-plek: delft tot 80 MLX per dag |
2Welke modellen passen
Bij 4 bits per gewicht heeft een model iets meer dan een halve gigabyte per miljard parameters nodig, plus ruimte voor de context en macOS. Met 128 GB biedt de M4 Max ruim plaats aan modellen tot ongeveer 170 miljard parameters.
| Model in 4-bit | Benodigd geheugen | Past op de M4 Max |
|---|---|---|
| 8B-model | 4,5 GB | Ja |
| 14B-model | 7,9 GB | Ja |
| 32B-model | 18 GB | Ja |
| 70B-model | 39,4 GB | Ja |
| gpt-oss-120b, mixture-of-experts | 65 GB | Ja |
| Qwen3.5-397B-A17B, mixture-of-experts | 223,3 GB | Nee |
| DeepSeek-V4.1-Flash, mixture-of-experts | 316 GB | Nee |
3Hoe snel hij is
Tekst schrijven wordt begrensd door de geheugenbandbreedte: elke nieuwe token leest de actieve gewichten van het model één keer. Deel de 546 GB/s van de M4 Max door het aantal bytes dat per token wordt gelezen en je krijgt het plafond hieronder. In de praktijk haal je meestal zo'n 45% tot 80% daarvan (llama.cpp-benchmarks).
| Model in 4-bit | Gelezen per token | Plafond voor één chat |
|---|---|---|
| 8B-model | 4,5 GB | 121 tokens/s |
| 14B-model | 7,9 GB | 69 tokens/s |
| 32B-model | 18 GB | 30 tokens/s |
| 70B-model | 39,4 GB | 14 tokens/s |
| gpt-oss-120b, mixture-of-experts | 2,7 GB | 202 tokens/s |
Gemeten: op de M4 Max (40-core GPU) genereert llama.cpp in zijn openbare benchmarks 83 tokens per seconde met Llama-2-7B (Q4_0).
5Vergelijk met andere chips
6Vragen
- Kan de M4 Max een 70B-model draaien?
- Ja. Een 70B-model in 4-bit heeft ongeveer 40 GB nodig, en de M4 Max heeft tot 128 GB. Reken op een plafond van ongeveer 14 tokens per seconde voor één chat.
- Hoeveel tokens per seconde haalt de M4 Max?
- Voor een 8B-model in 4-bit ligt het plafond rond 121 tokens per seconde, en in de praktijk haal je ongeveer de helft tot vier vijfde daarvan. Grotere modellen zijn naar verhouding trager.
- Is de M4 Max goed voor AI?
- Voor lokale modellen tellen geheugen en bandbreedte het zwaarst. De M4 Max heeft tot 128 GB met 546 GB/s, genoeg voor modellen tot ongeveer 170 miljard parameters. Met MLX Node kan hij ook verdienen door AI-werk uit te voeren voor MLX Network.
Bronnen
- Apple: M4 Pro and M4 Maxapple.com
- llama.cpp: Apple Silicon benchmarksgithub.com