Per taglio di memoria
| Memoria | Girano bene | Il più grande che gira bene | gpt-oss-20b |
|---|---|---|---|
| 24 GB307 GB/s | 28 | Gemma 4 26B A4B | 73–129 tok/s |
| 48 GB307 GB/s | 33 | Qwen3.6 35B A3B | 73–129 tok/s |
| 64 GB307 GB/s | 34 | Nemotron 3.5 Bolt 74B A9B | 73–129 tok/s |
Modelli: MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max). Non tutti i tagli di memoria sono disponibili per ogni modello; le specifiche tecniche di Apple indicano con cosa viene offerto ciascuno.
Domande
- Un MacBook Pro con M5 Pro va bene per gli LLM locali?
- Con 64 GB esegue bene 34 modelli aperti su 73, fino a Nemotron 3.5 Bolt 74B A9B, e scrive circa 73–129 token al secondo con gpt-oss-20b. Il chip M5 Pro legge la memoria a 307 GB/s, che determina quanto velocemente scrive.
- Quanta memoria serve a un MacBook Pro con M5 Pro per l’AI?
- Con 24 GB esegue bene 28 modelli aperti; con 64 GB, 34, fino a Nemotron 3.5 Bolt 74B A9B. La memoria decide quali modelli ci stanno, e non si può espandere in seguito.
Altri Mac
MacBook Pro con altri chip:
- MacBook Pro M5
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Altri Mac con chip M5 Pro:
Testa a testa:
Il M5 Pro per l’AI locale · Il miglior Mac per LLM in locale · Tutti i Mac
Come è calcolato
Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.