Memoria a ogni precisione
| Versione | Pesi | Con contesto | Mac più piccolo |
|---|---|---|---|
| 4,25 bit nativo | 13,8 GB | 15,3 GB | 24 GB |
| 3 bit qualità inferiore | 9,2 GB | 10,7 GB | 16 GB |
| 2 bit qualità inferiore | 6,6 GB | 8,1 GB | 16 GB |
Su ogni chip Apple
Per ogni chip, il taglio di memoria più piccolo che esegue gpt-oss-20b, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.
| Chip | Richiede | Versione | Token/s |
|---|---|---|---|
| M6 | 24 GB | 4,25 bit nativo Gira bene | 40–72 |
| M5 Ultra | 96 GB | 4,25 bit nativo Gira bene | 284–505 |
| M5 Max | 36 GB | 4,25 bit nativo Gira bene | 109–194 |
| M5 Pro | 24 GB | 4,25 bit nativo Gira bene | 73–129 |
| M5 | 24 GB | 4,25 bit nativo Gira bene | 36–64 |
| M4 Max | 36 GB | 4,25 bit nativo Gira bene | 97–173 |
| M4 Pro | 24 GB | 4,25 bit nativo Gira bene | 65–115 |
| M4 | 24 GB | 4,25 bit nativo Gira bene | 28–51 |
| M3 Ultra | 96 GB | 4,25 bit nativo Gira bene | 194–345 |
| M3 Max | 36 GB | 4,25 bit nativo Gira bene | 71–126 |
| M3 Pro | 36 GB | 4,25 bit nativo Gira bene | 36–63 |
| M3 | 24 GB | 4,25 bit nativo Gira bene | 24–42 |
| M2 Ultra | 64 GB | 4,25 bit nativo Gira bene | 189–337 |
| M2 Max | 32 GB | 4,25 bit nativo Gira bene | 95–168 |
| M2 Pro | 32 GB | 4,25 bit nativo Gira bene | 47–84 |
| M2 | 24 GB | 4,25 bit nativo Gira bene | 24–42 |
| M1 Ultra | 64 GB | 4,25 bit nativo Gira bene | 189–337 |
| M1 Max | 32 GB | 4,25 bit nativo Gira bene | 95–168 |
| M1 Pro | 32 GB | 4,25 bit nativo Gira bene | 47–84 |
| M1 | 16 GB | 3 bit Gira bene | 19–34 |
Come eseguirlo
- Il modo più semplice: scarica MLX Harness, gratuito e open source. Cerca gpt-oss-20b, scarica la versione adatta al tuo Mac e inizia a chattare. MLX Harness rende disponibile il modello anche alle tue altre app tramite un’API compatibile con OpenAI.Scarica MLX HarnessGratuito · Apple Silicon · macOS 14.5 o successivo
- Nel Terminale, con MLX di Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/gpt-oss-20b-MXFP4-Q8Build: mlx-community/gpt-oss-20b-MXFP4-Q8 su Hugging Face. Le altre precisioni sono lì accanto.
Passo dopo passo: scaricare ed eseguire LLM su Mac · come usare MLX Harness · MLX vs Ollama vs llama.cpp
Informazioni su gpt-oss-20b
| Creato da | OpenAI |
|---|---|
| Parametri | 21B in totale · 3,6B attivi (mixture-of-experts) |
| Contesto | 128K token |
| Licenza | Apache-2.0 |
| Uscita | 2025-08 |
| Input | Testo |
| Intelligenza | 9 nell’Artificial Analysis Intelligence Index |
| Pesi | openai/gpt-oss-20b |
Domande
- Quanta memoria richiede gpt-oss-20b?
- Circa 13,8 GB di pesi a 4,25 bit nativo, più lo spazio per il contesto: 15,3 GB in tutto. Su un Mac significa 24 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.
- Quanto è veloce gpt-oss-20b su un Mac?
- La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 284–505 token al secondo (4,25 bit nativo). Il Mac più piccolo che lo esegue, con 24 GB, arriva a circa 73–129 su un M5 Pro.
- Perché gpt-oss-20b è più veloce di quanto suggeriscano le sue dimensioni?
- È un modello mixture-of-experts: tiene in memoria 21B parametri ma per ogni token ne legge solo 3,6B, quindi scrive alla velocità di un modello molto più piccolo.
Modelli simili
Per la scheda del tuo modello o il README
Mostra il Mac più piccolo che esegue bene gpt-oss-20b e rimanda a questa pagina.
[](https://mlx.app/run/gpt-oss-20b)Come è calcolato
Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.