Quanta memoria richiede gpt-oss-120b?

Circa 65,3 GB di pesi a 4,25 bit nativo, più lo spazio per il contesto: 70,5 GB in tutto. Su un Mac significa 96 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.

Quanto è veloce gpt-oss-120b su un Mac?

La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 200–356 token al secondo (4,25 bit nativo). Il Mac più piccolo che lo esegue, con 96 GB, arriva a circa 200–356 su un M5 Ultra.

Perché gpt-oss-120b è più veloce di quanto suggeriscano le sue dimensioni?

È un modello mixture-of-experts: tiene in memoria 117B parametri ma per ogni token ne legge solo 5,1B, quindi scrive alla velocità di un modello molto più piccolo.

Un Mac può eseguire gpt-oss-120b? Memoria, velocità

Memoria a ogni precisione

Versione	Pesi	Con contesto	Mac più piccolo
4,25 bit nativo	65,3 GB	70,5 GB	96 GB
3 bit qualità inferiore	51,2 GB	55,3 GB	96 GB
2 bit qualità inferiore	36,6 GB	39,5 GB	64 GB

Su ogni chip Apple

Per ogni chip, il taglio di memoria più piccolo che esegue gpt-oss-120b, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.

Chip	Richiede	Versione	Token/s
M6	nessun taglio basta	Troppo grande	–
M5 Ultra	96 GB	4,25 bit nativo Gira bene	200–356
M5 Max	128 GB	4,25 bit nativo Gira bene	102–182
M5 Pro	64 GB	2 bit Gira bene	86–154
M5	nessun taglio basta	Troppo grande	–
M4 Max	128 GB	4,25 bit nativo Gira bene	91–162
M4 Pro	64 GB	2 bit Gira bene	77–137
M4	nessun taglio basta	Troppo grande	–
M3 Ultra	96 GB	4,25 bit nativo Gira bene	137–243
M3 Max	96 GB	4,25 bit nativo Gira bene	50–89
M3 Pro	nessun taglio basta	Troppo grande	–
M3	nessun taglio basta	Troppo grande	–
M2 Ultra	128 GB	4,25 bit nativo Gira bene	133–237
M2 Max	96 GB	4,25 bit nativo Gira bene	67–119
M2 Pro	nessun taglio basta	Troppo grande	–
M2	nessun taglio basta	Troppo grande	–
M1 Ultra	128 GB	4,25 bit nativo Gira bene	133–237
M1 Max	64 GB	2 bit Gira bene	113–200
M1 Pro	nessun taglio basta	Troppo grande	–
M1	nessun taglio basta	Troppo grande	–

Come eseguirlo

Il modo più semplice: scarica MLX Harness, gratuito e open source. Cerca gpt-oss-120b, scarica la versione adatta al tuo Mac e inizia a chattare. MLX Harness rende disponibile il modello anche alle tue altre app tramite un’API compatibile con OpenAI.Scarica MLX HarnessGratuito · Apple Silicon · macOS 14.5 o successivo
Nel Terminale, con MLX di Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/gpt-oss-120b-MXFP4-Q8Build: mlx-community/gpt-oss-120b-MXFP4-Q8 su Hugging Face. Le altre precisioni sono lì accanto.

Passo dopo passo: scaricare ed eseguire LLM su Mac · come usare MLX Harness · MLX vs Ollama vs llama.cpp

Informazioni su gpt-oss-120b

Creato da	OpenAI
Parametri	117B in totale · 5,1B attivi (mixture-of-experts)
Contesto	128K token
Licenza	Apache-2.0
Uscita	2025-08
Input	Testo
Intelligenza	11,6 nell’Artificial Analysis Intelligence Index
Pesi	openai/gpt-oss-120b

Guida: passo dopo passo su mlx.app

Domande

Quanta memoria richiede gpt-oss-120b?: Circa 65,3 GB di pesi a 4,25 bit nativo, più lo spazio per il contesto: 70,5 GB in tutto. Su un Mac significa 96 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.
Quanto è veloce gpt-oss-120b su un Mac?: La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 200–356 token al secondo (4,25 bit nativo). Il Mac più piccolo che lo esegue, con 96 GB, arriva a circa 200–356 su un M5 Ultra.
Perché gpt-oss-120b è più veloce di quanto suggeriscano le sue dimensioni?: È un modello mixture-of-experts: tiene in memoria 117B parametri ma per ogni token ne legge solo 5,1B, quindi scrive alla velocità di un modello molto più piccolo.

Modelli simili

Tutti i modelli · Tutti i Mac · Confronta il tuo Mac

Per la scheda del tuo modello o il README

Mostra il Mac più piccolo che esegue bene gpt-oss-120b e rimanda a questa pagina.

[![Runs on a Mac](https://mlx.app/badge/run/gpt-oss-120b.svg)](https://mlx.app/run/gpt-oss-120b)

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.