Memoria a ogni precisione
| Versione | Pesi | Con contesto | Mac più piccolo |
|---|---|---|---|
| 8 bit | 2,6 TB | 2,8 TB | più di qualsiasi Mac |
| 6 bit | 2 TB | 2,1 TB | più di qualsiasi Mac |
| 4 bit | 1,4 TB | 1,5 TB | più di qualsiasi Mac |
| 3 bit qualità inferiore | 1,1 TB | 1,1 TB | più di qualsiasi Mac |
| 2 bit qualità inferiore | 750 GB | 810 GB | più di qualsiasi Mac |
Su ogni chip Apple
Per ogni chip, il taglio di memoria più piccolo che esegue Qwen3.8 2.4T A95B, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.
| Chip | Richiede | Versione | Token/s |
|---|---|---|---|
| M6 | nessun taglio basta | Troppo grande | – |
| M5 Ultra | nessun taglio basta | Troppo grande | – |
| M5 Max | nessun taglio basta | Troppo grande | – |
| M5 Pro | nessun taglio basta | Troppo grande | – |
| M5 | nessun taglio basta | Troppo grande | – |
| M4 Max | nessun taglio basta | Troppo grande | – |
| M4 Pro | nessun taglio basta | Troppo grande | – |
| M4 | nessun taglio basta | Troppo grande | – |
| M3 Ultra | nessun taglio basta | Troppo grande | – |
| M3 Max | nessun taglio basta | Troppo grande | – |
| M3 Pro | nessun taglio basta | Troppo grande | – |
| M3 | nessun taglio basta | Troppo grande | – |
| M2 Ultra | nessun taglio basta | Troppo grande | – |
| M2 Max | nessun taglio basta | Troppo grande | – |
| M2 Pro | nessun taglio basta | Troppo grande | – |
| M2 | nessun taglio basta | Troppo grande | – |
| M1 Ultra | nessun taglio basta | Troppo grande | – |
| M1 Max | nessun taglio basta | Troppo grande | – |
| M1 Pro | nessun taglio basta | Troppo grande | – |
| M1 | nessun taglio basta | Troppo grande | – |
Come eseguirlo
Nessun Mac da solo lo contiene. I modelli più piccoli qui sotto girano bene, e la guida ai cluster di Mac spiega come distribuire un modello su più Mac.
Passo dopo passo: scaricare ed eseguire LLM su Mac · come usare MLX Harness · MLX vs Ollama vs llama.cpp
Informazioni su Qwen3.8 2.4T A95B
| Creato da | Qwen (Alibaba) |
|---|---|
| Parametri | 2400B in totale · 95B attivi (mixture-of-experts) |
| Contesto | 256K token |
| Licenza | Qwen3.8-Max license (qwen3.8-max) |
| Uscita | 2026-08 |
| Input | Testo |
| Intelligenza | 39,9 nell’Artificial Analysis Intelligence Index |
| Pesi | Qwen/Qwen3.8-2.4T-A95B |
Domande
- Quanta memoria richiede Qwen3.8 2.4T A95B?
- Circa 1,4 TB di pesi a 4 bit, più lo spazio per il contesto: 1,5 TB in tutto. È più di quanta ne abbia oggi qualsiasi Mac.
- Esiste un Mac che può eseguire Qwen3.8 2.4T A95B?
- Non da solo: anche a 2 bit richiede più memoria del Mac più grande. Usa un modello più piccolo, oppure distribuiscilo su più Mac con un software per cluster.
- Perché Qwen3.8 2.4T A95B è più veloce di quanto suggeriscano le sue dimensioni?
- È un modello mixture-of-experts: tiene in memoria 2400B parametri ma per ogni token ne legge solo 95B, quindi scrive alla velocità di un modello molto più piccolo.
Modelli simili
Per la scheda del tuo modello o il README
Mostra il Mac più piccolo che esegue bene Qwen3.8 2.4T A95B e rimanda a questa pagina.
[](https://mlx.app/run/qwen3.8-2.4t-a95b)Come è calcolato
Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.