Quanta memoria richiede Hy3?

Circa 166 GB di pesi a 4 bit, più lo spazio per il contesto: 179 GB in tutto. Su un Mac significa 256 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.

Quanto è veloce Hy3 su un Mac?

La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 256 GB, a circa 46–81 token al secondo (4 bit). Il Mac più piccolo che lo esegue, con 256 GB, arriva a circa 46–81 su un M5 Ultra.

Perché Hy3 è più veloce di quanto suggeriscano le sue dimensioni?

È un modello mixture-of-experts: tiene in memoria 295B parametri ma per ogni token ne legge solo 21B, quindi scrive alla velocità di un modello molto più piccolo.

Un Mac può eseguire Hy3? Memoria, velocità

Memoria a ogni precisione

Versione	Pesi	Con contesto	Mac più piccolo
8 bit	313 GB	339 GB	512 GB
6 bit	240 GB	259 GB	512 GB
4 bit	166 GB	179 GB	256 GB
3 bit qualità inferiore	129 GB	139 GB	192 GB
2 bit qualità inferiore	92,2 GB	99,6 GB	192 GB

Su ogni chip Apple

Per ogni chip, il taglio di memoria più piccolo che esegue Hy3, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.

Chip	Richiede	Versione	Token/s
M6	nessun taglio basta	Troppo grande	–
M5 Ultra	256 GB	4 bit Gira bene	46–81
M5 Max	128 GB	2 bit Al limite	42–74
M5 Pro	nessun taglio basta	Troppo grande	–
M5	nessun taglio basta	Troppo grande	–
M4 Max	128 GB	2 bit Al limite	37–66
M4 Pro	nessun taglio basta	Troppo grande	–
M4	nessun taglio basta	Troppo grande	–
M3 Ultra	256 GB	4 bit Gira bene	31–56
M3 Max	128 GB	2 bit Al limite	27–48
M3 Pro	nessun taglio basta	Troppo grande	–
M3	nessun taglio basta	Troppo grande	–
M2 Ultra	192 GB	3 bit Gira bene	39–70
M2 Max	nessun taglio basta	Troppo grande	–
M2 Pro	nessun taglio basta	Troppo grande	–
M2	nessun taglio basta	Troppo grande	–
M1 Ultra	128 GB	2 bit Al limite	55–97
M1 Max	nessun taglio basta	Troppo grande	–
M1 Pro	nessun taglio basta	Troppo grande	–
M1	nessun taglio basta	Troppo grande	–

Come eseguirlo

Il modo più semplice: scarica MLX Harness, gratuito e open source. Cerca Hy3, scarica la versione adatta al tuo Mac e inizia a chattare. MLX Harness rende disponibile il modello anche alle tue altre app tramite un’API compatibile con OpenAI.Scarica MLX HarnessGratuito · Apple Silicon · macOS 14.5 o successivo
Nel Terminale, con MLX di Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Hy3-OptiQ-2bitBuild: mlx-community/Hy3-OptiQ-2bit su Hugging Face. Le altre precisioni sono lì accanto.

Passo dopo passo: scaricare ed eseguire LLM su Mac · come usare MLX Harness · MLX vs Ollama vs llama.cpp

Informazioni su Hy3

Creato da	Tencent
Parametri	295B in totale · 21B attivi (mixture-of-experts)
Contesto	256K token
Licenza	Apache-2.0
Uscita	2026-07
Input	Testo
Intelligenza	25,3 nell’Artificial Analysis Intelligence Index
Pesi	tencent/Hy3

Domande

Quanta memoria richiede Hy3?: Circa 166 GB di pesi a 4 bit, più lo spazio per il contesto: 179 GB in tutto. Su un Mac significa 256 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.
Quanto è veloce Hy3 su un Mac?: La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 256 GB, a circa 46–81 token al secondo (4 bit). Il Mac più piccolo che lo esegue, con 256 GB, arriva a circa 46–81 su un M5 Ultra.
Perché Hy3 è più veloce di quanto suggeriscano le sue dimensioni?: È un modello mixture-of-experts: tiene in memoria 295B parametri ma per ogni token ne legge solo 21B, quindi scrive alla velocità di un modello molto più piccolo.

Modelli simili

Tutti i modelli · Tutti i Mac · Confronta il tuo Mac

Per la scheda del tuo modello o il README

Mostra il Mac più piccolo che esegue bene Hy3 e rimanda a questa pagina.

[![Runs on a Mac](https://mlx.app/badge/run/hy3.svg)](https://mlx.app/run/hy3)

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.