Quanta memoria richiede Hy-Memory-30B-A3B?

Circa 16,9 GB di pesi a 4 bit, più lo spazio per il contesto: 18,4 GB in tutto. Su un Mac significa 32 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.

Quanto è veloce Hy-Memory-30B-A3B su un Mac?

La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 159–282 token al secondo (8 bit). Il Mac più piccolo che lo esegue, con 32 GB, arriva a circa 100–178 su un M2 Max.

Perché Hy-Memory-30B-A3B è più veloce di quanto suggeriscano le sue dimensioni?

È un modello mixture-of-experts: tiene in memoria 30,1B parametri ma per ogni token ne legge solo 3,2B, quindi scrive alla velocità di un modello molto più piccolo.

Un Mac può eseguire Hy-Memory-30B-A3B? Memoria, velocità

Memoria a ogni precisione

Versione	Pesi	Con contesto	Mac più piccolo
8 bit	31,9 GB	34,5 GB	48 GB
6 bit	24,4 GB	26,4 GB	36 GB
4 bit	16,9 GB	18,4 GB	32 GB
3 bit qualità inferiore	13,2 GB	14,7 GB	24 GB
2 bit qualità inferiore	9,4 GB	10,9 GB	16 GB

Su ogni chip Apple

Per ogni chip, il taglio di memoria più piccolo che esegue Hy-Memory-30B-A3B, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.

Chip	Richiede	Versione	Token/s
M6	32 GB	4 bit Gira bene	43–76
M5 Ultra	96 GB	8 bit Gira bene	159–282
M5 Max	36 GB	6 bit Gira bene	80–142
M5 Pro	48 GB	8 bit Gira bene	41–72
M5	32 GB	4 bit Gira bene	38–68
M4 Max	36 GB	6 bit Gira bene	71–126
M4 Pro	48 GB	8 bit Gira bene	36–64
M4	32 GB	4 bit Gira bene	30–53
M3 Ultra	96 GB	8 bit Gira bene	108–193
M3 Max	36 GB	6 bit Gira bene	52–92
M3 Pro	36 GB	6 bit Gira bene	26–46
M3	16 GB	2 bit Gira bene	45–80
M2 Ultra	64 GB	8 bit Gira bene	106–188
M2 Max	32 GB	4 bit Gira bene	100–178
M2 Pro	32 GB	4 bit Gira bene	50–89
M2	16 GB	2 bit Gira bene	45–80
M1 Ultra	64 GB	8 bit Gira bene	106–188
M1 Max	32 GB	4 bit Gira bene	100–178
M1 Pro	32 GB	4 bit Gira bene	50–89
M1	16 GB	2 bit Gira bene	31–54

Come eseguirlo

Il modo più semplice: scarica MLX Harness, gratuito e open source. Cerca Hy-Memory-30B-A3B, scarica la versione adatta al tuo Mac e inizia a chattare. MLX Harness rende disponibile il modello anche alle tue altre app tramite un’API compatibile con OpenAI.Scarica MLX HarnessGratuito · Apple Silicon · macOS 14.5 o successivo
Nel Terminale, con MLX di Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Hy-Memory-30B-A3B-4bit --trust-remote-code--trust-remote-code permette a mlx-lm di eseguire il codice Python incluso in questa build, necessario per caricarla.Build: mlx-community/Hy-Memory-30B-A3B-4bit su Hugging Face. Le altre precisioni sono lì accanto.

Passo dopo passo: scaricare ed eseguire LLM su Mac · come usare MLX Harness · MLX vs Ollama vs llama.cpp

Informazioni su Hy-Memory-30B-A3B

Creato da	Tencent
Parametri	30,1B in totale · 3,2B attivi (mixture-of-experts)
Contesto	256K token
Licenza	Apache-2.0
Uscita	2026-10
Input	Testo
Pesi	tencent/Hy-Memory-30B-A3B

Domande

Quanta memoria richiede Hy-Memory-30B-A3B?: Circa 16,9 GB di pesi a 4 bit, più lo spazio per il contesto: 18,4 GB in tutto. Su un Mac significa 32 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.
Quanto è veloce Hy-Memory-30B-A3B su un Mac?: La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 159–282 token al secondo (8 bit). Il Mac più piccolo che lo esegue, con 32 GB, arriva a circa 100–178 su un M2 Max.
Perché Hy-Memory-30B-A3B è più veloce di quanto suggeriscano le sue dimensioni?: È un modello mixture-of-experts: tiene in memoria 30,1B parametri ma per ogni token ne legge solo 3,2B, quindi scrive alla velocità di un modello molto più piccolo.

Modelli simili

Tutti i modelli · Tutti i Mac · Confronta il tuo Mac

Per la scheda del tuo modello o il README

Mostra il Mac più piccolo che esegue bene Hy-Memory-30B-A3B e rimanda a questa pagina.

[![Runs on a Mac](https://mlx.app/badge/run/hy-memory-30b-a3b.svg)](https://mlx.app/run/hy-memory-30b-a3b)

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

Dati aperti: mlx.app/data (JSON, CSV)