¿Cuánta memoria necesita Hy-Memory-30B-A3B?

Unos 16,9 GB de pesos a 4 bits, más espacio para el contexto: 18,4 GB en total. En una Mac, eso significa 32 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.

¿Qué tan rápido va Hy-Memory-30B-A3B en una Mac?

La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 159–282 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 32 GB, logra unos 100–178 con un M2 Max.

¿Por qué Hy-Memory-30B-A3B va más rápido de lo que sugiere su tamaño?

Es un modelo de mezcla de expertos: mantiene 30,1B parámetros en memoria, pero solo lee 3,2B en cada token, así que escribe a la velocidad de un modelo mucho más pequeño.

¿Puede una Mac ejecutar Hy-Memory-30B-A3B? RAM, velocidad

Memoria en cada precisión

Versión	Pesos	Con contexto	Mac más pequeña
8 bits	31,9 GB	34,5 GB	48 GB
6 bits	24,4 GB	26,4 GB	36 GB
4 bits	16,9 GB	18,4 GB	32 GB
3 bits menor calidad	13,2 GB	14,7 GB	24 GB
2 bits menor calidad	9,4 GB	10,9 GB	16 GB

En cada chip de Apple

El tamaño de memoria más pequeño de cada chip que ejecuta Hy-Memory-30B-A3B, la mejor versión que cabe y la velocidad de escritura que puedes esperar.

Chip	Necesita	Versión	Tokens/s
M6	32 GB	4 bits Va bien	43–76
M5 Ultra	96 GB	8 bits Va bien	159–282
M5 Max	36 GB	6 bits Va bien	80–142
M5 Pro	48 GB	8 bits Va bien	41–72
M5	32 GB	4 bits Va bien	38–68
M4 Max	36 GB	6 bits Va bien	71–126
M4 Pro	48 GB	8 bits Va bien	36–64
M4	32 GB	4 bits Va bien	30–53
M3 Ultra	96 GB	8 bits Va bien	108–193
M3 Max	36 GB	6 bits Va bien	52–92
M3 Pro	36 GB	6 bits Va bien	26–46
M3	16 GB	2 bits Va bien	45–80
M2 Ultra	64 GB	8 bits Va bien	106–188
M2 Max	32 GB	4 bits Va bien	100–178
M2 Pro	32 GB	4 bits Va bien	50–89
M2	16 GB	2 bits Va bien	45–80
M1 Ultra	64 GB	8 bits Va bien	106–188
M1 Max	32 GB	4 bits Va bien	100–178
M1 Pro	32 GB	4 bits Va bien	50–89
M1	16 GB	2 bits Va bien	31–54

Cómo ejecutarlo

La forma fácil: descarga MLX Harness, gratis y de código abierto. Busca Hy-Memory-30B-A3B, descarga la versión que encaja con tu Mac y empieza a chatear. MLX Harness también ofrece el modelo a tus otras apps mediante una API compatible con OpenAI.Descarga MLX HarnessGratis · Apple Silicon · macOS 14.5 o posterior
En Terminal, con MLX de Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Hy-Memory-30B-A3B-4bit --trust-remote-code--trust-remote-code permite que mlx-lm ejecute el código Python que viene con esta versión, necesario para cargarla.Versión MLX: mlx-community/Hy-Memory-30B-A3B-4bit en Hugging Face. Las demás precisiones están justo al lado.

Paso a paso: descargar y ejecutar LLM en tu Mac · cómo usar MLX Harness · MLX vs Ollama vs llama.cpp

Sobre Hy-Memory-30B-A3B

Creado por	Tencent
Parámetros	30,1B en total · 3,2B activos (mezcla de expertos)
Contexto	256K tokens
Licencia	Apache-2.0
Lanzamiento	2026-10
Entrada	Texto
Pesos	tencent/Hy-Memory-30B-A3B

Preguntas

¿Cuánta memoria necesita Hy-Memory-30B-A3B?: Unos 16,9 GB de pesos a 4 bits, más espacio para el contexto: 18,4 GB en total. En una Mac, eso significa 32 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.
¿Qué tan rápido va Hy-Memory-30B-A3B en una Mac?: La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 159–282 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 32 GB, logra unos 100–178 con un M2 Max.
¿Por qué Hy-Memory-30B-A3B va más rápido de lo que sugiere su tamaño?: Es un modelo de mezcla de expertos: mantiene 30,1B parámetros en memoria, pero solo lee 3,2B en cada token, así que escribe a la velocidad de un modelo mucho más pequeño.

Modelos similares

Todos los modelos · Todas las Mac · Compara tu Mac

Para la ficha de tu modelo o tu README

Muestra la Mac más pequeña que ejecuta bien Hy-Memory-30B-A3B y enlaza a esta página.

[![Runs on a Mac](https://mlx.app/badge/run/hy-memory-30b-a3b.svg)](https://mlx.app/run/hy-memory-30b-a3b)

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

Datos abiertos: mlx.app/data (JSON, CSV)