¿Cuánta memoria necesita LFM2.5 24B A2B?

Unos 13,5 GB de pesos a 4 bits, más espacio para el contexto: 15 GB en total. En una Mac, eso significa 24 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.

¿Qué tan rápido va LFM2.5 24B A2B en una Mac?

La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 257–457 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 24 GB, logra unos 126–223 con un M5 Pro.

¿Por qué LFM2.5 24B A2B va más rápido de lo que sugiere su tamaño?

Es un modelo de mezcla de expertos: mantiene 24B parámetros en memoria, pero solo lee 2B en cada token, así que escribe a la velocidad de un modelo mucho más pequeño.

¿Puede una Mac ejecutar LFM2.5 24B A2B? RAM, velocidad

Memoria en cada precisión

Versión	Pesos	Con contexto	Mac más pequeña
8 bits	25,5 GB	27,5 GB	48 GB
6 bits	19,5 GB	21,1 GB	32 GB
4 bits	13,5 GB	15 GB	24 GB
3 bits menor calidad	10,5 GB	12 GB	16 GB
2 bits menor calidad	7,5 GB	9 GB	16 GB

En cada chip de Apple

El tamaño de memoria más pequeño de cada chip que ejecuta LFM2.5 24B A2B, la mejor versión que cabe y la velocidad de escritura que puedes esperar.

Chip	Necesita	Versión	Tokens/s
M6	24 GB	4 bits Va bien	70–124
M5 Ultra	96 GB	8 bits Va bien	257–457
M5 Max	36 GB	6 bits Va bien	129–230
M5 Pro	24 GB	4 bits Va bien	126–223
M5	24 GB	4 bits Va bien	63–111
M4 Max	36 GB	6 bits Va bien	115–205
M4 Pro	24 GB	4 bits Va bien	112–199
M4	24 GB	4 bits Va bien	49–87
M3 Ultra	96 GB	8 bits Va bien	176–312
M3 Max	36 GB	6 bits Va bien	84–150
M3 Pro	36 GB	6 bits Va bien	42–75
M3	24 GB	4 bits Va bien	41–73
M2 Ultra	64 GB	8 bits Va bien	171–305
M2 Max	32 GB	6 bits Va bien	113–200
M2 Pro	32 GB	6 bits Va bien	56–100
M2	24 GB	4 bits Va bien	41–73
M1 Ultra	64 GB	8 bits Va bien	171–305
M1 Max	32 GB	6 bits Va bien	113–200
M1 Pro	32 GB	6 bits Va bien	56–100
M1	16 GB	3 bits Va bien	34–60

Cómo ejecutarlo

La forma fácil: descarga MLX Harness, gratis y de código abierto. Busca LFM2.5 24B A2B, descarga la versión que encaja con tu Mac y empieza a chatear. MLX Harness también ofrece el modelo a tus otras apps mediante una API compatible con OpenAI.Descarga MLX HarnessGratis · Apple Silicon · macOS 14.5 o posterior
En Terminal, con MLX de Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/LFM2.5-24B-A2B-OptiQ-4bitVersión MLX: mlx-community/LFM2.5-24B-A2B-OptiQ-4bit en Hugging Face. Las demás precisiones están justo al lado.

Paso a paso: descargar y ejecutar LLM en tu Mac · cómo usar MLX Harness · MLX vs Ollama vs llama.cpp

Sobre LFM2.5 24B A2B

Creado por	Liquid AI
Parámetros	24B en total · 2B activos (mezcla de expertos)
Contexto	128K tokens
Licencia	LFM Open License v1.0 (lfm1.0)
Lanzamiento	2026-10
Entrada	Texto
Pesos	LiquidAI/LFM2.5-24B-A2B

Preguntas

¿Cuánta memoria necesita LFM2.5 24B A2B?: Unos 13,5 GB de pesos a 4 bits, más espacio para el contexto: 15 GB en total. En una Mac, eso significa 24 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.
¿Qué tan rápido va LFM2.5 24B A2B en una Mac?: La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 257–457 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 24 GB, logra unos 126–223 con un M5 Pro.
¿Por qué LFM2.5 24B A2B va más rápido de lo que sugiere su tamaño?: Es un modelo de mezcla de expertos: mantiene 24B parámetros en memoria, pero solo lee 2B en cada token, así que escribe a la velocidad de un modelo mucho más pequeño.

Modelos similares

Todos los modelos · Todas las Mac · Compara tu Mac

Para la ficha de tu modelo o tu README

Muestra la Mac más pequeña que ejecuta bien LFM2.5 24B A2B y enlaza a esta página.

[![Runs on a Mac](https://mlx.app/badge/run/lfm2.5-24b-a2b.svg)](https://mlx.app/run/lfm2.5-24b-a2b)

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.