¿Cuánta memoria necesita Granite 4.2 3B?

Unos 1,7 GB de pesos a 4 bits, más espacio para el contexto: 3,2 GB en total. En una Mac, eso significa 8 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.

¿Qué tan rápido va Granite 4.2 3B en una Mac?

La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 169–300 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 8 GB, logra unos 14–25 con un M3.

¿La cuantización empeora Granite 4.2 3B?

A 4 bits, la mayoría de los modelos se mantienen cerca de la calidad original; por debajo de 4 bits, la calidad cae más rápido. Elige la precisión más alta que quepa en tu Mac con margen.

¿Puede una Mac ejecutar Granite 4.2 3B? RAM, velocidad

Memoria en cada precisión

Versión	Pesos	Con contexto	Mac más pequeña
8 bits	3,2 GB	4,7 GB	8 GB
6 bits	2,4 GB	3,9 GB	8 GB
4 bits	1,7 GB	3,2 GB	8 GB
3 bits menor calidad	1,3 GB	2,8 GB	8 GB
2 bits menor calidad	0,9 GB	2,4 GB	8 GB

En cada chip de Apple

El tamaño de memoria más pequeño de cada chip que ejecuta Granite 4.2 3B, la mejor versión que cabe y la velocidad de escritura que puedes esperar.

Chip	Necesita	Versión	Tokens/s
M6	16 GB	8 bits Va bien	22–38
M5 Ultra	96 GB	8 bits Va bien	169–300
M5 Max	36 GB	8 bits Va bien	65–115
M5 Pro	24 GB	8 bits Va bien	43–77
M5	16 GB	8 bits Va bien	22–38
M4 Max	36 GB	8 bits Va bien	58–103
M4 Pro	24 GB	8 bits Va bien	38–68
M4	16 GB	8 bits Va bien	17–30
M3 Ultra	96 GB	8 bits Va bien	115–205
M3 Max	36 GB	8 bits Va bien	42–75
M3 Pro	18 GB	8 bits Va bien	21–38
M3	8 GB	8 bits Va bien	14–25
M2 Ultra	64 GB	8 bits Va bien	113–200
M2 Max	32 GB	8 bits Va bien	56–100
M2 Pro	16 GB	8 bits Va bien	28–50
M2	8 GB	8 bits Va bien	14–25
M1 Ultra	64 GB	8 bits Va bien	113–200
M1 Max	32 GB	8 bits Va bien	56–100
M1 Pro	16 GB	8 bits Va bien	28–50
M1	8 GB	8 bits Va bien	10–17

Cómo ejecutarlo

La forma fácil: descarga MLX Harness, gratis y de código abierto. Busca Granite 4.2 3B, descarga la versión que encaja con tu Mac y empieza a chatear. MLX Harness también ofrece el modelo a tus otras apps mediante una API compatible con OpenAI.Descarga MLX HarnessGratis · Apple Silicon · macOS 14.5 o posterior
En Terminal, con MLX de Apple: Todavía no hay una versión MLX de la comunidad, así que crea una a partir de los pesos oficiales:pip install mlx-lmmlx_lm.convert --hf-path ibm-granite/granite-4.2-3b -q

Paso a paso: descargar y ejecutar LLM en tu Mac · cómo usar MLX Harness · MLX vs Ollama vs llama.cpp

Sobre Granite 4.2 3B

Creado por	IBM
Parámetros	3B (denso)
Contexto	128K tokens
Licencia	Apache-2.0
Lanzamiento	2026-08
Entrada	Texto
Inteligencia	9,1 en el Artificial Analysis Intelligence Index
Pesos	ibm-granite/granite-4.2-3b

Preguntas

¿Cuánta memoria necesita Granite 4.2 3B?: Unos 1,7 GB de pesos a 4 bits, más espacio para el contexto: 3,2 GB en total. En una Mac, eso significa 8 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.
¿Qué tan rápido va Granite 4.2 3B en una Mac?: La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 169–300 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 8 GB, logra unos 14–25 con un M3.
¿La cuantización empeora Granite 4.2 3B?: A 4 bits, la mayoría de los modelos se mantienen cerca de la calidad original; por debajo de 4 bits, la calidad cae más rápido. Elige la precisión más alta que quepa en tu Mac con margen.

Modelos similares

Todos los modelos · Todas las Mac · Compara tu Mac

Para la ficha de tu modelo o tu README

Muestra la Mac más pequeña que ejecuta bien Granite 4.2 3B y enlaza a esta página.

[![Runs on a Mac](https://mlx.app/badge/run/granite-4.2-3b.svg)](https://mlx.app/run/granite-4.2-3b)

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.