EntrarCriar carteira

Um Mac roda Granite 4.2 8B?

Sim, com 8 GB de memória unificada ou mais. Granite 4.2 8B tem 8B parâmetros; veja aqui a memória necessária em cada precisão e a velocidade com que cada chip da Apple roda o modelo.

Memória com 4 bits6 GBpesos 4,5 GB + contexto
Menor Mac8 GB4 bits · 58 configurações de Mac
Mac mais rápido64–113tokens/s · M5 Ultra 96 GB (estimativa)

Memória em cada precisão

VersãoPesosCom contextoMenor Mac
8 bits8,5 GB10 GB16 GB
6 bits6,5 GB8 GB16 GB
4 bits4,5 GB6 GB8 GB
3 bits qualidade menor3,5 GB5 GB8 GB
2 bits qualidade menor2,5 GB4 GB8 GB

Em cada chip da Apple

O menor tamanho de memória de cada chip que roda Granite 4.2 8B, a melhor versão que cabe e a velocidade de escrita que você pode esperar.

ChipPrecisaVersãoTokens/s
M616 GB6 bits Roda bem11–19
M5 Ultra96 GB8 bits Roda bem64–113
M5 Max36 GB8 bits Roda bem24–43
M5 Pro24 GB8 bits Roda bem16–29
M516 GB6 bits Roda bem11–19
M4 Max36 GB8 bits Roda bem22–39
M4 Pro24 GB8 bits Roda bem14–26
M416 GB4 bits Roda bem12–21
M3 Ultra96 GB8 bits Roda bem43–77
M3 Max36 GB8 bits Roda bem16–28
M3 Pro18 GB6 bits Roda bem10–18
M38 GB4 bits Roda bem10–18
M2 Ultra64 GB8 bits Roda bem42–75
M2 Max32 GB8 bits Roda bem21–38
M2 Pro16 GB8 bits Roda bem11–19
M28 GB4 bits Roda bem10–18
M1 Ultra64 GB8 bits Roda bem42–75
M1 Max32 GB8 bits Roda bem21–38
M1 Pro16 GB8 bits Roda bem11–19
M18 GB4 bits Lento7–12

Como rodar

  1. O jeito fácil: baixe o MLX Harness, grátis e open source. Procure Granite 4.2 8B, baixe a versão que cabe no seu Mac e comece a conversar. O MLX Harness também disponibiliza o modelo para os seus outros apps por uma API compatível com a OpenAI.Baixe o MLX HarnessGrátis · Apple Silicon · macOS 14.5 ou posterior
  2. No Terminal, com o MLX da Apple: Ainda não há uma versão MLX da comunidade, então crie uma a partir dos pesos oficiais:pip install mlx-lmmlx_lm.convert --hf-path ibm-granite/granite-4.2-8b -q

Passo a passo: baixar e rodar LLMs no Mac · como usar o MLX Harness · MLX vs Ollama vs llama.cpp

Sobre Granite 4.2 8B

Criado porIBM
Parâmetros8B (denso)
Contexto128K tokens
LicençaApache-2.0
Lançamento2026-08
EntradaTexto
Inteligência11,1 no Artificial Analysis Intelligence Index
Pesosibm-granite/granite-4.2-8b

Perguntas

Quanta memória Granite 4.2 8B precisa?
Cerca de 4,5 GB de pesos com 4 bits, mais espaço para o contexto: 6 GB no total. No Mac, isso significa 8 GB de memória unificada ou mais, já que o macOS deixa a GPU usar cerca de 75% dela por padrão.
Qual é a velocidade de Granite 4.2 8B no Mac?
A velocidade de escrita depende da largura de banda da memória. Aqui, o Mac mais rápido para ele é um M5 Ultra com 96 GB, a cerca de 64–113 tokens por segundo (8 bits). O menor Mac que o roda, com 8 GB, chega a cerca de 10–18 em um M3.
A quantização prejudica Granite 4.2 8B?
Com 4 bits, a maioria dos modelos fica perto da qualidade original; abaixo de 4 bits, a qualidade cai mais rápido. Escolha a maior precisão que cabe no seu Mac com folga.

Modelos parecidos

Todos os modelos · Todos os Macs · Compare o seu Mac

Para o model card ou o README do seu modelo

Runs on a Mac: Granite 4.2 8B Mostra o menor Mac que roda bem Granite 4.2 8B e leva para esta página.

[![Runs on a Mac](https://mlx.app/badge/run/granite-4.2-8b.svg)](https://mlx.app/run/granite-4.2-8b)

Como é calculado

Memória: os parâmetros do modelo com 8, 6, 4, 3 ou 2 bits por peso, mais as escalas por grupo do MLX (meio bit por peso), ou o formato nativo do modelo, com espaço extra para o contexto. Por padrão, o macOS deixa a GPU usar cerca de 75% da memória unificada. Velocidade: a largura de banda da memória dividida pelos bytes lidos por token é o teto para uma conversa; nos benchmarks públicos de Apple Silicon do llama.cpp, execuções reais chegam a cerca de 45% a 80% desse teto, que é a faixa mostrada. São estimativas, não medições: meça o seu Mac no MLX Bench. Dados dos modelos tirados de cada model card oficial; dados dos chips, das especificações técnicas da Apple. Verificado em 2026-10-19. Os mesmos dados de mlx.app/compare.

Um Mac roda Granite 4.2 8B? Memória e velocidade