EntrarCriar carteira

Um Mac roda Qwen3 8B?

Sim, com 16 GB de memória unificada ou mais. Qwen3 8B tem 8,2B parâmetros; veja aqui a memória necessária em cada precisão e a velocidade com que cada chip da Apple roda o modelo.

Memória com 4 bits6,1 GBpesos 4,6 GB + contexto
Menor Mac16 GB8 bits · 58 configurações de Mac
Mac mais rápido62–110tokens/s · M5 Ultra 96 GB (estimativa)

Memória em cada precisão

VersãoPesosCom contextoMenor Mac
8 bits8,7 GB10,2 GB16 GB
6 bits6,7 GB8,2 GB16 GB
4 bits4,6 GB6,1 GB16 GB
3 bits qualidade menor3,6 GB5,1 GB8 GB
2 bits qualidade menor2,6 GB4,1 GB8 GB

Em cada chip da Apple

O menor tamanho de memória de cada chip que roda Qwen3 8B, a melhor versão que cabe e a velocidade de escrita que você pode esperar.

ChipPrecisaVersãoTokens/s
M616 GB6 bits Roda bem10–18
M5 Ultra96 GB8 bits Roda bem62–110
M5 Max36 GB8 bits Roda bem24–42
M5 Pro24 GB8 bits Roda bem16–28
M516 GB6 bits Roda bem10–18
M4 Max36 GB8 bits Roda bem21–38
M4 Pro24 GB8 bits Roda bem14–25
M416 GB4 bits Roda bem12–21
M3 Ultra96 GB8 bits Roda bem42–75
M3 Max36 GB8 bits Roda bem16–28
M3 Pro18 GB6 bits Roda bem10–18
M316 GB4 bits Roda bem10–17
M2 Ultra64 GB8 bits Roda bem41–74
M2 Max32 GB8 bits Roda bem21–37
M2 Pro16 GB8 bits Roda bem10–18
M216 GB4 bits Roda bem10–17
M1 Ultra64 GB8 bits Roda bem41–74
M1 Max32 GB8 bits Roda bem21–37
M1 Pro16 GB8 bits Roda bem10–18
M116 GB8 bits Lento4–6

Como rodar

  1. O jeito fácil: baixe o MLX Harness, grátis e open source. Procure Qwen3 8B, baixe a versão que cabe no seu Mac e comece a conversar. O MLX Harness também disponibiliza o modelo para os seus outros apps por uma API compatível com a OpenAI.Baixe o MLX HarnessGrátis · Apple Silicon · macOS 14.5 ou posterior
  2. No Terminal, com o MLX da Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-8B-4bitVersão MLX: mlx-community/Qwen3-8B-4bit no Hugging Face. As outras precisões ficam logo ao lado.

Passo a passo: baixar e rodar LLMs no Mac · como usar o MLX Harness · MLX vs Ollama vs llama.cpp

Sobre Qwen3 8B

Criado porQwen (Alibaba)
Parâmetros8,2B (denso)
Contexto40K tokens
LicençaApache-2.0
Lançamento2025-04
EntradaTexto
PesosQwen/Qwen3-8B

Perguntas

Quanta memória Qwen3 8B precisa?
Cerca de 4,6 GB de pesos com 4 bits, mais espaço para o contexto: 6,1 GB no total. No Mac, isso significa 16 GB de memória unificada ou mais, já que o macOS deixa a GPU usar cerca de 75% dela por padrão.
Qual é a velocidade de Qwen3 8B no Mac?
A velocidade de escrita depende da largura de banda da memória. Aqui, o Mac mais rápido para ele é um M5 Ultra com 96 GB, a cerca de 62–110 tokens por segundo (8 bits). O menor Mac que o roda, com 16 GB, chega a cerca de 10–18 em um M2 Pro.
A quantização prejudica Qwen3 8B?
Com 4 bits, a maioria dos modelos fica perto da qualidade original; abaixo de 4 bits, a qualidade cai mais rápido. Escolha a maior precisão que cabe no seu Mac com folga.

Modelos parecidos

Todos os modelos · Todos os Macs · Compare o seu Mac

Para o model card ou o README do seu modelo

Runs on a Mac: Qwen3 8B Mostra o menor Mac que roda bem Qwen3 8B e leva para esta página.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-8b.svg)](https://mlx.app/run/qwen3-8b)

Como é calculado

Memória: os parâmetros do modelo com 8, 6, 4, 3 ou 2 bits por peso, mais as escalas por grupo do MLX (meio bit por peso), ou o formato nativo do modelo, com espaço extra para o contexto. Por padrão, o macOS deixa a GPU usar cerca de 75% da memória unificada. Velocidade: a largura de banda da memória dividida pelos bytes lidos por token é o teto para uma conversa; nos benchmarks públicos de Apple Silicon do llama.cpp, execuções reais chegam a cerca de 45% a 80% desse teto, que é a faixa mostrada. São estimativas, não medições: meça o seu Mac no MLX Bench. Dados dos modelos tirados de cada model card oficial; dados dos chips, das especificações técnicas da Apple. Verificado em 2026-10-19. Os mesmos dados de mlx.app/compare.

Um Mac roda Qwen3 8B? Memória e velocidade