Kaya bang patakbuhin ng Mac ang Qwen3 Coder Next?

Oo, kung may 96 GB na unified memory o higit pa. May 80B na parameter ang Qwen3 Coder Next, 3B dito ang aktibo sa bawat token; narito ang memory na kailangan nito sa bawat precision at kung gaano ito kabilis sa bawat Apple chip.

Memory sa 4-bit48.6 GBweights 45 GB + context
Pinakamaliit na Mac96 GB6-bit · 32 configuration ng Mac
Pinakamabilis na Mac225–400token/s · M5 Ultra 96 GB (tantiya)

Memory sa bawat precision

BersyonWeightsKasama ang contextPinakamaliit na Mac
8-bit85 GB91.8 GB128 GB
6-bit65 GB70.2 GB96 GB
4-bit45 GB48.6 GB96 GB
3-bit mas mababang kalidad35 GB37.8 GB64 GB
2-bit mas mababang kalidad25 GB27 GB36 GB

Sa bawat Apple chip

Ang pinakamaliit na memory size ng bawat chip na kaya ang Qwen3 Coder Next, ang pinakamagandang bersyong kasya rito, at ang bilis ng pagsusulat na maaasahan mo.

ChipKailanganBersyonToken/s
M632 GB2-bit Halos hindi kasya85–151
M5 Ultra96 GB6-bit Maayos225–400
M5 Max128 GB8-bit Maayos86–154
M5 Pro48 GB2-bit Maayos154–273
M532 GB2-bit Halos hindi kasya77–136
M4 Max128 GB8-bit Maayos77–137
M4 Pro48 GB2-bit Maayos137–243
M432 GB2-bit Halos hindi kasya60–107
M3 Ultra96 GB6-bit Maayos154–273
M3 Max96 GB6-bit Maayos56–100
M3 Pro36 GB2-bit Maayos75–133
M3walang kasyang sizeMasyadong malaki–
M2 Ultra128 GB8-bit Maayos113–200
M2 Max96 GB6-bit Maayos75–133
M2 Pro32 GB2-bit Halos hindi kasya100–178
M2walang kasyang sizeMasyadong malaki–
M1 Ultra128 GB8-bit Maayos113–200
M1 Max64 GB3-bit Maayos138–246
M1 Pro32 GB2-bit Halos hindi kasya100–178
M1walang kasyang sizeMasyadong malaki–

Paano ito patakbuhin

  1. Ang madaling paraan: i-download ang MLX Harness, libre at open source. Hanapin ang Qwen3 Coder Next, i-download ang bersyong kasya sa Mac mo, at mag-chat. Ibinibigay rin nito ang model sa iba mo pang app sa pamamagitan ng API na compatible sa OpenAI.I-download ang MLX HarnessLibre · Apple Silicon · macOS 14.5 o mas bago
  2. Sa Terminal gamit ang MLX ng Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-Next-4bitBuild: mlx-community/Qwen3-Coder-Next-4bit sa Hugging Face. Katabi nito ang ibang precision.

Hakbang-hakbang: mag-download at magpatakbo ng LLM sa Mac · paano gamitin ang MLX Harness · MLX vs Ollama vs llama.cpp

Tungkol sa Qwen3 Coder Next

Gawa ngQwen (Alibaba)
Mga parameter80B kabuuan · 3B aktibo (mixture of experts)
Context256K token
LisensyaApache-2.0
Inilabas2026-01
InputText
Intelligence9.2 sa Artificial Analysis Intelligence Index
WeightsQwen/Qwen3-Coder-Next

Mga tanong

Gaano karaming memory ang kailangan ng Qwen3 Coder Next?
Mga 45 GB ng weights sa 4-bit, dagdag ang espasyo para sa context: 48.6 GB lahat-lahat. Sa Mac, ibig sabihin nito ay 96 GB na unified memory o higit pa, dahil bilang default, mga 75% nito ang ipinapagamit ng macOS sa GPU.
Gaano kabilis ang Qwen3 Coder Next sa Mac?
Nakadepende sa memory bandwidth ang bilis ng pagsusulat. Ang pinakamabilis na Mac para dito ay M5 Ultra na may 96 GB, sa mga 225–400 token bawat segundo (6-bit). Ang pinakamaliit na Mac na kaya ito, na may 96 GB, ay umaabot sa mga 225–400 sa M5 Ultra.
Bakit mas mabilis ang Qwen3 Coder Next kaysa sa inaasahan sa laki nito?
Isa itong mixture-of-experts na model: may 80B na parameter ito sa memory pero 3B lang ang binabasa nito sa bawat token, kaya nagsusulat ito sa bilis ng mas maliit na model.

Mga katulad na model

Bawat model · Bawat Mac · Ihambing ang Mac mo

Para sa model card o README mo

Runs on a Mac: Qwen3 Coder Next Ipinapakita ang pinakamaliit na Mac na maayos na nagpapatakbo ng Qwen3 Coder Next at nagli-link dito.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-coder-next.svg)](https://mlx.app/run/qwen3-coder-next)

Paano ito kinuwenta

Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.

Kaya ba ng Mac ang Qwen3 Coder Next? Memory at bilis