AnmeldenWallet erstellen

Läuft Qwen3 Coder 30B A3B Instruct auf einem Mac?

Ja, mit 32 GB gemeinsamem Arbeitsspeicher oder mehr. Qwen3 Coder 30B A3B Instruct hat 30,5B Parameter, davon 3,3B aktiv pro Token; hier siehst du, wie viel Speicher es bei jeder Genauigkeit braucht und wie schnell jeder Apple-Chip es ausführt.

Speicher mit 4 Bit18,7 GBGewichte 17,2 GB + Kontext
Kleinster Mac32 GB4 Bit · 55 Mac-Konfigurationen
Schnellster Mac154–274Tokens/s · M5 Ultra 96 GB (Schätzung)

Speicher bei jeder Genauigkeit

VersionGewichteMit KontextKleinster Mac
8 Bit32,4 GB35 GB48 GB
6 Bit24,8 GB26,8 GB36 GB
4 Bit17,2 GB18,7 GB32 GB
3 Bit geringere Qualität13,3 GB14,8 GB24 GB
2 Bit geringere Qualität9,5 GB11 GB16 GB

Auf jedem Apple-Chip

Die kleinste Speichergröße jedes Chips, mit der Qwen3 Coder 30B A3B Instruct läuft, die beste Version, die hineinpasst, und das Schreibtempo, das du erwarten kannst.

ChipBrauchtVersionTokens/s
M632 GB4 Bit Läuft gut40–72
M5 Ultra96 GB8 Bit Läuft gut154–274
M5 Max36 GB6 Bit Läuft gut77–136
M5 Pro48 GB8 Bit Läuft gut39–70
M532 GB4 Bit Läuft gut36–64
M4 Max36 GB6 Bit Läuft gut68–121
M4 Pro48 GB8 Bit Läuft gut35–62
M432 GB4 Bit Läuft gut28–51
M3 Ultra96 GB8 Bit Läuft gut105–187
M3 Max36 GB6 Bit Läuft gut50–89
M3 Pro36 GB6 Bit Läuft gut25–44
M316 GB2 Bit Läuft gut45–80
M2 Ultra64 GB8 Bit Läuft gut103–183
M2 Max32 GB4 Bit Läuft gut95–168
M2 Pro32 GB4 Bit Läuft gut47–84
M216 GB2 Bit Läuft gut45–80
M1 Ultra64 GB8 Bit Läuft gut103–183
M1 Max32 GB4 Bit Läuft gut95–168
M1 Pro32 GB4 Bit Läuft gut47–84
M116 GB2 Bit Läuft gut31–54

So führst du es aus

  1. Der einfache Weg: Lade MLX Harness herunter, kostenlos und Open Source. Suche nach Qwen3 Coder 30B A3B Instruct, lade die Version, die zu deinem Mac passt, und chatte los. MLX Harness stellt das Modell auch deinen anderen Apps über eine OpenAI-kompatible API bereit.MLX Harness herunterladenKostenlos · Apple Silicon · macOS 14.5 oder neuer
  2. Im Terminal mit Apples MLX:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bitBuild: mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit auf Hugging Face. Andere Genauigkeiten liegen gleich daneben.

Schritt für Schritt: LLMs auf den Mac laden und ausführen · So nutzt du MLX Harness · MLX vs. Ollama vs. llama.cpp

Über Qwen3 Coder 30B A3B Instruct

VonQwen (Alibaba)
Parameter30,5B gesamt · 3,3B aktiv (Mixture of Experts)
Kontext256K Tokens
LizenzApache-2.0
Veröffentlicht2025-07
EingabeText
GewichteQwen/Qwen3-Coder-30B-A3B-Instruct

Fragen

Wie viel Speicher braucht Qwen3 Coder 30B A3B Instruct?
Etwa 17,2 GB für die Gewichte mit 4 Bit, plus Platz für den Kontext: insgesamt 18,7 GB. Auf einem Mac heißt das 32 GB gemeinsamer Arbeitsspeicher oder mehr, denn macOS lässt die GPU standardmäßig etwa 75 % davon nutzen.
Wie schnell ist Qwen3 Coder 30B A3B Instruct auf einem Mac?
Das Schreibtempo hängt von der Speicherbandbreite ab. Der schnellste Mac dafür ist hier einer mit M5 Ultra und 96 GB, mit etwa 154–274 Tokens pro Sekunde (8 Bit). Der kleinste Mac, der es ausführt, schafft mit 32 GB etwa 95–168 auf dem M2 Max.
Warum läuft Qwen3 Coder 30B A3B Instruct schneller, als seine Größe vermuten lässt?
Es ist ein Mixture-of-Experts-Modell: Es hält 30,5B Parameter im Speicher, liest pro Token aber nur 3,3B. Darum schreibt es so schnell wie ein viel kleineres Modell.

Ähnliche Modelle

Alle Modelle · Alle Macs · Deinen Mac vergleichen

Für deine Model Card oder README

Runs on a Mac: Qwen3 Coder 30B A3B Instruct Zeigt den kleinsten Mac, der Qwen3 Coder 30B A3B Instruct gut ausführt, und verlinkt hierher.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-coder-30b-a3b.svg)](https://mlx.app/run/qwen3-coder-30b-a3b)

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.

Läuft Qwen3 Coder 30B A3B Instruct auf dem Mac? Speicher und Tempo